칼라슈니코프는 시베리아 알타이 지역에서 대가족 농민인 부친의 17번째 자녀로 1919년 출생했다. 19살 때 소련군에 징집돼 탱크 부대에서 근무하다 2차 세계대전을 겪었다.
러시아 서부 브랸스크에서 독일군과의 전투 중 심하게 다친 그는 병상에서 다른 부상병들이 구식 소총에 대해 크게 불평하는 얘길 듣고 새로운 총기를 만들기로 결심한 것으로 전해진다. 종전 후 카자흐스탄 수도 알마티로 이주해 있던 모스크바 항공연구소 연구원으로 일하던 중 1947년 AK-47 소총을 개발했다.
총의 이름이 된 AK-47은 '자동소총 칼라슈니코프'(Avtomat Kalashnikov)란 러시아어 명칭의 머리글자와 개발연도를 따서 붙여졌다.
러시아 중부 우드무르티야 자치공화국 수도 이제프스크의 '이쥬마슈' 공장에서 본격 생산에 들어간 AK 소총은 성능이 우수한 것은 물론 분해 조립도 간편하며 제작 비용도 낮았다. 물에 젖거나 모래가 들어가도 잔고장이 나지 않는 등 장점이 많아 1949년 소련군의 표준화기로 채택됐다. 지금도 AK 소총은 러시아군과 경찰의 기본 화기로 남아있다.
2차 세계 대전 후 자유주의 진영에선 미국의 유진 스토너가 개발한 자동 소총인 'M-16'이 널리 보급됐으나 공산권에서는 AK 소총이 위력을 떨쳤다.
AK 소총은 가혹한 환경에서도 내구성과 안정성이 탁월한 것으로 정평이 났다. AK 소총을 기본으로 삼아 각국에서 실정에 맞게 개량한 변종도 수십 종이 넘는다.
칼라슈니코프는 AK 소총 개발 공로로 소련 시절 '사회주의 노동 영웅 상'과 '스탈린 상' '레닌 상'을 받은 데 이어 개방 후인 1994년 보리스 옐친 전 러시아 대통령으로부터 조국봉사 훈장을 받는 등의 영예를 누렸다.
2009년에는 드미트리 메드베데프 당시 대통령(현 총리)이 90회 생일을 맞은 칼라슈니코프에게 최고 영예의 '러시아 영웅' 메달을 수여하며 "당신이 전 러시아가 자랑스러워하는 국가 브랜드를 개발했다"고 치하했다.
칼라슈니코프는 그러나 수상식에서 자신의 개발품에 대한 자부심이 범죄자들과 어린 병사들이 자신의 소총을 사용하는 것을 보는 고통과 교차하고 있다고 말했다.
AK 소총이 전 세계의 반서방 혁명 세력과 반군, 범죄조직, 마약 조직 등에서 광범위하게 사용되고 있는 현실에 대한 안타까운 심경을 드러낸 것이다.
칼라슈니코프는 M-16을 만든 스토너가 큰돈을 번 것과는 대조적으로 경제적으로 러시아 정부가 주는 연금으로 어렵게 생활했다. 칼라슈니코프는 돈을 벌기보다 조국에 대한 봉사로 총을 개발했을 뿐이라고 줄곧 주장했다.
그렇지만 1990년 스토너를 만난 뒤에는 "나의 미국 동료는 자가용 비행기를 타고 다니지만 나는 (AK 소총 생산 공장이 있는) 이제프스크에서 950km 떨어진 모스크바까지 가는 비행기표도 간신히 살 형편"이라며 어려운 경제 사정에 대한 불만을 토로하기도 했다.
그는 사망하기 전까지 이제프스크의 '이쥬마슈' 무기 공장 고문으로 일했다. 지난 2003년 독일의 우산 전문 업체인 MMI사에 칼라슈니코프 상표 사용권을 팔아 화제를 불러일으키기도 했다.