年仅19岁的卡拉什尼科夫报名参加了苏联红军，由于他的身高只有一米六出头，非常适合坦克狭小的空间，所以他成为了一名坦克兵。在当兵期间，他不仅学习操作坦克，在业余时间，他还到坦克修理工厂帮忙。虽然学历不高，但他喜欢创新，短短的时间发明出了许多应用在工厂的小发明。

1941年6月，苏德战争爆发，卡拉什尼科夫驾驶着T34坦克冲上了前线，但在一次交火中他不幸中弹，他受伤之后挣扎着爬出坦克，躲进了树林，幸运的是他躲过了德军的搜捕，被后方赶来的战友救走。

他在医院的很长一段时间都睡不着觉，战争惨烈的场面，德军MP44冲锋枪的突突声总是回荡在他的耳边。要不是手上的家伙不如德兵的好，就不至于这次会失败。他想，苏联的武器就是笨，就是重，为什么不研制一款适合运动战的轻便的冲锋枪呢。于是他让人去图书馆帮他借出所有的和机械设计有关的图书，他就趴在床上开始了自己的研究。每见到一个战友就会问对方想要一把什么样的枪。那时候的他根本就看不懂这方面的专业书籍，因此他就硬背。

1942年，他出院了并且选择了继续留在后方来研制一把枪，苏军没有给这小坦克兵提供任何支持，所以他只能自己想办法，他找了一个小房间当做自己的制枪车间，就是在这样简陋的环境下，世界上第一把AK系列的枪诞生了。

但这把枪并没有受到上级指挥官的欣赏，后来他找到了自己的偶像，枪械设计师布拉贡拉沃夫少将。布拉贡拉沃夫看到这个年轻人制造出来的枪一般，但是是个难得的人才，就把他送到了军工技术学校学习。

1943年末，卡拉什尼科夫带着他设计的第一把冲锋枪才加了全苏联的轻机枪设计比赛，他的枪没有获得任何奖项。一年后，再次比赛又是失败。苏联军方认为不能再后方干养着一个什么枪械都搞不出来的设计师，于是让卡拉什尼科夫转业。到了1945年，二战结束，卡拉什尼科夫万念俱灰，因为他觉得自己设计的枪再也没有用武之地了。

2001年，“911恐袭”震惊世界。三个月后，本拉登出现在全世界的电视上，画面中本拉登身穿迷彩服，而他的身旁就放着一把AK冲锋枪。这一画面被卡拉什尼科夫看到后非常生气，尽管拉登的这一恐怖行动跟他一点关系都没有，看他觉得这种行为是在往他自己脸上泼粪。

每天晚上卡拉什尼科夫孤零零地坐在客厅里，他摸着自己的枪睡不着觉，尽管此时他年龄已经很大了，但他还是在不断的争取在媒体上出现的机会，为的就是说出那一句话：“我的枪是没有罪的，有罪的是那些扣动扳机的人”。