在巴甫洛夫还没有被解职前，斯大林便选定了叶廖缅科去接替巴甫洛夫的指挥权，当时西方面军四个集团军被德军合围于明斯克附近，斯大林已经对巴甫洛夫失去信任，叶廖缅科于战争爆发一周后赶到了巴甫洛夫的指挥部接替了西方面军的指挥权，巴甫洛夫则奉命前往莫斯科，等待他的将是审判和枪决。

叶廖缅科此前是远东红旗第一集团军司令，他的集团军以出色的训练状况而获得了“劳动红旗勋章”，在斯大林眼里叶廖缅科是一位熟悉大兵团作战指挥的将领，而且他没有经历初期那样的惨败，不会在和德军的对决中丧失勇气和信心。更重要的是叶廖缅科是一位以铁腕手段治军的将领，斯大林希望这位充满活力和勇气的将军能够重振刚刚遭遇惨败的西方面军的士气，至少也要阻止苏军的混乱状态。

可惜叶廖缅科的到来并不能扭转苏军中央方向的不利态势，古德里安和霍特的装甲集群仍旧不断的突破了苏军的防线，苏军寄予厚望的第聂伯河防线被德军突破了，随后叶廖缅科被正是认命为西方面军副司令员，国防人民委员会委员（相当于国防部长）铁木辛哥亲自担任了该方面军司令员。

随着斯摩棱斯克的失陷，莫斯科成为中路德军的下一个进攻目标，叶廖缅科被认命为新组建的布良斯克方面军司令员，负责莫斯科西南方向的防御任务，当时无论是苏军最高统帅部还是叶廖缅科都认为德军的下一进攻目标是莫斯科，对于古德里安装甲集群的突然转向南方是为了对莫斯科做更大范围的迂回，结果德军的目标并不是莫斯科而是基辅，叶廖缅科没能看清楚战略形势，德军突破了他的防线冲向了苏军西南方面军的后方。在后来的莫斯科战役中，叶廖缅科的方面军大部分被德军中央集团军群所包围歼灭，其本人也重伤乘飞机逃出了包围圈。

叶廖缅科没能挽回苏联在中央方向上的溃败，叶廖缅科和他的部队在斯摩棱斯克和布良斯克两次被德军所击败，也许当时形势下任何一位苏军将领都难以阻挡德军的攻势。但是他最大的优点就是从不屈服和服从命令，即便斯大林让其去担任更低的集团军司令，去服从他曾经的下级的指挥，他也欣然领命，还是有大将之风的。