1962年，谢振华正式到六十九军上任。上级的安排是，谢振华以副军长的头衔，做军长的工作。因为董其武对外还是军长。该军由三个师组成，二〇五师、二〇六师、二〇七师。其中二〇七师多为起义部队战士。

为了把这支部队带好，谢振华完全执行罗瑞卿将军告诉他的一字方针“练”，他带领部队在全军大比武中“练”；在天津、保定等地抗洪中“练”；在邢台地区抗震中“练”。

1967年，谢振华接到通知，率六十九军进驻山西“支左”。相比于在河北省完成的多个重大任务，在山西的工作似乎更加具有挑战性。那时，谢振华把部队放在了山西省会——太原，原驻扎在此地的二十一军调到陕西。

谢振华时刻牢记他的使命：稳定局势，制止武斗，保持“一碗水端平”，维持社会秩序，减少工农业生产和人民生命财产的损失。

起初，谢振华只负责调度六十九军，但随着局势的发展，在山西的“支左”部队统统由谢振华来指挥。包括山西军区、二十八军、六十三军、空八军、北京军区高炮六十一师等部队。

这年1月，山西省副省长、省军区政委，联手第十三冶金建筑公司工人杨成效，一起夺取了山西的党政大权。杨成效公开喧嚷：“山西越乱才越好！”面对山西对立的两大派，谢振华持观望态度，从善意的角度劝两方和解。

随着时间的推移，山西的各地都被分裂开数不清的派别。1968年2月，谢振华亲自到长治飞机场，主持晋东南两派的“停火谈判”。

考虑到可能发生的危险，谢振华命人在会场布置了多杆机枪！在谢振华的威势下，双方最终达成了一致意见，将武器交给军队。类似这种“调停”活动，谢振华参加了很多。

1969年，山西的形势变得更为严峻。为了解决问题，中央直接发布了《七二三布告》，布告很明确的表明，有不少的坏头头，犯下了一系列极为严重的罪行。中央决定采取8项措施，其中第六项是：“对杀人放火和其他罪大恶极的现行犯罪分子要依法惩处。”

为了使措施能顺利执行，中央政治局专门召开了一次会议。在会议前，谢振华被任命为山西省委核心小组组长，与此同时，山西的领导班子大换血，一些挑起纷争的领导干部，包括副省长、军区政委等，都被送到了河北学习班。

不久，谢振华被选为山西省委第一书记兼革委会主任。同时，他还是北京军区副司令兼山西省军区司令员、山西省军区党委第一书记。重担在身的谢振华，开始了艰难的“拨乱反正”工作。

谢振华从军多年，深知宣传工作的重要性。他命令驻扎在太原的飞机，装上“布告”和其他宣传品，到那些混乱的地方投放。与此同时，谢振华出动部队收缴武器，瓦解工事，解散“虾兵蟹将”。

为了更快稳定局势，谢振华放出大招，若是在规定时间内，没有按照布告上面的执行，工人、职工停发工资。在谢振华的努力下，之前混乱的山西，逐步恢复了社会秩序。

这段时间，谢振华还干了一件令人拍手叫绝的事情。那就是为山西人民除掉了，为祸一方的自称“山西造反总指挥”的杨成效。杨成效此人出身于伪满反动官僚家庭，他本人早年不学无术，算是二流子。犯事后，被押入大牢劳改。被放出来后不久，赶上了运动。

杨成效作为运动的急先锋，干了不少恶事。据悉，这个杨成效还想过在北京外国使馆区，投靠叛国。那时候，杨成效嚣张至极，把“活着就干，死了就算”作为口头禅，群众对他厌恶到了极点。同时，谢振华和六十九军的战士们对他也是忍无可忍。

基于杨成效犯的事，违反了布告太多的规定。最后，经过调查，给杨成效定下4条罪状：“一、迫害老干部致死；二、破坏生产，挑起武斗；三、烧杀奸淫；四、破坏社会治安。”

谢振华将此事上报，建议将其处决。政治局最后批准了此报告，不久，山西省委在太原五一广场将杨成效公审后，执行了枪决！

虽然谢振华在山西的时间不长，但他的成绩是非常明显的。谢振华自带革命战争年代猛将的气势，任何捣乱的家伙在他面前，总会被他镇住！谢振华执行中央的命令，虽然当时要求解放军“支持左派”，但谢振华还是依据“一碗水端平”的原则行事。

在他的指挥下，山西混乱的局面得到遏制。谢振华处决杨成效，给那些打着造反旗号，干着违法的头头一个警告。

谢振华后来从山西出来，先后担任沈阳军区副司令员、昆明军区政委等职务。2011年8月3日，谢振华病逝，享年95岁。