1967年1月，上海“一月风暴”刮到了北京军区，军区司令员杨勇被造反派揪斗，政委廖汉生同样受冲击，他们双双停止工作。北京军区这个拱卫京畿的最关键军事机构，一下子陷入了群龙无首的困境。周恩来、徐向前、叶剑英等人经过紧急商议，建议由军区副司令员郑维山临时主持北京军区工作，毛泽东同意了。
不久以后，郑维山出任北京军区代司令员，他上任后做的第一件事不是搞“运动”，而是灭火。当时京广线磁县一带武斗升级，铁路被拦、列车被困、粮库告急。2月8日晚，周恩来亲自给郑维山打电话，要求他迅速解决这些问题。郑维山马上调部队沿交通干线逐段固守，在3天之内把局面压住了。
7月14日凌晨，毛泽东乘专列南下武汉，他在中途把郑维山叫上了车。毛泽东问了郑维山河北的许多情况，郑维山脱口报出一串数据，干脆利落。毛泽东听后赞叹道：“南有许世友，北有郑维山！”
林彪深知北京军区的重要性，他认为郑维山出身于红四方面军，又是在聂荣臻手底下成长起来的战将，不是“自己人”。有一次，林彪举荐另一位自己看好的人接任北京军区司令员，毛泽东却反问：“是四野的人吧？”林彪见毛泽东把话堵死了，便不敢再提此事。
1969年4月，郑维山在党的“九大”上当选中央委员，同年6月，他被正式任命为北京军区司令员、军区党委第一书记。
1970年8月，党的九届二中全会在庐山召开，林彪在会上提出要设国家主席，毛泽东听后十分不悦，要求参会人员分小组对此进行讨论。
8月24日下午，会议组织分组讨论，郑维山被分到了华北组，他在讨论时被陈伯达蒙蔽，表态支持设国家主席，而且坚持要毛泽东当国家主席。当天晚上，郑维山在讨论时说：“‘运动’进行到了今天，还有人反对毛主席，这是要进行彻底批判的！”
郑维山等军队里的领导同志，对理论问题知之不多，但他们对毛泽东的感情是深厚的，对毛泽东的崇拜有时是盲目的，他们认为自己的发言是在捍卫毛泽东的领袖地位，殊不知却在客观上帮了林彪的忙。
8月25日下午3点，毛泽东在他的住处召开政治局常委扩大会议，会议决定立即停止讨论林彪的讲话，责令陈伯达作出检查。9月1日，毛泽东召集中央政治局和各大组召集人开会，明确指出，凡是在这次庐山会议上发言犯了错误的人，都要作检查。当天晚上，郑维山怀着沉重的心情，给毛泽东写了一份检查。
12月16日，毛泽东在38军党委上送的《关于检举揭发陈伯达反党集团的报告》上作出批示，核心意思是：陈伯达在北京军区没有职务，中央也没委托他管北京军区的事，他怎么就成了你们的“太上皇”？建议北京军区党委开会讨论讨论。
从此以后，郑维山不断受到各种批判，并最终失去了自由。江青还说：“陈伯达为什么敢反党反毛主席？就是因为他有‘华北山头’作后盾，他有个武将叫郑维山嘛，郑维山和陈伯达搞在一起反对林副主席，看来，北京军区不改组不行了。”
1971年9月13日，林彪坠机身亡。按理说，郑维山这种被林彪体系排挤的人，应该因此而得到翻身的机会。但江青集团又把“华北山头主义”的标签从陈伯达身上顺手贴到了林彪身上，他们的逻辑变成了：北京军区是林彪经营多年的“山头窝子”，郑维山“摇身一变”，从反林彪变成了林彪的人。
不久以后，郑维山被押往安徽南部的一个农场，名义上是“监督劳动”，实际上是幽禁，他的门外设岗，行动受限，身边只剩一个秘书、一个炊事员。郑维山每天面对的是田埂、锄头和没完没了的“学习材料”。当地曾有干部调侃郑维山“将军种地也是把好手”，他回应道：“农民出身，专业对口。”
党的十一届三中全会召开后，拨乱反正的风终于吹到军队系统，郑维山却迟迟未能得到平反，他的子女只好给聂荣臻写信申诉，聂荣臻看后批示“请总政干部部阅处”。胡耀邦看到郑维山的申诉材料后，也明确表态：“华北山头主义”是莫须有的罪名，应予澄清。
1979年，总政派人把郑维山从安徽接回北京，恢复了他看文件的权力和警卫、生活待遇。1980年10月21日，中央军委正式下达文件，撤销所有错误结论，全面为郑维山恢复名誉。