1985年，83岁的黄克诚明显地感觉到自己身体无法再支撑现在的工作，因而向上级请辞领导职务，上级同意了。
不久，黄克诚收到了一封致敬信：“您具有坚强的阶级党性，不盲从，不苟同，坚持真理，刚直不阿，不论身居高位还是身陷逆境，都一心为公，无私无畏。”
收到信，黄克诚十分惶恐，他连连说道：“太高了，太高了，评价太高了。”
熟悉黄克诚的人，却不赞同黄克诚自己的说法，他们认为，黄克诚得到如此的评价，确实是名副其实。
在历史上，黄克诚曾“九上九下”，这九次，都是因为他坚持真理，而被撤职，其中，有8次是在战争年代，还有一次是在建国后。
这九次坚持真理，后果最严重，影响最大的，就是建国后的这一次。
1959年庐山会议，彭德怀本来不愿来参加，黄克诚提醒：“这是毛主席亲自主持的会议，你是政治局委员，不去不合适。”
黄克诚没有想到，彭德怀在参加会议时，居然写了一封“万言书”
本来黄克诚是不用参加会议的，但是由于彭德怀的“万言书”，黄克诚接到了毛主席的通知，务必前来庐山。
对于庐山会议的“大气候”，黄克诚的心里已经有些明白，关键时刻，毛主席为什么点名要他出席会议，他自然懂得毛主席的意思......
周恩来看到黄克诚，有些唏嘘：“你如果来早一点就好了，这样彭总也不会将那封信拿出来了。”
黄克诚知道周恩来的好意，他心里很是后悔：“何止是来晚了，早知道的话，我就应该来庐山参加会议。”
上山后，黄克诚与彭德怀住在了同一个别墅，当天晚上，彭德怀便将自己写的“万言书”拿给黄克诚看，黄克诚认真看完后说：“这封信提议的意见我赞成，但是信的写法不好，语言中有刺激，你那样干什么？”
彭总依然保持着战争年代的直脾气：“实际情况那么严重，我就是要写尖锐的话，引起重视。”
黄克诚很心痛，又有些惋惜：“彭总，你总是感情用事，你和主席共事多年，应该互相了解较深，这些话你为何不与主席当面谈，何必写信？
关键时刻，毛主席请自己上山，黄克诚明白毛主席的用意，他来参加会议，就应该按照毛主席的意思说话，可是黄克诚没能过了自己心里这一关。
他还是坚持了真理，赞成了彭德怀的意见。
老战友纷纷向黄克诚使眼色，或是用比较委婉的话制止他，黄克诚明白大家的好意，但是他没有领情，这次庐山讲话，也成为了他最为“淋漓尽致”的一次。
谈完话，有人找到黄克诚，要他和彭德怀划清界限，黄克诚摆摆手，甚至有人要黄克诚反戈一击，黄克诚坦言道：“落井下石也要有石头，我连一块石头也没有，我决不做诬陷别人，解脱自己的事。”
毛主席对于黄克诚，还是比较了解的，历史上，他曾三次点名黄克诚担任要职。
第一次是在1948年11月，天津解放后，他点名黄克诚担任天津首任市委书记。
第二次是在1949年5月，他点名要黄克诚负责湖南的党政军工作。
第三次是在1952年7月，他点名黄克诚进京工作，担任副总参谋长兼总后勤部部长。
此后，也是在毛主席的关怀下，黄克诚历任总参谋长兼国防部副部长等职。
毛主席召见黄克诚，要他和彭德怀划清界限，黄克诚没有答应：“我和彭德怀观点基本一致，只能就庐山会议的这次意见而言，过去我和彭德怀争论很多，有不同意就吵，几乎争论了一辈子，不能说我们的观点都是一致的。”
黄克诚如此，毛主席也没有了耐心。
之后，彭德怀与黄克诚两人，再加上周小舟等人一同遭到了错误的批评，被撤销了职务。
在此期间，黄克诚过上了赋闲生活，早上6点半起床，外出散步一小时，回家吃早饭，听新闻，8点左右看书，有时候还会下围棋，晚上听中央人民广播电台的《全国新闻联播》，之后散步，10点左右休息。
直到1965年，他被任命为了山西省的副省长，不过在山西，他也只待了一年的时间。
文革期间，黄克诚曾见到彭德怀，他抓住机会问：“天冷了，你怎么不穿棉鞋？”
彭德怀：“棉鞋带来了，没穿，别说话了，免得麻烦。”
这两句话，成为了他们之间最后的一次交谈。
1974年，彭德怀因病去世。
黄克诚熬了过来，他将自己称之为“幸存者”。
1977年，黄克诚复出，一年后，中纪委成立，他被任命为中纪委常务书记。
黄克诚年近80岁，本来是不愿意再工作了，但是上级给了他一个不能拒绝的理由：需要你的名字。
文革结束后，需要解决历史遗留案件，一些老同志被平反，但是不认可，不签字，黄克诚得知后，就将那些人的文件拿来，加了个便签，写上几句话，然后再盖上自己的铜制狮子头形状印章。
老同志一看，就签了名，他们说：“我本来一肚子意见、一肚子委屈，黄克诚同志比我们受的委屈都大，黄克诚同志都说话了，我们也没有什么可说的了。”
80年代初，在社会上有一些“非毛化”的声音，黄克诚非常忧虑，1980年11月，中纪委召开了一次座谈会，黄克诚作为常务书记出席，那个时候，黄克诚的双眼已经失明，他是在秘书丛树品的搀扶下，走上了主席台。
黄克诚开口：“今天我来这里讲话，不讲别的，想先谈一谈怎样对待毛泽东同志和毛泽东思想的问题。这对我们党和国家来说，是一个根本性问题…….”
接着，黄克诚从大革命时期谈起，一直到当今，黄克诚全部谈话的主要内容，就是围绕着毛主席的功绩，他说：“毛主席去世，我感到深深的难过，虽然我自从庐山会议以来一直蒙冤，但我们这代人的感情是超过一切个人恩恩怨怨的。”
黄克诚强调：“毛主席逝世了，给我们留下宝贵的财富，也留下消极因素。他的消极因素只是暂时起作用的东西，经过我们工作是可以克服的，而毛泽东思想将长期指导我们的行动.......”
在这次座谈会上，黄克诚连续讲了四个小时，说完后，全场雷动，大家热烈鼓掌。
不久，黄克诚这次谈话，被《人民日报》转载，1981年，黄克诚的秘书找到总政治部副主任华楠，把黄克诚谈的话交给他，说谈话分为三个部分，第二、三部分《人民日报》已经发表了，第一部分还没有发表，黄克诚提议先在军报发表。
华楠把情况告诉给总政主任韦国清和副主任梁必业，他们表示同意。
黄克诚得到消息，说了一句话：“请你们报告小平同志批准再发。”
邓小平看后，也表示同意，不过在文字把关时，他交给曾任毛主席秘书的胡乔木，要他把把关，胡乔木在文字上做了个别修改，然后加了一句话：1936年底西安事变，采取和平解决的方针，形成第二次国共合作的抗日民族统一战线，这是又一件具有历史意义的英明决策。
除此之外，胡乔木将整篇谈话关于毛主席的称谓，改为了“毛泽东同志”
黄克诚拿到修改稿后说可以发表了，不过他又说道：“修改稿中把称谓“毛主席”都改成了“毛泽东同志”，我不习惯，从感情上过不去，还是“毛主席”好。”
华楠接受了他的建议，之后，对毛主席的称谓又改了回来。
4月，这篇文章正式被发表在《解放军报》上，第二天，新华社发通稿，全国各大报刊予以转载。
对于新中国的元帅林彪，黄克诚也有自己的看法。
1984年，黄克诚得知《中国大百科全书》军事卷元帅条目释文稿中，林彪只有简历，他有些不满，就找来了编纂组的编辑，黄克诚语重心长地说：“写历史人物志，要学习司马迁，用历史唯物主义的观点.....林彪确有指挥才能，不承认这个事实，不是历史唯物主义态度.....”
在黄克诚的指示下，编纂组重新进行了编写。
晚年时，作为中纪委的领导，黄克诚带头搞廉政，许多人是心服口服，儿子黄晴结婚，黄克诚不准用公家车，不准大肆操办，最终，黄晴用自行车，将新娘带回了家。
黄家一家人住在一处五间平房里，为了安全，管理部门准备盖一个门楼，黄克诚制止了，后来平房漏水，服务处多次提出给他翻修房子。
黄克诚一听需要花3万多元，立刻拒绝了，他说花钱太多了，三万元能办很多事，不要翻修，哪里漏雨就修哪里。
后来，直到去世，黄克诚都住在这所漏雨的房子里。
1985年底，黄克诚因直肠癌做了手术，由于病情发展太快，黄克诚开始出现幻觉，一会和家人聊天，一会又说道：“我得赶快去朱总司令那里报告情况。”
有一次，黄克诚还给一位护士吟诵了自己因梦到母亲写的一首诗。
清醒时，黄克诚知道自己的病治不好了，就拒绝配合治疗，他说，再治下去是浪费，不如不治了，
1986年12月28日，黄克诚因病去世，享年84岁。
夫人唐棣华给他写了一副挽联：
为人复何求，少逢国危，坚信马列，青年从戎，毕生尽瘁，幸得见中华民族光荣屹立，
既死无憾矣，仰不愧天，俯不怍人，国运日兴，人才辈出，惜不随全党同志再尽绵薄。
热门跟贴