1985年9月，71岁的广东省委第一书记任仲夷向中央递交了退休申请，中央批准了他的请求，并希望他到北京定居，这样可以把他安排到中央财经领导小组，在中南海办公。任仲夷却坚定地拒绝说：“我要休息了，就在广州。”
按照惯例，任仲夷可以出任广东省顾问委员会主任，但他主张一退到底，并提出自己回家办公。任仲夷说：“老的不放手，新的怎么工作，究竟谁负责？”
任仲夷退休后，住在广州东湖边的一个小院里，小院里种着几棵半大的桂树和榕树，还有若干盆五彩缤纷的花卉。每天早晨6点，任仲夷就起床了，他戴着鸭舌帽，穿着夹克衫，手拿收音机，踩着熹微的晨光，在东湖边的玉兰树下散步，边走边听，像一位退休工人。中午和下午，是任仲夷在家里会客和外出开会的时间，他特别愿意参加艺术界和思想界的各种聚会，只要身体和时间允许，他总是有请必到。
1998年9月的一天，任仲夷到广东省眼科医院看眼疾，他来到电梯口时，这里早已挤满了人。陪同的秘书担心任仲夷岁数大了，在人群中挤的时间太长会出问题，就很客气地对周围的人说：“大家能不能礼让一下，让老人先上？”当时任仲夷的穿着很普通，谁会想到他是谁呢？再说大家正挤得起劲，谁也没有听进去。
秘书没有办法，准备给院方打电话寻求帮助。任仲夷赶紧摆摆手，严肃地说：“不，不要！千万不要！”原来不久以前，任仲夷住院治疗，一位中央领导路过广州，专门去医院看望他，保卫部门把医院的电梯控制了，不让外人使用，惹出许多怨言，任仲夷对此事一直心里有愧。
秘书问任仲夷：“那怎么办啊？”
任仲夷挥一挥手杖，乐呵呵地说：“自己的事自己干，爬楼！”就这样，84岁的任仲夷借助拐杖，用了半个小时，一步步地爬上了17层高楼。
2000年，任仲夷和几位老干部在广州东湖边的一家餐馆吃饭，席间，他突然停下筷子，目光扫过在座的每一个人，然后问道：“你们说说，年轻的时候，我们追随共产党究竟是为什么？”
饭桌上顿时安静下来，几位老同志面面相觑，不知如何回答。任仲夷没有等待回应，而是自言自语地说：“还不是为了建立一个民主、自由、富强的国家吗？”他说完后，目光变得焦灼起来，仿佛又回到了那个战火纷飞的年代。
此时的任仲夷，心脏每天早搏3万次，胆囊早已切除，胃被切除了80%，一目失明，一耳失聪，但他的大脑仍在吃力地运转着，为这个他为之奋斗一生的国家寻找着出路。任仲夷常说：“我不愿别人祝我健康长寿，而要别人祝我‘天天向上’。”
任仲夷晚年对腐败问题有着深刻的认识，他曾在《炎黄春秋》杂志上发表文章直言：
现在腐败得不到有效的遏制，根本原因是权力得不到有效的制约。立法、行政、司法这三种权力，资本主义国家存在，社会主义国家也存在。“三权分立”指的是这三种权力相互制约、相互平衡，它的本质就是制约权力的手段。西方国家几百年的实践已证明，“三权分立”对制约权力、遏制腐败非常有效……
当然我们不能照搬西方的政治体制，应该像建立社会主义市场经济那样，学习借鉴“三权分立”的科学成分，创造性地建立共产党领导下的权力制衡政治体制。
在任仲夷看来，一个政党、一个领导人，如果听不到批评的声音，是很危险的，他引用邓小平的话说：“革命政党最怕的是听不见人民的声音，最怕是鸦雀无声。”任仲夷认为，政治体制改革的核心还是要实现民主化与法治化，中国如果真的要开启政治改革的航船，还得从实行言论、新闻、出版自由着手。
2004年，中共中央提出构建和谐社会的理念后，任仲夷在老干部座谈会上多次阐述自己对“和谐”二字的理解，他说：“和”字左边是“禾”，右边是“口”，即人人有饭吃；“谐”字左边是“言”，右边是“皆”，即人人有言论自由，言无不尽，言者无罪。这一解释在广东老干部圈子里传为佳话。
2005年11月15日，任仲夷在广州安然辞世，享年91岁。任仲夷去世后的丧事一切从简，灵堂就设在他平日所用的书房里，这是他的遗愿，不张扬，不铺张。任仲夷曾说：“人是呱呱地生，快快地长，慢慢地老，悄悄地去。”
