1928年春，山西一所监狱里，年轻的黎玉被关押在阴暗牢房中。他面对审讯，始终咬定自己参加的只是“考学团体”。没有口供，没有证据，敌人只能把他列为嫌疑犯。谁也不会想到，这个被关押的青年，日后会成为山东抗日根据地的重要创建者。
黎玉1926年9月加入中国共产党。大革命失败后，山西的革命活动处在白色恐怖之中，他担任中共崞县特别支部书记，却没有公开亮明身份，而是以组织“北大候补生团”为掩护，继续联络进步青年，传递党的文件。
1928年3月，因组织遭到破坏，黎玉等七人被捕。押解途中，他与同志们商定口径，统一说明大家是在准备升学考试。审讯反复进行，几个人始终没有改口。敌人拿不出确凿证据，只能将他们送入监狱羁押。
牢房不是停止斗争的地方。黎玉在狱中组织成立党支部，并担任书记。他发现典狱长克扣伙食，便联合难友提出抗议，要求改善待遇。有人劝他少管闲事，他回答：“人被关进来了，党员的责任没有被关进去。”
在他的坚持下，监狱方面同意另设小伙房。黎玉还利用放风、传递物品等机会，与其他被捕的共产党员取得联系，交换消息，互相鼓励。狱中的这段经历，既磨炼了他的组织能力，也让他更加明白，革命工作不能只靠少数人的勇敢，还要依靠严密的组织。
1929年出狱后，黎玉主动寻找党组织，随后被派往北平从事党的工作，担任北平大学法政学院党支部书记等职。抗日战争全面爆发后，他奉命前往山东。彼时的山东，地方党组织力量分散，交通阻隔严重，国民党顽固势力、日本侵略者和地方武装交织在一起，局面十分复杂。
黎玉没有把工作停留在口号上，而是从恢复组织、发展党员、发动群众做起。他深入各地，联系地方干部和进步人士，逐步把分散的革命力量重新串联起来。山东根据地的形成，并非一支部队突然打出来的，而是党组织、政权、武装和群众工作长期合力的结果。
有意思的是，黎玉的主要贡献并不只在战场。他重视根据地的财政、粮食、交通和干部培养，推动地方政权建设，使山东能够在敌后长期坚持。正因为有较完整的组织体系和群众基础，山东才逐渐发展为全国重要的抗日根据地。
解放战争时期，黎玉先后担任华东局第二副书记、新四军兼山东军区副政治委员、华东军区副政治委员等职。他负责的许多工作，看起来不如前线指挥那样显眼，却直接关系到部队补充、干部调配和后方保障。山东抽调干部与部队支援东北，也与这一时期的组织动员密切相关。
因此，民间常说，黎玉资历深、贡献大，若按战时地位和革命经历衡量，似乎应当获得更高的军队荣誉。这个说法容易把不同性质的评价混在一起。1955年授衔，主要对象是现役军队将领，评定还要综合长期军事实践、任职情况和授衔时的工作归属。黎玉长期承担的是地方党务、根据地建设和行政领导工作，并非单纯的军事指挥员，不能只用参加革命早晚来推断军衔。
1949年3月，黎玉离开工作多年的山东。上海解放后，华东局南下，他按照中央安排到上海工作，担任华东军政委员会委员、中共上海市委秘书长。对一个曾经主持山东大局的干部而言，这次调动并不意味着地位一路上升，真正的转折发生在土地改革问题上。
1952年2月29日，因受到1948年山东土地改革时期有关问题的影响，黎玉被撤销上海市委秘书长等职务，降任上海市委劳动工资处处长。这个职位与他此前的经历相差很大，外界因此留下“创始人后来只是处长”的强烈反差。
他没有借助旧日资历为自己辩解，也没有消极怠工，而是把手头工作继续做下去。1953年，黎玉调往中央财经委员会，后来又先后担任第一机械工业部副部长、农业机械部副部长、第八机械工业部第一常务副部长兼党组副书记，参与推动机械工业从修配走向制造。
他的生活作风同样严格。子女参加工作后，家里住房紧张，亲属希望他出面协调，他却要求子女通过所在单位解决。谢青回忆，黎玉反复提醒家人：“不能因为是我的孩子，就让组织为你们破例。”
1986年5月30日凌晨，黎玉在北京逝世。新华社评价他忠于党和人民的事业，坚持原则，严于律己，也严格要求亲属子女。那间劳动工资处办公室，成为他革命生涯中一个并不起眼的职务，却没有改变他后来继续承担机械工业建设工作的轨迹。
