孙玉水，1922年7月生于山东省章丘县（今属济南市）一个贫苦农民家庭。全民族抗日战争爆发前，在地方学校读书。

1938年，孙玉水在家乡组织敌后抗日武装，开展游击战争。1939年1月，参加八路军山东纵。同年2月，加入中国共产党。在山东纵队鲁迅艺术学校学习一年，被分配到八路军山东纵队陇海南进支队，任第二团二连任文化教员、副指导员，邳睢铜独立大队四连指导员。 1940年8月，孙玉水任八路军第五纵队三支队八团政治处干事、连指导员。参加了开辟皖东北抗日根据地、苏北抗日根据地的斗争。1941年1月皖南事变后，八路军第五纵队三支队八团改编为新四军第三师九旅二十六团（同年9月随部归建新四军第四师，番号不变），孙玉水任第二十六团政治处青年干事、连指导员等职。参加了巩固发展淮北抗日根据地的斗争。

抗日战争胜利后，孙玉水随部改编入津浦前线野战军第二师九旅、山东野战军第二纵队九旅二十六团，任连指导员。参加了朝阳集和宿北战役。1947年1月，任华东野战军第二纵队六师十七团二营四连连长、副营长、营长。参加了莱芜、孟良崮、胶河、淮海、渡江等战役战斗。在孟良崮战役中，当第十七团二营五连坚守的320高地被敌突破时，孙玉水奉命带领第四连并统一指挥第五连，巧妙利用地形地物，带队奋不顾身地冲向山头夺回阵地。头部负伤仍坚持指挥部队作战，击退敌多次猛烈进攻，终于打退了敌一个团兵力的进攻，使其遗尸百余具，狼狈逃窜，守住了320高地，保障了纵队和师的侧翼安全，迟滞了敌整编八十三师对整编七十四师的增援。此战，孙玉水荣立大功一次。

1947年11月，第二纵队四师、六师攻打被敌称为“固若金汤”的坚固据点高密县城，第二营为主攻营，在炸开东南角城墙与碉堡结合部后，时任副营长的孙玉水率领突击连四连迅速冲上去打开和扩大突破口，为后续部队打开通路。战斗中第四连二班无一伤亡，荣获纵队授予的“捷足先登”奖旗和“高密战功班”光荣称号。在淮海战役中，时任营长的孙玉水率领第二营在兄弟部队支援下，守住了距离杜聿明总部陈官庄仅四华里的要点郭楼，阻挡了敌从此突围南逃的道路，为全歼杜聿明集团夺取战役的全胜作出了贡献。战斗中孙玉水始终靠前指挥，发现第四连阵地被突破立即组织反击。在七号阵地上敌人突入30多人，他指挥部队一面反击，一面进行阵前出击，一举将敌人击退，恢复了阵地。渡江战役胜利后，孙玉水任第三野战军二十一军六十三师一八八团参谋长。

解放战争中，孙玉水荣获三等人民英雄光荣称号。

新中国成立后，孙玉水任第二十一军六十三师一八八团副团长、团长。参加抗美援朝战争。回国后，任第六十三师副师长，第二十一军参谋长、副军长、军长，济南军区副参谋长。

孙玉水荣获了三级独立自由勋章、三级解放勋章和独立功勋荣誉章。

1985年，孙玉水离职休养。

1997年2月4日，孙玉水在济南逝世。享年75岁。（据童来喜等主编《从新四军中走出来的未授将衔的军以上干部》改编。）