大约在1940年，张志忠在党内稳固地确立了自身地位。抗日战争胜利结束之际，他承担起处理日军俘虏遣返的重要工作。1945年，部队进行改编，因未获新的职务任命，他遂向组织提出申请，希望回台湾开展工作。1946年2月，他自苏北启程，途经上海转道，于4月带领一批干部秘密返回台湾。
回台湾后，张志忠先做小生意掩护身份，同时联系老同志，组建中共台湾省工作委员会。他担任省委副书记兼武装部长，负责组织发展、武装准备和财务部分工作。
着重于在海山、桃园、新竹等地建立联络关系，吸纳当地人士加入组织。同时，他前往上海向上级汇报工作情况，返程时顺便将妻子季沄接回。
1947年二二八事件爆发，张志忠在嘉义地区联系李妈兜、陈篡地、许分这些人，组织台湾民主联军嘉南纵队，他当司令，下面有朴子、北港、新港等几个支队，总共两百多人枪。他们接收警察所，缴获武器，占领市政府，还计划跟中部其他队伍会师。
1947年3月4日，队伍对嘉义水上机场发起攻击，缴获了更多枪支。此后，国民党整编二十一师前来增援，队伍于北港等地与敌军展开数次战斗，因不敌而败退至山区，并将队伍更名为台湾自治联军，人员开始分散活动。张志忠本人转移至莺歌一带，继续秘密开展联络工作。
1947年5月，张志忠再度前往嘉义组织群众。随后，他推动简吉前往新竹开展开辟工作，并亲自指导吸纳林元枝、周坤等二十余人加入党组织。
1949年12月，张志忠在乌涂窟山区召开干部学习会，同时准备撰写相关材料，就乡镇工作以及减租问题展开研讨，意图加强武装斗争。
1950年1月蔡孝乾被捕后叛变，供出大批名单和联络点。谷正文带着保密局特务顺着线索全岛抓人。张志忠妻子季沄先被抓，1950年5月张志忠跟其他十三人一起在台北落网，具体地点是新公园附近衡阳街的药房。
抓捕后，他被关进保密局看守所，谷正文亲自负责审讯。国民党那边用各种办法想让他开口，包括酷刑、许诺高官、亲情压力，还把蒋经国派来几次劝说，但张志忠只承认自己是共产党员身份，绝不交代组织机密、联络方式或武装计划。
他在牢里关了四年多，期间不断承受折磨，却始终没供出任何同志。国民党当局为了钓鱼，还伪造他的签名发自新公告，这个把戏也被他戳破。1950年11月18日，妻子季沄在台北马场町刑场被枪决，当时她才29岁。
张志忠获悉此消息后，非但没有动摇，反而更加坚定信念。1951年3月，他被判处死刑，定罪理由为交付感化三年有余却仍无悔悟表现，以意图颠覆政府之罪名被处以极刑。
1954年3月16日下午，他于同一处马场町刑场被执行枪决，年仅44岁。其后，其尸体由弟弟张再添带回嘉义新港老家予以安葬。
谷正文曾抓捕、审讯过数以千计的人，在晚年整理回忆录时，翻到张志忠的案子还特意将其提出。他表示，在自己经手的案件中，有些人一被抓捕便意志软弱，有些人扛不住刑罚便选择叛变，有些人因受家人威胁而妥协，唯有张志忠，自被捕直至牺牲，未曾说过一句屈服的话。谷正文直言，在所有被捕者中，唯有张志忠堪称硬汉，其意志坚如钢铁，是他唯一钦佩的对手。
