大多数人把军队作为从政的跳板，但张发奎为人正直，不爱好搞人际关系，也从来没有什么阴谋诡计。没有请客送礼的习惯，他认为自己不太合适从事政界工作。国民党召开二届三中全会，张发奎当选中央军事委员会委员，任第四方面军第一纵队司令官。“四·一二”政变后，武汉国民政府明令讨蒋，张发奎站在汪精卫这边。这个时候张学良、吴佩孚集中奉军主力25万人与北伐军决战。名将蒋先云战死，张发奎率铁军四军和十一军顽强应战，终将奉军主力击溃，打垮了东北军四个军。

1939年汪精卫降日后，尽管以前和汪精卫关系不错，大是大非面前张发奎毫不含糊。动员党政军要人签署通电，谴责汪氏叛国投敌。虽然对蒋介石没什么好感，但是为了抗战，张发奎也接受蒋介石的调遣。淞沪战役中，日军进攻上海，张发奎任第八集团军总司令。在浦东地区击败日军几十次进攻，并亲自指挥炮兵轰击日军司令部和日军旗舰“出云号”。日军在杭州湾登陆，张发奎部腹背受敌，只得奉命放弃上海撤退到南京。在抗战的那些岁月里，张发奎始终靠着一些劣等装备与日军周旋，从没有打过退堂鼓，经常操劳奔赴在第一线。

抗战胜利后，张发奎任广州行营主任，积极维护国家利益。逮捕了法籍日本间谍，并派兵包围法国领事馆，勒令法领事当面签字认错。针对澳葡当局不配合捕捉汉奸，张发奎停止供应肉类蔬菜，逼迫澳葡当局引渡了日本战犯与汉奸。为维护国家的领土完整做了大量的工作，如取消限制华人入境，停建屏山机场等，捍卫了国家主权。1949年7月，张发奎将军辞去了陆军总司令的职位，带着家人去香港定居。这一呆就是30年，直到1980年85岁的张发奎将军于香港病逝。张发奎将军去世的消息传来后，叶剑英委员长第一时间致电其家属节哀。