北伐战争结束后，冯玉祥的西北军得到了迅猛发展，控制了陕西、甘肃、宁夏、河南等广大地区，兵力也扩充到近40余万，成为唯一能独力与蒋介石中央军对抗的庞然大物。

然而，这支部队却在随后的日子里逐渐走向瓦解，先是大将韩复榘、石友三另起炉灶，带走了10余万部队；随后的中原大战惨败，冯玉祥被迫通电下野，麾下孙连仲、吉鸿昌、梁冠英等部接二连三投靠蒋介石，最后仅剩宋哲元、张自忠、刘汝明等率数万残军北渡黄河，到山西靠着阎锡山每月16万元的拨款苦苦支撑。

作为国民党内有影响的地方实力派，新桂系首领李宗仁、白崇禧等人在第一次蒋桂战争后也曾下野、远走海外；晋系首领阎锡山在中原大战后也曾避居大连。但他们走后，都在不到1年的时间内就又重掌大权，部下也没有离散。为什么反倒实力更强的冯玉祥集团会彻底散掉，再也没有东山再起的机会呢？

冯玉祥战前盲目乐观，忘记守护根基

中原大战初期，冯玉祥信心十足，他说:“这次举动，在军事上，二、三、四三个集团军联合对付蒋介石一个集团军，其它受蒋排斥的军队也都倾向于我们，我们的兵力占有压倒的优势；再从政治上看，汪精卫先生已来表示和我们合作，西山会议的中委也和我们合作，张学良表示也很好，足见我们是得道多助，蒋介石是失道寡助，最后胜利一定是属于我们的。”

在这种必胜信念的驱使下，冯玉祥把麾下26万大军，分别编成5路大军和骑兵集团，从陕甘宁青各省全部开赴前线，以显示自己破釜沉舟的决心。对自己广阔的西北大后方，他却没有留下多少军队。驻扎甘肃的第8路军总指挥孙连仲建议留一部分兵力控制西北局面，但冯玉祥坚决拒绝并明确告知：“胜利则到江南组织政府，败则不惜同归于尽”。最终，孙只得将主力部队东调，在甘肃、青海和宁夏的广阔地方仅留下1个新编师驻防。

中原大战失败后，青海马步芳、宁夏马鸿逵等地方势力立即反叛，宣布叛冯投蒋；陕军杨虎城部投靠蒋介石后，沿陇海线一路西进，占领了入陕咽喉潼关等地。冯玉祥任命的陕西省主席刘郁芬仅有数千人马，只好紧急向山西撤退。不久，驻防甘肃的雷中田部也被杨虎城派兵击溃，整个西北至此被全部瓜分。

除了丢失后方根基外，西北军也很难再找出能够统领群雄的领袖

冯玉祥的家长作风令部下离心。虽然西北军是冯玉祥从第16混成旅一手发展起来的，大小将领也基本都是他栽培提拔起来。但冯在管理这个集团的时候，一贯采取家长制的作风，专断专行，对部下缺乏必要的感情交流，不论做了多大的官，都像对待子侄一样，动不动就罚跪、罚站，直呼其名，根本没有相应的尊重和礼貌。

久而久之，许多将领就有了离心的倾向，尤其是掌控了地盘，有了一定地位以后，更是不愿再回到其麾下。抗战初期，蒋介石曾任命冯玉祥为第三战区司令，希望他指挥旧部负责华北地区的对日作战。可宋哲元、冯治安等旧部根本不听指挥，连冯亲自召开的作战会议都不去参加；当冯玉祥从河北一路南撤时，时任山东省主席韩复榘干脆派兵挡驾，不准冯进入山东。

老派将领互不服气。宋哲元和刘郁芬都是冯玉祥的五虎上将，宋哲元一度代理西北军总司令；刘郁芬则在中原大战时期负责留守甘青宁各省，论资历都能取代冯指挥全军。可惜，两人谁也不服谁，中原大战后期，数万西北军残兵退到潼关坚守，这也是保卫西北地盘的最后一点希望。但由于这批部队系宋哲元部属，刘郁芬担心其夺取陕西军政大权，于是拒发粮饷装备，残军被迫撤往山西，杨虎城安然进驻潼关，占领了陕西全境。

新派将领提防老牌将领。中原大战前，吉鸿昌是冯玉祥任命的宁夏省政府主席兼第10军军长，作战一向非常勇猛，部下也都骁勇善战，是西北军崛起的新一代将领中的佼佼者。但西北军老派将领鹿钟麟、孙良诚、刘郁芬等人都把他看成桀骜不驯之人，恐其为患，就借开会之机将其扣押，直到冯玉祥回来才让他重回旧部。中原大战后，吉鸿昌接受了蒋介石的“讨逆军第22路总指挥”的委任状，原因之一就是考虑到今后自己“不见容于老一辈的西北军将领”。