1926年7月北伐戰爭開始，當時需要消滅的主要敵人有3個，以東北地區為根基，控制北京政府和黃河以北廣大地區的奉系軍閥——張作霖；以河南洛陽為老巢，控制黃河和長江中遊數省的直系老牌軍閥——吳佩孚；在第二次直奉戰爭中剛剛崛起，號稱「蘇浙閩皖贛五省聯軍」總司令的直系新興軍閥——孫傳芳。
北伐戰爭中，馮玉祥部隊居功至偉
這三大軍閥中，奉系軍閥張作霖的實力最強，海陸空三軍齊備，共35萬軍隊，還有「狗肉將軍」、山東督軍張宗昌等人為其羽翼，為了儘可能牽制和削弱奉軍，防止其南下增援長江流域的吳佩孚、孫傳芳，北伐軍起兵之初就積極聯絡北方的另外兩股勢力——馮玉祥國民軍和閻錫山的晉軍，請他們分別從陝西和山西出兵。
其中，閻錫山部隊表現不佳，雖然氣勢如虹的組織了5路大軍向平津進發，但很快被擊退，如果不是傅作義趁奉軍換防之機一舉襲取涿州城，晉軍方面幾乎無顏宣稱自己參加過北伐。馮玉祥的部隊卻表現神勇，從陝西出潼關，經河南、河北一直打到平津，幾乎憑一己之力將奉軍主力逼入山海關內，自身實力也迅速增長，軍隊總兵力超過40萬。
f全軍編遣會議上，馮玉祥開了頭一炮
北伐戰爭結束後，蔣介石成了暴發戶，坐鎮南京掌握中央政權，麾下擁兵40餘萬，成為全國各派系中實力最強的一個。為了收買民心，也為了削弱其他派系，1929年1月1日，蔣介石在南京組織召開全軍編遣會議，企圖在「裁遣軍隊，統一軍權」的口號下，將全國軍隊的指揮、訓練、教育、經費等都收歸南京國民政府，從而達到限制和最後解散其他派系軍隊的目的。
整個編遣會議從開幕到收場歷時25天。會上，各方勢力圍繞著軍隊裁減問題展開了激烈的鬥爭。會議一開始，蔣介石作為會議組織者不方便直接表態，勢力排行第二的馮玉祥當仁不讓，首先提出自己的意見和具體編遣方案，他建議蔣介石的第1集團軍和自己的第2集團軍各編12個師，閻錫山的第3集團軍和李宗仁第4集團軍各編8個師，其他不屬於各集團軍的部隊共編 8個師。
閻錫山提出的編遣方案讓馮玉祥損兵一半
馮玉祥認為自己和蔣介石兵力相當，因此應該享受同一待遇；閻錫山、李宗仁麾下都僅有20餘萬部隊，實力僅及自己一半，分配的編制卻達到自己部隊的2/3，已經算待遇優厚。殊不知，閻錫山、李宗仁也都是野心勃勃，頗有問鼎天下之志，屈居蔣介石之下尚心中不滿，現在又要被馮玉祥壓上一頭，自然更是氣憤難平。因此，馮玉祥提出的方案立即遭到了集體反對。
隨後，閻錫山也提出了自己的編遣方案，要求將4個集團軍兵力拉平，每個集團軍各編11個師，此外再專設1個中央編遣區，由蔣介石專門負責。如此一來，蔣介石不但可以將多出來的嫡系部隊塞進中央編遣區，還可以直接控制隸屬該編遣區的其他雜牌部隊。該方案同時兼顧了蔣介石和李宗仁的利益，卻對馮玉祥十分不利，其被裁減部隊最多，達到11個師近20萬人。
馮玉祥要求裁降兵不裁功臣
因此，這個平均分配的方案引起馮玉祥極大不滿，他明確無誤的指出：蔣介石第1集團軍內收編的軍閥殘餘部隊超過20萬，應該是首先裁撤的對象。如今這些軍閥殘餘留而不裁，反要裁北伐有功的功勳部隊，實有欠公平。由於心中氣憤難平，加上看透了這次編遣會議的本質，當晚，馮玉祥不辭而別，連夜乘坐專列返回自己部隊控制下的鄭州。