二十九軍全體將士皆系馮玉祥將軍的西北軍舊部，1930年中原大戰，西北軍潰敗，各路殘兵避居山西一隅。來自各派系的將領宋哲元、張維藩、馮治安、張自忠、趙登禹、李文田、何基灃、蕭振瀛等8人，共議集合力量創辦新軍，推舉原五虎上將宋哲元為軍長，將士共四萬餘人，閻錫山每月撥十六萬晉鈔。全體官兵生計艱難，蕭振瀛見此決非長策，乃商各將領同意，投奔東北軍的少帥張學良。張學良久慕宋哲元的指揮才能，決定收編這支能徵善戰的隊伍，並贈宋哲元一把將軍指揮刀，刀柄上刻有「張學良贈」的銘文，刀鞘和刀柄上雕刻有花紋，十分精緻(現存北京軍事博物館)，部隊改稱為東北邊防軍第三軍，全軍只有一萬五千人的編制，卻要維持四萬人吃飯，所以無論官兵一律只管吃飯而不發軍餉。全軍下轄兩個師，第一師師長馮治安，第二師師長張自忠。軍官一律降級使用，如趙登禹原為師長，現編為馮治安手下的旅長。後來劉汝明加入又增加為暫編第二師。
在張學良東北易幟後不久，全國軍隊統一編制，張學良為海陸空軍副總司令，宋哲元所部被編為國民革命軍第二十九軍。
二十九軍與大刀隊
蔣介石對二十九軍是有所考慮的，他準備利用他們去江西剿共。而宋哲元卻認為中國內戰多年、國力衰竭、列強環視。為此他在《北平實報》上發表了自己的主張:「槍口不對內，中國人不打中國人」、「軍人之天職是保衛國家」。所以二十九軍在由山西到察哈爾駐防的兩年多的時間裡，不僅積極練兵，還重點進行了愛國主義教育。
但二十九軍裝備極差，有三分之一是原西北軍遺留下來的老漢陽造、三分之一是當年淮軍打太平天國時用的毛瑟槍、其餘的是自製的土槍。不僅武器陳舊種類複雜，且彈藥補充困難。毛瑟槍就根本配不上子彈，只是背著做樣子而已。在這種狀況下，宋哲元只好保留了原西北軍使用的大刀，以彌補槍械之不足。為此，他給每位士兵配備了一把大刀。這刀與一般的單刀不同，它是由山西的鑌鐵打成，每把重7斤，全長7尺，刀面最寬處有4寸，刀沉力大，舞起來凜凜有風，很有殺傷力。宋哲元還特意聘請了一些身懷絕技的武術名家來擔任教習，如當時享有盛名的武術大師李堯臣。李是河北冀縣李家莊人，曾拜神拳宋彩臣為師，先練三皇炮錘拳，後練六合刀、追魂劍等十八般兵刃，會使暗器，功夫過硬，在社會上頗有名聲。民國以後，李靠在家授徒為生。當宋哲元聘請他到軍中擔任教習後，他根據大刀的特點及日軍步槍上刺刀的情況，結合原來的六合刀法，創造出一套「無極刀法」。此刀法既可當刀劈，又可當劍刺，其中有一招叫「空手奪白刃」，虛實結合，以奇制勝，後來在喜峰口、羅文峪的戰鬥中都發揮了極大威力，使日軍在近戰中毫無招架之力。日本兵因懼怕大刀砍頭，並流傳如被大刀砍掉腦袋死後就不能再託生成人，這大大影響了日軍的士氣。於是日軍趕造鐵脖套發給士兵套在脖子上，也成了一大奇觀。
為了將無極刀法傳播開來，軍部先由各連隊抽選骨幹組成大刀隊，以簡元傑為隊長，由李堯臣直接傳授刀法，再由他們返回連隊傳授給全軍。
喜峰口、羅文峪之戰
1933初，日本繼「九一八」吞併我東三省後又揮兵南下，企圖越過長城，再吞華北。為遏止日軍的攻勢，軍事委員會北平軍分會主任張學良將北方各派系的軍隊組成八個軍團，在長城一線布防。二十九軍與四十軍組成第三軍團，任命宋哲元為總指揮，秦德純、龐炳勳為副總指揮，負責熱河以東嶺南一線防務。二十九軍共轄3個師，宋哲元令37師馮治安部防守城嶺子—喜峰口—潘家口一帶；令38師張自忠部以遵化為中心，防守龍井關至馬蘭峪一帶；令暫編第二師劉汝明部在玉田向安鎮及東辛莊鎮集結待命。
1933年3月9日二十九軍37師先頭部隊剛到喜峰口，發現喜峰口已被日軍第14混成旅佔領。此陣地原是第四軍團53軍萬福麟的防地，因連日作戰將士過度疲勞而撤退。從10日到11日37師先頭部隊與進攻喜峰口兩側的日軍展開肉搏戰，首先組成五百人的大刀敢死隊，雙方來回拉鋸，爭奪激烈。由於士兵手持大刀與日軍短兵相接，使日軍雖有優良的武器卻不能發揮作用，此戰雙方傷亡慘重，五百人的大刀敢死隊僅生還23人。宋哲元急調37師趙登禹旅、王治邦旅及38師佟澤光旅，直奔前線，並任命趙登禹為喜峰口方面作戰的前敵總指揮、王治邦為副總指揮，共同協助作戰。11日夜，趙登禹旅長率兩個團從左翼出潘家口繞至敵右側，攻擊喜峰口兩側高地之日軍。是夜趙登禹身背大刀，踏雪前進，由老鄉帶路，從後面包抄。於12日天未破曉時，抵達日軍在北山的騎兵陣地和在蔡家峪、白臺子的炮兵陣地。趁日軍熟睡之機，將手榴彈扔進帳篷，殺傷大批日軍，對逃出的日軍則揮刀斬之，隨後又將陣地上的火炮、輜重、糧草一一炸毀。喜峰口一戰共斃傷日軍六七百人，我軍亦傷亡副團長以下軍官14人，士兵數百人，從此打響了二十九軍武裝抗戰的第一槍。
日軍在喜峰口受挫後，並不甘心，又企圖轉攻羅文峪。羅文峪是古都北平的門戶，如果失守則古都危矣！負責守羅文峪的是二十九軍暫編第二師劉汝明的部隊。16日至17日，日軍先企圖奪取三岔口高地，被擊退後，又以飛機大炮作掩護，向羅文峪、山楂峪和沙寶峪進攻。守軍誘敵深入，待敵臨近陣前，戰士們由戰壕躍出，以大刀及手榴彈拼殺，戰況極為激烈，日軍不支被迫敗退。18日，日軍再次進攻，守軍則依託城牆、碉樓頑強抗擊。日軍在猛烈炮火支援下，反覆向守軍衝擊，戰士們則待敵接近時，躍出陣地抽出大刀與敵肉搏，戰至傍晚，日軍又被擊退。午夜，守軍從左中右三面主動出擊，戰至天明，日軍屍橫遍野，羅文峪以北10裡內已無敵蹤。喜峰口、羅文峪之戰況不斷在全國各大報紙報導，鼓舞了全國民心。
《大刀進行曲》的創作與傳播
喜峰口、羅文峪戰鬥之勝利，打出了中國軍隊的威風，振奮了全國人心。以落後的武器戰勝了有先進武器之敵，運用近戰、夜戰，充分發揮了大刀的威力，有力地抗擊了日本帝國主義的侵略。一時全國各大報紙，尤其是上海《申報》對每日戰況的報導，對二十九軍的讚揚，鼓舞了全國人民的抗戰信心。當時上海一個公司的小職員孫培元年僅19歲，他受申報的影響，滿懷激情，以麥新為筆名創作了《大刀進行曲》，副標題是「獻給二十九軍大刀隊」。根據揚雲峰的回憶，在1933年5月《大刀進行曲》就已在二十九軍軍中傳唱開了。1937年電影《風雲兒女》用《大刀進行曲》做主題歌，從此《大刀進行曲》風靡全國。麥新在全面抗戰爆發後，到根據地參加革命。1938年1月加入中國共產黨，1940年在魯迅藝術學院任戲劇音樂部黨支部書記，並創作了大量的革命歌曲。1947年6月6日在國民黨軍的一次襲擊中壯烈犧牲，年僅33歲。 （李惠蘭 韓明）