該團前身為1936年初組建的陝北紅29軍。
1937年8月，改編為八路軍第129師特務營。
1937年10月，改編為八路軍警備第2團。
1940年，編入留守兵團第385旅為警備第2團。
1942年12月，與陝甘寧邊區保安司令部獨立第5營(1938年4月由慶環保安司令部第5保安大隊改編)合編為留守兵團第385旅警備第4團。
1945年8月，改稱陝甘寧晉綏聯防軍第385旅警4團。
1946年4月，與第385旅警5團（警備第7團與合水縣保安大隊合編成385旅警備第5團）合編為陝甘寧晉綏聯防軍警備第3旅警備第5團。
1947年2月，編入陝甘寧野戰集團軍為警備第3旅警備5團。
1947年3月16日，改稱陝甘寧晉綏聯防軍區警備第3旅警備5團。
1947年9月21日，編入新組建的西北野戰軍第4縱隊為警備第3旅警備5團。
1949年2月1日，改稱中國人民解放軍第4軍11師31團。該團是紅軍團隊，戰鬥力強，是軍、師主力團。解放戰爭時期，參加了宜川、瓦子街、西府隴東、澄邰、荔北、陝中、扶郿、蘭州等重要戰役戰鬥。建國後先後參加了西北剿匪、甘南平叛和西藏平叛作戰。
彪悍善戰的青馬騎兵
該團真正打出威名，是在1948年8月蘭州戰役中。蘭州，北臨黃河，東、西、南三面環山，抗戰時期就構築了國防工事，國民黨守軍稱該城為「不可攻破的鐵城」。鑑於蘭州決戰的勝負是青馬（指青海軍閥馬步芳的部隊）存亡的關鍵，所以馬步芳集中全部主力，妄圖依託蘭州的堅固城防和黃河天險，擊退第一野戰軍於蘭州外圍。青馬士兵雖然武器較差，但作戰兇悍頑強，在戰鬥中敢於近戰格鬥，如果火力弱，工事不堅固，是很難阻擋青馬尤其是青馬騎兵的死命衝鋒，從而在近戰格鬥中被其擊潰。通過多次交手，我軍的共識是，青馬除了武器裝備差以外，戰鬥力等同於日軍。在歷史上青馬造成了紅西路軍的全軍覆沒，在西府戰役中又讓我軍吃了大虧，所以在蘭州戰役中，面對青馬主力，這著實是一場硬仗。
在1949年8月21日首次攻擊失利後，第一野戰軍於8月25日又發起了第二次攻擊，第4軍第11師31團正面主攻沈家嶺。沈家嶺是南山諸陣地中離黃河鐵橋最近的陣地，被稱為「蘭州鎖鑰」，我軍一旦拿下沈家嶺，就打開了蘭州門戶，可以直搗西關，控制黃河鐵橋，截斷青馬西逃之退路。清晨5點50分進攻開始後，31團用炸藥破壞了青馬的人造峭壁，打開了缺口，接著以極為銳利的攻擊，連續突破敵兩道防線，在沈家嶺寬300米的正面戰線上落腳。隨後雙方在沈家嶺南部高地展開激烈的爭奪，31團打退敵人進攻30多次，湧現出捨身堵機槍口的英雄李應邦和「特等戰鬥英雄」王立功等一批戰鬥英雄。當戰鬥進入最後關頭，31團團長王學禮帶著陣地上所有的戰士與敵人展開白刃格鬥。當該團只剩下不到300人，營連幹部大部傷亡，彈藥即將告罄時，31團團長王學禮以「人在陣地在」的精神，組織團機關幹部投入戰鬥，他動員戰士們說：「彈藥不足我們從敵人身上去拿，手榴彈、子彈打光了，如果敵人再衝上來，我們就用刺刀拼，人在陣地在，不堅持到最後就不是我們這個紅軍團。」戰至最後，31團只剩下170多人，仍然牢牢堅守住了陣地。當我軍增援部隊10師30團（詳見前文百面榮譽戰旗解讀（44）長攻善守英雄團）趕到時候，一發炮彈落在陣地上，王學禮團長倒在了血泊中，犧牲在勝利的前夕……
戰至黃昏，我軍攻克沈家嶺等陣地，接著乘勝追擊，攻佔蘭州西關，搶佔黃河鐵橋，切斷青馬退路。至26日午時，肅清城內守軍，馬步芳部2萬7千餘人被殲，蘭州戰役順利結束。彭老總在蘭州戰役結束後說：「打蘭州，有的團1500餘人，戰鬥結束時只剩下幾百人（指的就是11師31團）。這些英雄們為人民的事業，粉身碎骨，光榮獻身，為萬世師表，永遠值得紀念和學習。蘭州戰役是解放大西北戰鬥中最關鍵、最激烈的一次決戰，因在蘭州戰役中表現突出，第4軍第11師第31團被第2兵團授予「真正頑強英雄團」榮譽稱號，同時被第1野戰軍授予【勇猛頑強英雄團】榮譽稱號。
1953年4月，11師31團改番號為第11師第32團。
1962年，該團參加中印邊境自衛還擊作戰。在我軍取得第一階段作戰勝利後，印軍不甘心失敗，大舉增兵，沿達旺至邦迪拉僅有的一條簡易公路，在西山口、德讓宗和邦迪拉呈一字長蛇陣分段布防。劉伯承元帥提出「打頭、切尾、斬腰、擊背、剖腹」的戰術，將印軍分割殲滅。為阻止印軍南逃，插入敵後切斷邦迪拉和德讓宗之間的公路進行圍殲是成敗關鍵。32團（原31團）隨11師擔負了這一艱巨的任務。在當地藏民的指點下，11師選擇了貝利小道（1913年，英國情報軍官貝利上尉偽裝成探險家勘察地形時發現了這條路，因此命名）作為穿插路線，歷經7天5夜，連續強行軍250公裡，翻越4000至5000米海拔的5座冰雪達坂，深入敵後180公裡，截斷了德讓宗至邦迪拉之間的公路。印軍完全沒想到插入貝利小道的是11師整整兩個團的部隊，瞬間崩潰，全線動搖。11師33團窮追猛打，一口氣幹到了查庫，再向前就是無險可守的阿薩姆平原，印度邊境城市提斯普爾的燈火清晰可見，這是1962年中印戰爭我軍打到的最南端位置。
11師貝利小道穿插作戰要圖
戰後，西藏軍區司令員張國華向毛澤東主席匯報情況時，毛主席說：「這次仗打得很好，前面防守，後面不防，繞到屁股後面它就完了。古今中外誰都怕抄後路，這次還擊戰，主要是11師跑到它後面去了。」這場被西方稱為「小刀切黃油」的戰鬥，讓一貫欠收拾的印軍領教了什麼是中國陸軍的穿插分割戰術，中國陸軍的威名響徹雪域高原，11師也成為阿three心中永遠的噩夢。
1985年11月，該團整編為新疆軍區步兵第11師（西北紅軍僅存的一支成建制的紅軍師）第32團。
80多年來，「勇猛頑強英雄團」及所在的新疆軍區第11師的英雄兒女為人民的解放事業、為保衛和建設祖國的邊疆，做出了巨大的貢獻和犧牲。所有這些，將永遠鐫刻在共和國的豐碑上，為後人所永懷。