1929年6月，徐向前來到了大別山，擔任紅31師的副師長。但是由於吳光浩師長的犧牲，只能是由其來披掛上陣，而徐向前上任後便趕上了「辛羅會剿」。而當時的八百多名敵軍企圖包圍紅31師。而徐向前則是採取了「避強擊弱」的戰術，專挑弱的方向進攻，接連五次戰鬥把敵人打的措手不及，使得這次的圍剿失敗了。
這次會剿的失敗，便引發了徐向前跟他「老師」的失敗，剛過了一個月的時間，劉峙親自帶著湖北、河南兩個省的部隊發起了「鄂豫會剿」。劉峙曾經是徐向前的老師，曾經在黃埔軍校擔任少校戰術教官。他不但是教過徐向前他們戰術，還曾經帶著徐向前等人打過仗。而且他還是蔣介石的親信，在國民黨擔任過團長、師長、軍長可以說是特別有名的將軍。
但是這位黃埔軍校的老教官也沒有想到，會在這裡遇到自己當年的學生，而且還成為了自己的對手。而劉峙指揮著把紅31師包圍。第一步想要消滅其部，第二步則是分區「清鄉」。
雖然計劃得很好，現實卻是殘酷的。徐向前看到他老師的部署則是採取了「與敵周旋，避強擊弱」的方法，率領著部隊在包圍圈裡面轉，而後抓住敵人薄弱的地方，一舉拿下，衝出了包圍圈。而這時紅32師則是前來支援，更加使得敵人找不到北了，只能是跟著紅軍打轉。
就這樣兩個多月的時間過去了，劉峙被搞得身心疲憊，只能是收兵。而這次所謂的」會剿「也就此失敗告終。被自己的學生打敗了，劉峙的心裡特別的不甘。所以到了10月初又來了一次「會剿」這次還是由劉峙指揮，這次更是不但被徐向前逃出了包圍圈還被其消滅了四個民團，並且還有一個正規連投降了。所謂的「會剿」又是以失敗而告終。
徐向前又一次的把自己的老師給打敗了，因為其連續三次粉碎敵人的「會剿」，所以使得紅31師由原來的三百人擴大到了七百多人。而後在11月的黨代會上徐向前被選為鄂豫邊特委委員；而後到了12月實行了一次工農兵代表大會，徐向前又擔任了鄂豫邊革命委員會軍委主席。
紅軍的一個副師長，能夠當選革委會的軍委主席這是特別少見的。後來大革命失敗後，徐向前隱姓埋名改名為「餘立仁」。到了1929年才恢復其姓氏，並將其名象謙，改為了向前。而後，徐向前這三個字使敵人聽了都聞風喪膽。