1947年6月，中原野戰軍主力部隊千裡挺進大別山區，其中有兩支部隊協同配合挺進，一個是華東野戰軍外線兵團（陳粟大軍），另一個是中原野戰軍陳謝兵團（陳謝大軍），其中陳謝兵團還是單獨設立的，為什麼要單獨設立陳謝兵團？其作用又有哪些呢？
首先我們看看中原野戰軍的家底。1937年，盧溝橋事變後，我國全面進入抗戰階段，北方的紅軍改編為八路軍，南方的紅軍部隊，改編為新四軍。隨著戰爭局勢的變化，兩軍取得了巨大的戰果，消滅了大量的日偽軍部隊，繳獲了眾多的武器和物資，建立了大片的抗戰根據地，自身的兵力數量逐步增加。
1946年，解放戰爭爆發以後，八路軍、新四軍的番號開始陸續停止使用，開始出現解放軍這個名稱，於是四大野戰軍先後建立，分別是：西北野戰軍、中原野戰軍、華東野戰軍、東北野戰軍。我軍出於戰略角度考慮，中原野戰軍決定挺進大別山，一方面大別山地區至關重要，對於南京和武漢的距離並不算太遠，另一方面中原野戰軍挺進大別山地區以後，能有效牽制了陝北、山東等地的敵軍，敵軍不得不抽調部分力量趕赴中原地區，緩解陝北和山東解放區的軍事壓力。
此戰略部署雖然高明，但也冒著很大的風險。因為採取無後方依託的大挺進，必然會遭受到敵人重兵的圍剿，鬧不好就是白白送死。中原野戰軍根據自身的軍事力量來看，雖有劉鄧率領的中原野戰軍（居中）、陳粟（居東）率領的華東野戰軍外線兵團。但是僅僅依靠這這兩股軍事力量，很難完全達到牽制分散敵人的目的。
所以迫切需要另一股軍事力量給予配合，出現在中原野戰軍的西邊，配合挺進。於是，1947年7月，中原野戰軍陳謝兵團單獨成立了。他的兵力約3萬多人，由中原野戰軍第四縱隊、第九縱隊、第八十三軍組成。他的任務是南渡黃河，由晉南挺進豫西，依託伏牛山作戰，與敵人展開周旋，並伺機殲滅敵人有生兵力。
陳謝兵團在挺進豫西的過程中，依託伏牛山成功牽制了敵人李鐵軍第五兵團將近七萬多兵力，在山區團團轉。敵人疲於奔命，最終無力迎戰，陳謝兵團將其殲滅。這就是解放戰爭中著名的「豫西牽牛」。
單獨設立的陳謝兵團在豫西伏牛山一帶的戰鬥，打亂了敵人在中原地區的軍事部署，有力地配合中原野戰軍主力部隊進出大別山，為解放戰爭進入戰略反攻階段作出了突出貢獻。