抗日戰爭勝利之後，蔣介石提議國共雙方就建國一事在重慶進行談判，蔣介石本以為我黨領導人不會親自去重慶，然後他就能以正義之名發動內戰，但是毛主席不僅來了 ，還安全返回延安，蔣介石看陰謀沒得逞，不顧全國人民反對，悍然發動內戰。
在解放戰爭初期，無論是東北戰場、中原戰場還是華中戰場，蔣介石的部隊都牢牢掌握著主動權。就在我軍遭遇重重包圍後，蔣介石又集結43萬大軍，向山東野戰軍司令陳毅和華中野戰軍司令粟裕所佔領的解放區迅速包圍而來。
面對武器裝備遠超於己的國民黨軍隊，華中野戰軍克服重重困難，在粟裕的領導下，在蘇中地區取得了「七戰七捷」的戰爭奇蹟，大大挫傷了國民黨軍隊的士氣。
但是從山東地區南下到淮北地區作戰的山東野戰軍就沒那麼順利了，雖然全殲了國民黨軍整編第69師第92旅，但是在攻打泗縣時，遇到了桂軍兩個團的猛烈抵抗，當時淮北正處於雨季，山東野戰軍的士兵又大多數來自北方，戰鬥進行得異常艱難。在付出巨大的傷亡後，陳毅下令部隊撤出泗縣。
在泗縣戰鬥打響前，陳毅曾向中央說明攻打泗縣的計劃，主席認為泗縣正在雨季，最好是選擇放棄，等到有利時機再伺機而動，但是陳毅認為自己有兵力上的優勢，攻下泗縣非常容易。不料，廣西國民黨部隊，打得非常頑強，直到戰死也不繳槍，導致野戰軍傷亡極大。這一戰，因為陳毅指揮失當，導致戰鬥失利，部下對陳毅產生牴觸情緒，士氣受到極大的影響。
國民黨軍隊第一階段的進攻結束後，已經刺探出華中和山東野戰軍虛實，國民黨軍參謀總長陳誠和薛嶽制定出了下一步計劃，他們把部隊分成三路，一路進攻魯南解放區，一路繼續在泗縣牽制山野的主力，最後一路向淮陰和淮安進攻。這三路軍的前兩路是用來誘惑山東野戰軍的，主要是目的還是攻取兩淮。
陳毅在分析了國民黨軍隊的情況後，認為如果敵人攻下沐陽，那麼山野回山東的後路就會被切斷，到時候魯南也會被攻下，於是他把主力調到了沐陽，只留下第9縱留在兩淮門戶泗陽。但是粟裕卻認為，如果主力撤出兩淮，就正中了敵人的圈套。於是他通過華中分局轉告陳毅和中央：「敵佔宿遷、洋河之線，有進犯兩淮之極大可能。來直搗我華中之心臟，與截斷華中與山東之聯繫。
但此時國民黨軍第7軍和整編74師利用機械化優勢，很快就來到了泗陽，留守的9縱因為兵力少，抵擋不住敵人的猛攻向淮陰方向後撤，敵人窮追猛打，最後將9縱包圍在了淮陰。
這時陳毅才如夢初醒，徹底明白了敵人的意圖，於是趕緊調派2縱前去營救，但在路上遭到敵人的阻擊，最後沒有趕到。粟裕率領的華中野戰軍得知兩淮危急後，也放棄攻打海安，前來救援，當部隊趕到後，淮陰大部分已經被敵人佔領，經過商議，粟裕帶領華野撤出了淮陰，不久，整編74師在張靈甫的指揮下攻佔了淮安。
兩淮失守表面上是陳毅指揮出現問題，更深層的原因是隨著戰役規模的越來越大，不同戰區的解放軍已經到了從戰略性配合到戰役性配合的階段。當時的山東野戰軍和華中野戰軍配合出現了問題，沒有從全局的角度來考慮戰爭，只是站在局部來分析問題，最終導致了失敗。
兩淮戰役的失敗，也讓中央看到了不同戰區野戰軍戰役配合的重要性，之後便誕生了華東野戰軍這個大兵團，而陳粟組合也成為繼劉鄧組合後我軍歷史最輝煌的黃金搭檔，為之後的大戰役的勝利奠定了基礎，從這個意義上講，兩淮的失利是有其極大的軍事意義的。
在華東野戰軍成立後，陳毅任總司令兼政委，粟裕為副司令，粟裕全權負責野戰軍的具體作戰。當時粟裕僅從一個軍團參謀長一下成為了野戰軍副司令，這讓很多在紅軍時期就已經是軍長的老將心生不服，但是迫於中央的軍令和陳毅的威望，他們雖然不服，但還是不擇不扣的執行命令。
華東野戰軍成立後的第一戰是宿北戰役，直接參戰都是山東野戰軍的部隊，粟裕對將領和當地的情況不是很熟悉，但是即使在這樣的情況下，華東野戰軍還是殲滅了國民黨軍一個整編師大部，敵第69師師長戴之奇自殺，副師長饒少偉被俘，共殲敵2.1萬人。這場戰役不僅深刻的影響了華東戰局的發展，也讓很多老將對粟裕的軍事才華有了深刻的認識。
之後，華東野戰軍又取得了魯南戰役、萊蕪戰役、泰蒙戰役、孟良崮戰役的勝利。尤其是孟良崮戰役，在粟裕的指揮下，華東野戰軍殲滅了敵軍王牌整編74師，徹底改變看我軍在山東軍區不利的局面，而這時老將們已經對粟裕大將充分的信任了。
1948年5月，考慮到粟裕已經完全熟悉了華東野戰軍，中央任命他為華東野戰軍司令和政委，但卻被他推辭了，最後任代司令兼代政委。
之後，豫東戰役中，華東野戰軍殲滅9萬國民黨軍隊，兗州戰役，殲滅敵軍6.3萬人。濟南戰役，殲敵10.4萬人，生擒國民黨第二綏靖區司令官王耀武。還有我們熟悉的淮海戰役，殲滅敵軍44萬人，後來毛主席這樣說：「淮海戰役，粟裕同志立了第一功。」
無論是前面的戰役，還是後來的渡江戰役和上海淞滬戰役，粟裕大將都未嘗一敗，隨著他在軍中的威望越來越高，即使陳毅離開了他，他也能指揮百萬大軍如臂使指。
1955年9月27日，粟裕將軍被授予大將軍銜，雖然他推辭了元帥軍銜，但是反而讓我們更加地對他敬仰。