1947年1月，陳毅，粟裕指揮山東野戰軍，華中野戰軍協同作戰，華野在19天的時間裡以傷亡8000人的代價殲滅整編26師，整編51師師部，四個旅以及一個快速縱隊，共5.3萬人，其中俘虜3.6萬人。此次戰役中，華野繳獲坦克二十四輛，榴彈炮、野炮、山炮及其他火炮二百一十七門，汽車四百七十四輛。
魯南戰役勝利後，山東野戰軍，華中野戰軍合編為華東野戰軍。由於在魯南戰役繳獲頗豐，尤其是在重武器方面，繳獲太多，華野組建了第一支特種兵縱隊，由陳銳霆擔任司令員。魯南戰役結束之後，國民黨內部的將領為掩蓋過錯，謊報軍情，稱華東野戰軍損失慘重，不能持續作戰。
蔣介石相信了底下將領的說法，也認為華野損失很大，已經無力繼續和國民作戰了。蔣介石認為如果國民黨軍趁這個時候發動進攻，那麼華野只能夠固守臨沂，而且蔣介石和國民黨軍將領認為華野一定會死守臨沂，因為臨沂是山東解放軍的中心機關，也是當時中共在山東掌握的唯一一座大城市，這座城市連接著膠東解放區，魯中解放軍，魯南解放區，地理位置十分重要。
在這種背景下，蔣介石集中了11個整編師30個旅的兵力，向臨沂，蒙陰發動大舉進攻，企圖和華野在臨沂城下決戰。蔣介石把部隊分成了兩部分，南線以整編第19軍軍長歐震指揮8個整編師21個旅為主要突擊集團，由臺兒莊，新安鎮等地向臨沂發動進攻，北線以第2「綏靖」區副司令官李仙洲指揮的第46、第73、第12軍為輔助突擊集團，由淄川，博山等地對臨沂發動進攻，南北兩線對臨沂形成夾擊的態勢。
為了完成這一作戰計劃，蔣介石親自到徐州部署，並派參謀總長陳誠親自坐鎮指揮。當時的形勢確實對華野很不利，不論是在裝備上還是在兵員數量上，華野都不佔據優勢。在這種情況下，粟裕採取了集中力量殲敵一部的方法，來應對國民黨軍的進攻，他把目標盯上了北線的李仙洲兵團。
面對國民黨軍的重兵進攻，華野做出了防守臨沂城，並對南線敵軍發動進攻的態勢，但實際上主力卻秘密北移。1947年2月10日，華野一縱，四縱，六縱，七縱，八縱分三路秘密北上，駐膠東、渤海地區的第9、第10縱隊南下博山、明水地區參戰，同時又命令地方部隊在運河上架橋，造成主力將西進和中野會合的假象。
2月15日，南線國民黨軍佔領臨沂，陳誠向蔣介石謊報戰績，說殲滅解放軍16個旅。之後空軍偵查到解放軍在運河上架橋，蔣介石據此判斷出華野損失慘重，命令李仙洲兵團加速南進，和南線國軍會合。對於華野的行動，國民黨軍當時有一個人看的很清楚，他就是山東省主席兼第二綏靖區司令王耀武，他多次向蔣介石建議，要求李仙洲兵團停止南進，立刻後撤，但是蔣介石不但不聽，反而訓斥他，說他怯戰畏敵，陳誠等人也紛紛向他發難。
1947年2月20日，王耀武通過一系列的情報偵查，確定自己的猜測是正確的，那就是華野準備圍殲李仙洲兵團，立刻命令李仙洲後撤，陳誠當時還向蔣介石告了王耀武一狀。但這個時候已經晚了，20日晚，華野各部紛紛發動進攻。敵整編46師師長韓練成還是地下黨員，他在戰鬥開始後就藏起來，導致整編46師群龍無首，整個李仙洲兵團亂作一團。
萊蕪戰役僅僅進行了63個小時，三天都不到，李仙洲兵團六萬多人就被全殲，其中五萬人被俘，而華野僅僅傷亡了六千多人。戰後，王耀武破口大罵：「五萬多人，三天就被消滅光，就是放五萬頭豬，叫共軍抓，三天也抓不完啊。」