1947年1月中旬，魯南戰役結束後，隴海路以南整個蘇皖地區轉入敵後遊擊戰爭環境，華中野戰軍主力北上轉入山東，原山東、華中兩大野戰軍正式合併成立華東野戰軍，下轄11個步兵縱隊和1個特種兵縱隊，除兩個縱隊駐留蘇皖地區外，能夠集中使用的野戰軍主力為9個縱隊約27萬人。
但蔣介石卻錯誤的判斷我華東軍區部隊傷亡重大，續戰能力不強，並料定我軍必定固守臨沂，於是緊急調集53個旅31萬人，磨刀霍霍的組織「魯南會戰」。國民黨軍的部署是，南線以第19軍軍長歐震，指揮8個整編師作為主要突擊集團，北犯臨沂。北線以第二綏靖區副司令長官李仙洲指揮3個軍9個師組成輔助突擊集團，南犯萊蕪、新泰，進行南北夾攻，企圖迫使華東野戰軍主力在臨沂地區與其決戰，各路敵軍南北對進，分進合擊，氣焰十分囂張。
1月31日，南線敵軍開始向華野進攻，華野決心誘姦南線敵軍突出冒進的一路於臨沂附近，並做好了保衛臨沂的準備。但是，敵人接受宿北魯南戰役中被分割殲滅的教訓，採取了「集中兵力，穩紮穩打，齊頭並進，避免突出」的戰法。華野始終不能獲得良好戰機，於是考慮誘敵深入到臨沂，然後再實施打擊，並調北線的第9第10縱隊南下參戰。2月4日，毛澤東指示華野：「不管國民黨整編第五軍到魯與否，敵愈深進愈好，我愈打得遲愈好，只要你們不求急效，並準備於必要時放棄臨沂，則此事我必能勝利」。
陳毅受到毛澤東的啟發，很快提出了一個重要的設想，既然南線敵人的重兵集團非常密集找不到戰機，而北線的敵人又孤軍深入，而且威脅我們的後方，那麼不如改變原來的作戰方針，置南線的重兵集團於不顧，主力北上以絕對優勢兵力殲滅北線之敵。這時候，從膠濟路南犯的敵李仙洲集團也在魯中開始行動，先頭部隊於2月4號進抵萊蕪地區。針對這一新的情況，粟裕認為在南線敵人很謹慎，不敢大踏步前進，而北線之敵卻恰恰威脅了華野的後方。華野經過權衡，重新擬定了作戰方案：「如果南線之敵仍不能北進或北進時不便於殲滅，則除了用一個縱隊留臨沂地區與敵糾纏外，其餘主力急行北上，徹底解決北線敵人」。
這一方案上報中央軍委後，第二天就接獲毛澤東復電，完全同意華東野戰軍的方案，並要求華野在執行此方案時，對外應裝作打南面的模樣，使李仙洲集團放手南進，然後秘密向北移動全軍，殲滅該集團，並攻佔膠濟路。華東野戰軍在向軍委請示的同時，已經開始為隱蔽北上意圖而造勢，以韋國清的二縱向正面右翼的敵郝鵬舉部發起攻擊，一舉殲滅郝部兩個師6000餘人，並生擒郝鵬舉。中央軍委2月9號致電華野，要求他們必須在「攻南還是打北」兩個方針之間，首先做出抉擇。解決郝鵬舉部後，南線之敵左中兩路畏首畏尾不敢前進，右路軍也是向後收縮，結果使我軍未能達到分割敵人的目的。而北面的李仙洲部則繼續南下，華野的目光就轉向了這支孤軍。
此時，韓浚的第73軍已進駐博山以南，霍守義的12軍也已佔領萊蕪城、吐絲口，韓練成的第46軍佔領新泰。李仙洲集團看似進軍神速，但卻危機暗伏，這三個軍雖同歸李仙洲指揮，但第73軍是蔣軍嫡系部隊，第12軍原為東北軍，第46軍原為桂系部隊，內部派系矛盾較大，李仙洲指揮有心無力，有利於華野各個殲滅。此外，韓練成也與華野建立了聯繫，這些都是華野殲敵的有利條件。華野前委經慎重研究，決心放棄臨沂，以小部兵力阻擊南線敵人，主力轉兵北上於萊蕪地區圍殲李仙洲集團。
韓練成，寧夏固原人，原國民黨軍高級將領。是中國共產黨深入龍潭虎穴的四大傳奇將軍之一，是被蔣經國稱為在"總統身邊隱藏時間最長的隱形將軍"1925年，16歲時參加西北軍。參加過北伐戰爭。1926年9月，認識了劉伯堅和劉志丹，後來劉志丹為韓指定了加入共產黨的聯繫人，但是由於客觀原因一直沒有正式入黨辦理入黨手續，後來還和我們的這個黨組織失去了聯繫。在中原大戰的時候，蔣介石被馮玉祥的部隊包圍了，韓練成知道後，親率主力馳援，把蔣介石救了出來。蔣十分高興，當即下了一道手令："六十四師獨立團團長韓圭璋，見危受命，忠勇可嘉，特許軍校三期畢業，列入學藉，內部通令知曉。"由於沒有正式在黃埔軍校第三期上過學，韓從來不在履歷、自傳中填寫自己是"黃埔三期生"，但在國民黨軍隊，尤其是黃埔系將領中，人人都認同韓是黃埔同學。1942年6月，韓練成委託無黨派人士周士觀通過他的女婿、中共地下黨員於伶安排了與周恩來的第一次單獨會面，要求正式加入共產黨，從這時候開始，就在周恩來的直接領導下從事秘密工作。抗戰勝利以後，韓練成出任國民黨的第46軍的軍長，所以韓練成是我們埋伏在國民黨內部的一個非常關鍵的一顆棋。
根據作戰計劃，華野主力1、4、6、7縱隊馬上隱蔽兼程北上，匯同已由膠濟線南下的和位於泰安西南地區的第8、9、10縱隊求殲李仙洲集團，為了保守部隊行動秘密，華野不宣布每天行軍的目的地，總是在太陽下山就出發，一直走到第二天太陽出來，所以在隊伍中流傳著從「日落村」出發，到「天亮莊」宿營的說法。不多日，華野便把魯南的敵人遠遠的丟在了背後，同時華野留下的第2第3縱隊在臨沂地區偽裝全軍阻擊敵人，為了迷惑敵人，他們公開大修工事，顯出要決戰的樣子，同時地方武裝進攻兗州，在運河上架橋，造成主力將西進與晉冀魯豫野戰軍會合的假象，這使得國民黨情報部門誤認為我軍要死守臨沂，從而做出了錯誤的判斷。
2月12日。，南線歐震集團依仗強大炮火，以優勢兵力發起攻擊，開始進犯臨沂。而我軍在給予敵軍重大殺傷後主動轉移，這樣且戰且退至14日，臨沂已是一座空城。15日，李天霞、張靈甫指揮83、74師進入臨沂，國民黨方面欣喜若狂，鼓吹臨沂大捷，認為華野放棄臨沂是「傷亡慘重不堪再戰」，「魯南會戰」取得了決定性的勝利，陳誠被勝利衝昏了頭腦，一面命令南線部隊繼續北進，一面命令北線部隊南壓，儘快實施南北夾擊計劃。但是北路敵軍的指揮官王耀武的頭腦比較冷靜，他不相信華野會如此輕易地被解決掉，認為華野主力並沒有被消滅，有可能已經轉移了作戰方向，加之他的飛機偵察到華野有部隊北移的跡象，他便急令李仙洲集團全線後縮。
2月16日，王耀武下令46軍由新泰撤回萊蕪附近的顏莊，73軍撤到萊蕪，新36師撤到吐絲口鎮，12軍撤回張店明水一線，準備溜之大吉。陳誠聞訊大為惱火，認為華野已經是「被圍之師無足顧慮」，命令北線部隊恢復原來的部署。敵情的變化給華野的作戰計劃帶來麻煩，但華野堅持既定方案繼續隱蔽前進。華東野戰軍於19日秘密接近萊蕪兩側，形成對萊蕪城的合圍態勢。這時王耀武、李仙粥才判明華野的真正意圖。後來國民黨在臺灣出版的《戡亂戰史》曾記錄李仙洲部說：「一時竟不知匪軍主力所在，及至判明其企圖與行動時，我南進兵團已被分別包圍於古馬陵道中」。
王耀武認為華野要集中兵力首先消滅73軍，然後再消滅46軍，於是緊急命令顏莊的46軍迅速後撤，與73軍合力固守萊蕪。粟裕得知敵情變化後，立即調整部署命令「一縱進攻萊蕪李仙洲總部及73軍，四縱進攻顏莊的46軍，六縱進攻吐絲口鎮的新36師，八縱和九縱一部在博山以南的和莊設伏消滅77師，十縱攻佔錦陽關切斷國民黨軍的後路，戰鬥定於20日15時開始」。
20日拂曉，王建安和許世友分別率八縱九縱進入和莊地區隱蔽設伏，而77師也同時由博山南下，中午到達和莊，此次華野不得不提前發起戰鬥，否則敵軍將跳出包圍圈。13時，華野提前兩小時發起攻擊，殲敵一部，但是由於突擊距離較遠，山地行動不便，沒能在公路上把敵人分割殲滅，從而使得敵軍迅速收縮到和莊。黃昏時分，八縱、九縱20師搶佔周圍的制高點發起攻擊。李仙洲接到77師的告急之後，就命令73軍軍長韓浚派一個團去增援，但韓浚不是他的家底子，所以也不怎麼聽他的，韓浚當時說：「黑夜行動不便，我相信我的77師能夠堅持到天亮」，所以就沒有增援。結果21日拂曉，77師大部分被殲滅了，師長田君健帶著殘部去突圍，突圍的時候又被我們包圍了，田君健被擊斃。77師的殲滅為萊蕪戰役的勝利開了一個好頭。
20日黃昏，葉飛指揮一縱向萊蕪城西、城北國民黨的外圍陣地發起了攻擊，因為四縱沒有趕到，八縱又去圍殲77師，攻擊萊蕪城的戰鬥便由一縱獨立承擔。當天夜裡敵我雙方反覆爭奪，戰鬥十分激烈。韓浚命令73軍炮轟城西，並在21日晨派部隊出城增援。在小曹村，由於國民黨軍的火力猛烈，3師進攻了一整天，最終沒能得手，不得不退出陣地。與此同時，在萊蕪城北的礦山，1師2團經過一夜苦戰佔領礦山的制高點，但由於73軍在20日上午，以密集炮火配合步兵進攻反擊，華野不得不暫時撤離了礦山。
而在城北的馬家莊和小窪村，華野進攻順利，佔領了兩個陣地。王耀武得到李仙洲萊蕪外圍被猛攻的消息，又傳來顏莊附近也發現華野大部隊運動的消息，為了避免被各個殲滅，王耀武急令收縮兵力，要46軍放棄顏莊退入萊蕪城與73軍會合。當時萊蕪城南是四縱的作戰區域，因為四縱行軍受阻，沒能及時趕到，46軍順利由顏莊進入了萊蕪城，現在萊蕪小小的城內聚集了國民黨的兩個軍，共五萬多人。
21日早晨，為了給國民黨大軍留條退路，李仙洲密令韓浚的73軍向城北進攻，以保持萊蕪北面公路的順暢。韓浚派出一個團向小窪我軍陣地發起進攻，經過我軍奮勇殺敵，國民黨軍被迫於黃昏時分撤回萊蕪城內。22日，73軍的一個團又向萊蕪城西北的安樂山陣地進攻，萊蕪城西北有兩個山頭，中間呈馬鞍型，安樂山是西邊的山頭，一縱1師的一個連堅守陣地，扼住了國民黨軍突圍的通道。李仙洲怕華野居高臨下，城內受到威脅，下令一定要奪回安樂山。國民黨炮兵向山頭打了500多發炮彈，飛機扔下燃燒彈，將整個山頭包圍在煙霧之中，我軍在多數傷亡的情況下主動撤出了陣地，但將萊蕪國民黨大軍又拖住了一天。
在這三天裡，一縱打的非常艱苦，他們成功地拖住了萊蕪城裡的四萬蔣軍，為華野主力趕到預定位置完成圍殲國民黨軍的部署，贏得了非常寶貴的時間。後來粟裕在戰役總結報告中就特別說：「在各縱隊配合上來說，一縱最吃力，雖然繳獲不大，但是在整個戰役中起了決定性作用，應算第一功」。
就在一縱進攻萊蕪牽制李仙洲集團時，王必成指揮六縱進攻吐絲口鎮的戰鬥也在激烈進行著。吐絲口鎮處於明水、博山、通向萊蕪公路的交叉點，如果拿下吐絲口鎮，就切斷了李仙洲集團的退路和濟南方向增援，王必成命令16、18師擔任吐絲口鎮攻堅，17師阻擊青石橋方向之敵。2月20日夜裡，六縱派一個突擊連隱蔽接近吐絲口鎮，以偷襲動作向裡插，當敵軍哨兵發現喊起來時，突擊連已爬過圍牆，十分鐘後突進一個營的兵力，敵人也轉入陣地還擊，華野向南門方向運動，並沿小巷向鎮子縱深發展，之後又派47團進入突破口與48團突進部隊匯合，消滅南門敵軍鞏固陣地。
21日白天，駐青石橋的敵軍出動，一方面增援吐絲口鎮，一方面也企圖吸引華野分散兵力，六縱17師在阻擊的同時堅決反擊，激戰一天，迫使敵軍縮回青石橋，王必成命令「夜裡必須解決吐絲口鎮」。做好戰鬥準備後，16、18師於夜裡由西向東對吐絲口鎮之敵發起攻擊，敵軍依靠房屋進行抵抗，在每一條巷口組織火力封鎖華野前進的路線，華野在牆上挖洞與敵人爭奪房屋，敵軍守不住就縱火和投擲燃燒彈將房屋點燃，熊熊大火給華野的進攻造成困難，進展緩慢。
在城東北角的關帝廟，國民黨軍的師長曹振鐸據守核心陣地，一方面用密集的火力阻止華野，另一方面向萊蕪的李仙洲求救。吐絲口鎮裡面地形非常的狹窄，華野部隊數量雖然多但展不開，打了一夜佔領了吐絲口鎮中大部分的街道房屋，但是東北角敵人的師部陣地始終攻不下來，雙方形成了一種對峙。王耀武接到李仙洲的告急電報，親自乘飛機到萊蕪上空觀察，他看到華野大部隊在運動，萊蕪、吐絲口鎮的情況都非常危險。到21日，陳誠的南線兵團仍然沒有北上解圍的跡象，基於萊蕪城小，糧彈缺乏，靠空投支援不能解決根本問題，而濟南兵力又空虛，無法增援吐絲口鎮的判斷，王耀武認為固守萊蕪是極為不利的，只能經由吐絲口鎮北撤，他向李仙洲下達了撤退命令，同時派副參謀長帶上他的信飛往南京向蔣介石報告。蔣介石雖然認為在這種情況下撤退是非常不利的，但是王耀武命令已下也只得同意。
李仙洲本人不願撤退，他知道行軍途中可能會遭到華野合圍，但如果堅守萊蕪等待南線兵團解圍，還有望保全，李仙洲說：「大家都主張撤退我也沒意見，既然決心撤，就宜快不宜遲，立即開始行動」。李仙洲下令：「73軍為左路，46軍為右路，指揮部隨46軍行動，向吐絲口鎮方向撤退」。在濟南的王耀武命令李仙洲迅速突圍北撤，這樣既能接應救援吐絲口鎮的守軍，又有利於鞏固濟南和膠濟路的防務。
23日早晨，萊蕪城裡的國民黨軍開始撤退，但是秩序混亂，第46軍軍長韓練成按照和地下黨的約定，在關鍵時刻悄悄離開了指揮崗位，這使得整個軍失去了組織陷於混亂狀態。本來國民黨軍就軍心渙散，韓練成這一離開更是亂上加亂。粟裕得知李仙洲集團要跑，便立即下達在運動戰中殲滅敵人的命令。23日上午，李仙洲帶著73軍和46軍分成兩路突圍，至中午敵人後衛部隊則離開萊蕪城，華野立即跟進搶佔該城，從而切斷敵人的退路。埋伏在公路兩側的華野主力發起了圍殲國民黨軍的進攻，國民黨軍雖然陷入重圍，仍作拼死掙扎，他們想衝開一條生路。華野堅守不動，葉飛命令炮火向密集的國民黨軍轟擊，造成敵重大傷亡。敵軍喪失了鬥志，陷入混亂，李仙洲急忙請空軍副總司令王叔銘指揮飛機轟炸掃射，為地面部隊開路。
國民黨軍在華野強大的突擊下，行軍縱隊陷入了混亂，軍長找不到師長，師長找不到團長，大家在混亂中爭相逃命，李先粥與韓浚一會兒見面，一會又被衝散，他們無話可說，相對唏噓，許多士兵疲勞不堪，躺在地上發起了牢騷：「老子不走了，被共軍打死好了」，有的則憤怒地喊道：「從來沒打過這麼窩囊的仗，不打了，交槍」。李仙洲、韓浚還想做最後的掙扎，他們大喊著收拾起幾千人的隊伍，向吐絲口鎮方向進行突圍。途中李仙洲腿部負傷，被華野俘虜，韓浚與部分殘兵衝到吐絲口，被我六縱阻擊，他們轉向青石關前進，天黑時被我九縱包圍，被迫放下了武器，到下午17時，戰鬥基本結束，緊接著華野又乘勝攻佔膠濟線西段及其兩側十餘座城鎮，控制鐵路線200公裡，取得了這次戰役的完全勝利。
慘敗的消息傳來以後，王耀武是又驚又怒，他說：「五萬多人一天就完了，我就是放五萬頭豬，也夠共軍抓一個禮拜」，並且說：「萊蕪戰役，損失慘重，百年教訓，刻骨銘心」。而蔣介石也派這個陳誠的召集將領開會進行檢討，陳誠在會上罵的話跟王耀武差不多，他說：「就是送五萬隻雞，五萬隻鴨到萊蕪，讓共軍捉也要捉兩天，怎麼你們五萬多人只幾個小時就被人家消滅了呢？」那些將領也不服，在私下也抱怨說：「陳總長不懂，打了敗仗以後，人比雞還要好捉，雞聽不懂話，一捉就亂跑，人一打敗以後，一聽話就老老實實的繳槍集合」。
萊蕪戰役，華東野戰軍傷亡6000餘人，共殲國民黨軍6萬餘人，解放博山、淄川等13座縣城，使渤海、魯中、膠東解放區連成一片，粉碎了國民黨軍的「魯南會戰」計劃，其中總攻只用了五個小時，就以全勝宣告結束。奏捷之速，殲敵之多，代價之少，創造了解放戰爭以來的空前紀錄，也是中國戰爭史上少見的奇蹟。