1946年8月，日軍宣布投降，抗戰取得全面勝利。此後，國共舉行重慶談判，為國家爭取一個光明的未來。然而蔣介石自恃已經擁有500萬美械武器部隊，炮兵、裝甲兵、工兵和空軍、海軍軍兵種齊全，力量佔據絕對優勢，因而圖謀向解放區進犯。雙方爭奪的焦點首先在山西爆發。
8月中旬，國軍第二戰區司令長官閻錫山出動4個師又1個挺進縱隊，進佔我解放區上黨地區，企圖以此侵佔全部晉東南解放區。為保衛解放區，配合重慶談判，軍委指示晉冀魯豫軍區劉鄧首長，堅決自衛反擊，殲滅侵入上黨地區之敵，要打得乾淨利落，務求首戰必勝，給敵人以沉重打擊。
接到軍委命令後，劉鄧首長認真分析了敵情我情和戰區地形，決心集中太行、太嶽和冀南三個二級軍區的野戰部隊，以及地方武裝，共計31000餘人，全力打好這一仗。劉鄧首長確立了避強擊弱，首先逐個奪取長治外圍各城，誘敵主力出來增援，力求在運動中殲敵，爾後再奪取長治的方針。
其時我軍正處於從分散遊擊戰向大規模運動戰過渡階段，部隊集中整編成野戰軍，編制和武器裝備等極不充實，彈藥也少，又缺乏大兵團攻堅作戰經驗等情況，此時作戰面臨很大困難。晉冀魯豫軍區進行了充分的戰前組織，加緊訓練，集中彈藥，並鼓舞動員，要求指戰員「為保衛勝利果實而戰」「為支援重慶談判而戰」。
經過準備後，劉鄧首長指揮部隊於9月10日開始行動。我太嶽軍區陳賡部、太行軍區陳錫聯部、冀南軍區陳再道部各自發起攻擊，步步拔除長治外圍要點。經過10天戰鬥，相繼攻克潞城、長子、屯留、壺關等城，並開始圍攻長治。長治守敵第19軍軍長史澤波驚慌失措，數電太原第二戰區長官部增援。
閻錫山知道上黨危急後，於9月24日派第7集團軍副總司令彭毓斌率2個軍8個師共2萬餘人出動，由於洪路沿白晉路南下增援長治。劉鄧首長指示我軍一部繼續圍攻長治，以陳賡指揮太嶽縱隊主力打主攻，北上運動伏擊來援之敵。10月2日，我軍將孤軍冒進的彭毓斌部包圍於老爺嶺附近地區，隨即展開猛攻。
被圍敵軍憑藉優勢火力和有利地形頑抗，雙方進行了激烈拉鋸戰。根據戰場情況，陳賡司令員果斷改變部署，採取圍三闕一的打法，給被圍之敵留出北面的生路，誘其脫離陣地逃跑。國軍果然於10月5日夜向北突圍，我軍即一面堵擊，三面追殺，再次將敵人包圍於運動途中。國軍拼死突圍，但都被太嶽部隊堅決擋住。至6日，我軍發起總攻，被圍之敵完全崩潰，2萬餘人被殲滅，敵副總司令彭毓斌被擊斃。
取得大捷後，我軍主力回師長治。史澤波部難以堅守，於10月8日棄城西逃。我軍勇猛追擊，於12日將逃敵全殲於桃川堡地區，生俘敵軍長史澤波。至此，我晉冀魯豫軍區部隊取得了上黨戰役的輝煌勝利。
此役中，我軍以少敵多，殲滅敵人3個軍部、11個師加1個挺進縱隊，共計35700餘人，繳獲山炮24門、輕重機槍2000餘挺、長短槍16000餘支，沉重打擊了進犯之敵，保衛了晉東南解放區，為促成談判成功做出了重要貢獻。