一九四五年九月，太行、太嶽縱隊分別在山西上黨地區攻克屯留、長子兩座縣城。
部隊休整一日後，太行、太嶽、冀南縱隊分別從南、北、東三面向長治發起攻擊。坐鎮長治的國民黨守軍是閻錫山部第十九軍軍長史澤波。
長治城高牆固，易守難攻，攻擊開始後，天降大雨，攀爬更加困難，加之國民黨軍火力猛烈，擔任攻擊任務的三個縱隊傷亡較大，卻進展緩慢，戰爭成膠著狀態。
長治被圍，閻錫山令本部第七集團軍副總司令彭毓斌率第二十三、第八十三軍共八個師，兩個重炮團從祁縣出發來援。
大雨使得道路交通變得泥濘不堪，敵軍彭毓斌進展緩慢，一日只能行軍二三十裡。
敵方大軍來援，戰局形勢越來越嚴峻：援軍到來之前打下長治已經不可能了，敵方援軍一到，將對我軍形成兩面夾擊之勢，到那時我軍將兇多吉少。
九月二十八日，劉伯承果斷下令：由陳再道繼續指揮冀南縱隊繼續為困長治，以陳錫聯太行縱隊為右翼，陳庚率領太嶽縱隊為左翼，立即北上迎擊彭毓斌的援軍。
由於大雨傾盆，渾身泥濘的兩隻部隊在屯留西北遭遇。
當時的閻錫山部隊全部裝備著日式步槍和山炮，彈藥充足，火力猛烈。
而我軍的武器裝備仍然是抗戰之前的老式裝備，由於日本只向蔣軍投降，得到的補充少之又少，但我軍素來作戰頑強，彌補了武器彈藥的不足。
幾日的血戰，戰死者著屍體堆積在漳河北岸，河水被鮮血染成了紅色。
十月五日傍晚，晉冀魯豫各部開始了最後的總攻。次日上午九時戰鬥結束。
閻錫山的八個師2萬餘人全軍覆滅。陳劉斌中彈後負傷自殺。被俘的國民黨高級軍官包括炮兵司令胡三餘、暫編四十六師師長郭溶、暫編四十九師師長張宏，六十六師師長李佩膺等。
長治守軍的2萬人的增援部隊被殲後，只得棄城突圍，劉伯承命令圍城部隊緊追不捨，同時命令其他部隊急速前往合圍。
四天後，將史澤波的部包圍在沁河並殲滅。史澤波部除三千人逃脫外，剩下六千人同他本人一起被俘。
上黨戰役是日本投降後國共之間的第一場戰役，戰役的結果完全出乎老將的預料：武器簡陋的共產黨軍隊竟然時強敵敢於發動如此規模的戰役，並且完殲自己的精銳之師。