1947年以後，解放軍與國民黨軍的較量已逐步完成了攻防轉換，解放軍對國民黨軍的戰場主動性已日益明顯，解放軍的戰略反攻階段開始。
◆1948年9至11月中國內戰形勢圖
在山西，閻錫山的五臺老鄉徐向前也正在以少勝多、以弱勝強。在經歷了運城、臨汾、晉中等幾個回合的較量以後，閻錫山的軍事力量被逐步消滅、瓦解，其剩餘的軍事力量也捉襟見肘，顯得有些力不從心，而徐向前率領的8萬解放軍正逼近併合圍閻錫山的總部—太原。
閻錫山打算死守太原，並以太原作為基地，等待國內國際的時局變化，企圖藉助國民黨中央軍的力量和當時國內外輿論熱議的美國可能發動的「第三次世界大戰」打敗共產黨領導的解放軍，實現「以城復省，以省復國」的戰略設想。
為了更好的防守太原城，閻錫山在太原四周、城垣及城內街區構築了密布的碉堡，太原因此得名「碉堡城」。為了加強太原的堡壘防線建設，閻錫山專門設立了「碉堡建設局」，其用於構築堡壘防線的建築材料一西北鋼鐵實業公司生產的鋼材和太原東山水泥廠生產的水泥必須徵得閻錫山本人的同意方可使用。閻錫山認為有著如此堅固堡壘防線的太原城「可抵一百五十萬軍隊」，太原因此成為南京國民政府大力宣傳的「反共模範堡壘」。
蔣介石也十分重視太原的防禦，因為太原的得失在當時關係到整個華北的戰局。儘管蔣介石與閻錫山有矛盾，但出於穩住華北的需要，仍先後命令駐紮在陝西的胡宗南部美械部隊第三十軍和第八十三旅空運增援太原，暫歸晉綏軍序列，同時還命令西北空軍第三隊副司令易國瑞帶著幾架飛機到達太原，臨時調撥給閻錫山指揮。
雖然閻錫山對他所建立的太原環形防禦堡壘非常自信，曾這樣評價他的堡壘戰術：
「共產黨憑的是人多，用的是波浪式人海戰術。我們一定要憑藉碉堡群，充分發揮火力，做到以鐵彈換肉彈，共產黨就沒有辦法。」
但由於閻錫山在此前的幾次戰役中因過於自信而多次遭到解放軍的打擊，丟城失地，損失慘重，此時的他也不敢再掉以輕心，他強調：「地球轉動一天，工事就要加強一天。我們的工事要隨著地球的轉動而不斷加強。要把每一個主陣地，都修成能經得起一萬發炮彈轟炸的永久性的工事。」因此他要求部隊不能滿足於現狀，應繼續對防禦工事進行改造，及時查漏補缺，以便長期固守。
◆民國時期太原城垣全景航拍照（城東角度）
太原城的防禦體系經過閻錫山的經營後，擁有種類繁多的外圍堡壘據點和縱深防禦陣地以及城牆防禦工事，這使得太原形成了由各式堡壘、壕溝、暗道相結合的，互為依託的多層次、大縱深的環形防禦體系。這個防禦體系被稱為「百裡防線」。
閻錫山在太原城的「百裡防線」下洋洋自得，他說：「太原形勢像人樣，東山好比太原頭，手是南北飛機場，兩腳伸在汾河西，太原好比是內臟。」太原環形防禦體系的堡壘之堅固，堡壘密度之大，連來到的美國記者都大為驚嘆地說：「任何人到了太原，都會為數不清的碉堡而吃驚，高的、低的、方的、圓的，甚至藏在地下的，都構成了不可思議的密集火網。」
面對著鐵桶一般的太原城，徐向前在戰役初期沒少吃過虧，他開始在宏觀層面尋找太原「百裡防線」的薄弱環節進行突破。
太原戰役前，徐向前原計劃從太原城東南方向突破，因為這個地區的地勢平坦開闊，從軍事角度看，易攻難守，但是閻錫山在太原城南修建了大量的碉堡，構築了堅固的工事，且有重兵把守。同時徐向前也清醒地認識到解放軍由於缺少重武器，很難取得突破，即使勉強突破了，沒有制高點，部隊傷亡也很大，很難對太原城的防禦構成致命威脅。而太原東面的東山卻是太原的制高點，如果能夠控制東山，整個太原就垂手可得。因此，徐向前決心首先拿下東山。
1948年10月5日，為搶奪糧食和打亂解放軍的攻城準備，閻錫山突然主動出擊，向太原城南發動大規模的進攻，徐向前決定抓住太原守軍脫離陣地、失去堡壘掩護的難得機會，發起戰役，是為太原戰役的序幕一一小店之戰。在小店之戰中，徐向前採取迂迴包圍的戰術，在北營、小吳村、馬練營、紅寺村、鄭村、小馬村、嘉節村等地截斷了幾支國軍的退路。閻錫山損失兵力12000餘人，同時還損失了一個空運補給基地，即位於太原城南的武宿機場。
由於小店之戰把國軍主要兵力吸引到了太原城南，國軍東山防守力量相對薄弱。
在首戰告捷後，徐向前就著手進攻東山四大要塞。
解放軍根據部署對東山四大要塞發起攻擊，雖然取得了一些戰果，但代價也是巨大的。由於攻擊部署面過寬，對閻軍堡壘般的百裡防線估計不足，影響了集中兵力佔領四大要塞的計劃。解放軍非但沒有能夠完全佔領四大要塞，反而傷亡慘重，更談不上在攻佔東山以後去拓展陣地。
在得知四大要塞遭攻擊後，閻錫山命令太原軍主力回防、死守東山四大要塞。徐向前的第一次進攻促使閻錫山將其所有能夠調集的兵力集中於東山四大要塞，並要求守軍做到「守碉互援」和「加強地下戰」。
◆閻錫山（時任太原綏靖公署主任兼山西省政府主席）
徐向前在吸取了第一次進攻四大要塞「攻而未克」的教訓後，決定再次發起對四大要塞的進攻，他的這次新部署帶有「重點進攻」的意味。但四大要塞的堅固畢竟不是浪得虛名，解放軍為了攻克這些堡壘付出了巨大代價，兩方軍隊在四大要塞的爭奪戰中都傾盡全力，戰鬥之激烈，傷亡之慘重，都是當時國內城市攻防戰所罕見的。
由於解放軍參戰部隊傷亡慘重，被迫休整補充，徐向前因未能完全封鎖閻錫山的空運機場而擔心繼續進攻會促使蔣介石空援閻錫山更多的兵力，同時毛澤東出於穩住國民黨軍華北「剿總」傅作義集團的全局考慮而向徐向前發電，要求暫緩攻城，徐向前準備在拿下東山以後迅速攻城的計劃被迫推遲。
在這時，徐向前想到一個問題，太原城雖然固若金湯，但他畢竟是一座孤城，既然迅速攻城的計劃暫緩，那麼長期的攻城計劃肯定可以實施，沒必要再跟他硬拼，於是他改變戰術，採用「攻心戰」。
攻心戰是自古就有的戰術，早在秦漢之際就有漢王劉邦在該下之圍時以「四面楚歌」摧垮了西楚霸王項羽的「八千江東子弟兵」的軍心。徐向前雖然人數和武器都不如閻錫山，但由於自己是包圍者，不論是前線將士還是支前民工都積極踴躍地想儘快解放太原，後勤保障問題不大，隨著其他幾路兵團陸續會師太原前線，解放軍對國軍擁有絕對優勢，徐向前這邊自然是人心士氣高漲。擁有這樣的優勢，解放軍就有了從心理上摧垮太原國軍戰鬥力的基礎。
喊話是卓有成效的一種攻心戰手段。喊話的主要對象是前線的士兵和軍官。針對士兵的喊話，徐向前指出：「我們幹部喊話，敵人士兵不相信，士兵喊話，敵人士兵相信，尤其是解放戰士喊話更相信。」熟人的現身說法比解放軍政工幹部的宣傳更有說服力，因此解放軍經常讓被俘的國軍官兵、已經身在解放區的國軍官兵的同鄉和與被圍國軍官兵有社會關係的人喊話，往往能取得不錯的效果。攻心戰特別強調了解放軍一貫的戰俘優待政策。針對軍官的喊話是在國軍士兵大量逃亡而國軍軍官加強了對士兵的懲戒和監視的背景下進行的，策反軍官比策反士兵更有瓦解作用。策反國軍中上級軍官的主要手段是寫信，策反下級軍官主要是通過喊話。為了策動國軍中上級軍官起義，解放軍甚至動用了被俘虜的國軍高級軍官，利用他們舊的部屬關係進行策反，這裡面就包括了被俘的晉綏軍高級將領趙承緩、沈瑞和梁培磺等。
由於閻錫山長期對自己部屬進行了忠誠教育和籠絡，一般情況下的攻心戰很難撼動晉綏軍的軍心，而對被包圍狀態下的國軍，攻心戰往往能起作用，因為這主要是人的求生本能使然，在對現實不滿和對前途迷失的狀況下，優先解決自身緊迫的生存危機才是最重要的。
攻心戰不僅有前線陣地上的喊話，還有內線的策反。中共地下黨員除了搜集情報，還加強了對太原國軍的策反工作，而內線策反工作同樣需要利用國軍官兵對現實的不滿心理。這裡面最突出的例子就是策動黃樵松三十軍的起義。儘管由於黃樵松部將戴炳南的出賣而導致三十軍起義未能實現，但仍對太原國軍內部產生了很大衝擊。太原國軍還是有一些成建制的部隊起義，例如華北第一兵團敵工科長趙世樞潛入國軍第七十一師，做通了該師參謀長孟壁、副師長尤世定的工作，成功爭取了該師二一一團、二一二團的起義。
◆晉綏軍搬運物資
當然，攻心並不單單只是指對敵軍的心理防線加以突破，在對自己方的士兵時，也可以用閻敵的罪惡來激發士氣，徐向前在暫緩攻城之時，要求前線各部隊廣泛開展控訴閻錫山罪行的訴苦大會。使得廣大軍民群情激憤，義憤難平，誓死解放太原城。
在團的控訴大會上，一位雙目失明的老大娘，傾訴了她一家的苦水。她說： 「解放軍在東山跟閻軍打了一戰後，閻錫山的勾子軍到處抓兵，他把十歲的娃娃到六十歲的老漢，都騙進了『助戰隊』，那時我閨女正懷著孕，竟被騙到助戰隊去了，我女婿也被弄到鐵血師裡當了兵。自那以後，我家裡沒法過活，到過年了，家裡沒有一粒糧，沒有半文錢。我閨女實在活不下去了，就把孩子們哄睡著，一個一個地勒死，最後，她......自己也上吊.....死去了。」
大娘講到這裡，不由得嚎啕大哭起來。會場上頓時響起一片哭泣聲。
老人抹了一把淚水，又硬咽著說下去： 「我得信兒後，趕到閨女家，見大小口都死了。我當下就昏死過去了。從那兒以後，我的雙眼就全瞎了。我也真不想活了，可大伙兒勸我說，解放軍快來了，苦時快到頭了，我想也對，就摸出城，到村裡來討活路來了。」
大娘說到這裡，頓了頓，又咬牙切齒地說：「這樣的事，可不光是我一家。你們來了，可要替我們苦大仇深的太原老百姓報仇啊！狠狠地打擊閻錫山那些壞蛋！」此時，戰士們再也按捺不住胸中怒火，全場爆發出一陣陣雷鳴般的吼聲：
「為大娘一家報仇！」
「為苦難的太原人民除害！」
「向敵人討還血債！」
「早日解放太原！」
口號聲一聲高過一聲，激動的情緒一浪高過一浪。就是這樣，一人的仇，一家的恨，激起了廣大指戰員對敵人的義憤，化成了廣大指戰員向敵討還血債的決心。
◆閻錫山下令抓捕的青年勞動力在修築工事
在城南小店村某營的控訴大會上，貧協會的蘇旺生，一瘸一拐地走上臺，向全營指戰員控訴了閻匪的血腥罪行，他不無憤恨地說：「解放軍同志們，我原來也是一個棒小夥子，因為抗糧抗捐，被閻匪勾子軍打斷小腿，成了殘廢。」
他稍停頓了一下接著說：「提起閻錫山對我們的欺壓，真是三天三夜也說不完。我剛成年的時候，閻錫山在各村到處徵兵，規定每5個人中抽一個去當兵。在這種情況下，我也沒有逃出徵兵的厄運，被抓走了。當兵後，我找了個機會偷著跑了回來，回家的時候，正趕上他們來逼糧派款，家裡當時已經窮得揭不開鍋了，我就忍不住頂了一句，誰知一個當官的上來就打了我幾個耳光。我那是實在氣得壓抑不住，也打了那傢伙兩拳，那傢伙搶起門栓就對著我的腿打來，我沒躲閃開，腿就被打斷了。」
說到這裡，蘇旺生氣得用拳頭一勁兒敲著桌子，戰士們也都眼裡噴火。蘇旺生又接著說：「後面，閻錫山見徵糧攤款不行，就下來搶。搶糧、搶錢、搶東西，什麼都搶不著就搶人，後生被抓去當兵，姑娘被搶去糟蹋。 我被打殘疾了，他們沒法抓我去當兵，就逼著我去東山給他們修工事，修碉堡。還得自己帶飯。閻錫山說這是『愛城如家』！閻錫山這個萬惡的土皇帝，害得我們老百姓實在太苦了，你們可得狠狠地揍他們，為我們窮苦人報仇雪恨哪！」
會場上，很多解放軍都咬牙切齒。接著，營教導員帶頭喊起了口號：
「天下窮苦人民是一家！」
「堅決砸爛國民黨閻錫山的反動統治！」
「一定打下太原，為人民再立新功！」
到處是斥敵的會場，到處是憤怒的控訴。一樁樁血淋淋的事實，撕裂著戰士們的心；一件件蔣閻匪軍的罪行，激起了戰士們的新仇舊恨，化作高昂的戰鬥熱情。一份份請戰書、決心書和血書，雪片似地交到了各級指揮部，整個前線部隊有的積極請戰、有的爭當突擊部隊、有的請求擔任主攻、有組織戰前訓練、有的周密進行攻城準備，呈現出無比高漲的戰鬥熱情。
1949年春，華北傅作義集團接受解放軍的和平改編，平津戰役結束，南京國民政府的全面失敗已成定局。中央軍委決定調第十九兵團、第二十兵團和第四野戰軍炮兵第一師西進，與第十八兵團等部一起會攻太原。1949年3月底，各路部隊先後到達太原城下，這樣，我攻打太原的總兵力達到了3個兵團、10個軍、36個步兵師，另有3個步兵旅、2個炮兵師，共32萬餘人，擁有各種大炮1150餘門。為統一指揮並協調各部行動，中央軍委決定：成立太原前線司令部，以徐向前任司令員兼政治委員，周士第為副司令員，羅瑞卿為副政治委員，統一指揮第十八兵團、第十九兵團、第二十兵團，以第十八兵團司令部為太原前線司令部：成立太原戰役總前委。徐向前為總前委書記。
◆解放戰爭時的徐向前
此時的太原城國民黨軍在被圍困並加以攻心之下，早已人心惶惶，毫無鬥志。而城外的解放軍在訴苦大會的激勵下，一個個都鬥志高昂，一副不打倒閻錫山誓不罷休的狀態。徐向前認為時機已經到了，於是下令全面進攻太原城。
這時的閻錫山，見太原城外重兵壓境，深感大勢已去，無力回天，遂將太原的守城任務交由孫楚、王靖國指揮，自己於1949年3月29日乘飛機從空中逃跑。為負隅頑抗，孫楚、王靖國等將現有的第八總隊、第九總隊、第十總隊殘部，保安團、民衛軍等雜牌部隊編為「正規軍」。同時還強抓市民、學生組成所謂的「鐵血師」、「堅貞師」等，使太原守城的雜牌軍仍有近10萬兵力，並擁有各種火炮900門。其試圖在城郊諸要塞與我軍展開決戰。
1949年4月20日，總攻太原的戰役打響了。十幾路攻城部隊先後突破了敵軍前沿，繼以勇猛的作戰行動向縱深發展進攻，敵軍的城外防禦體系頓時不堪一擊，土崩瓦解。 第二十兵團及第七軍的2個師於20日2時在城北兵分3路發起攻擊。其中，第六十八軍及第七軍第十九師由城西之蘭村沿汾河兩岸直插新城、新店、芮城以東之汾河大橋；第六十六軍沿同蒲路南下，先後佔領皇后院、七府墳等地；第六十七軍及第七軍第二十師由城東北的西嶺向西攻擊，佔領了丈子頭，牛駝寨等地。當日夜即肅清了城北十里舖以北的敵軍。21日，3路部隊又攻佔了城北工廠區及享堂村地區。
第十九兵團及晉中軍區3個獨立旅於20日5時在城南也分3路發起攻擊。其中，第六十四軍及晉中軍區部隊沿汾河兩岸向北突擊，攻佔了大小王村，並迅速進至萬柏村地區，與第七軍第十九師會合，接著包圍殲滅了汾河以西敵軍：第六十五軍沿汾河東岸向北攻擊，先後攻佔了楊家堡、老軍營、西寇村、大營盤，直逼大小南關；第六十三軍及第六十二軍第一八六師在城東南肅清了雙塔寺以南及以東之敵，21日佔領了麵粉公司、民眾市場等地。
◆國民黨士兵在解放軍的進攻下，匆忙逃往碉堡裡躲藏
第十八兵團和第七軍主力於20日下午在城東發起攻擊，首先以炮火襲擊了太原「綏靖公署」並壓制大東門等地敵軍炮陣地，晚18時部隊展開攻擊，先後攻佔了剪子灣、大把溝、郝家溝、黑土港、大東關等地。
各路攻城部隊爭先恐後，勇猛攻擊，戰至21日18時，太原城周圍除雙塔寺、黃家墳兩點外，其餘敵軍全部被肅清。22日，第六十七軍與第七軍第二十師又攻克了黃家墳，第六十三軍也攻克了雙塔寺。至此，太原城外圍作戰勝利結束，共殲滅敵人12個師。
徐向前考慮，最後的攻城戰鬥，還是應儘量減輕太原市人民生命財產的損失，用和平的方式解放太原為上策。於是，太原前線司令部於22日，對守城的敵軍發出了最後通牒，但頑固的敵軍拒不投降。因此，徐向前決定實施武力攻城。24日5時30分，攻城部隊的1300多門火炮向太原城發起了猛烈的轟擊。隨後，第十八兵團及第七軍主力由城東的大東門，第十九兵團由城南的首義門，第二十兵團由城西北方向發起攻擊。各部隊或以連續爆破的手段炸開城門或城牆，或使用雲梯登城。至7時40分，12路攻城部隊從四面八方攻入太原城，並順勢向縱深迅猛穿插，將城內的防禦體系割成數塊，互不支援，分塊圍殲，戰於10時太原城被全部解決。敵軍無一漏網。太原戰役勝利結束。
太原戰役從1948年10月5日開始，至1949年4月24日結束，歷時6個多月。共殲敵13.5萬人，繳獲各種火炮6283門，各種機槍6943挺，徹底結束了閻錫山在山西的統治。
太原之戰在前期打得艱難，徐向前改變戰略，緩緩圖之，以攻心戰對太原守軍進行各方面的分化瓦解，其大大減少了後期攻城戰時我軍的傷亡，這充分體現了徐向前用兵藝術的高超。