1937年淞滬會戰時，67師師長黃維率部在「血肉磨坊」羅店抵禦日軍。面對日軍的瘋狂進攻，黃維堅守陣地一個星期。到戰鬥結束時，黃維手下三個團長兩個重傷，一個戰死，連炊事班和文員都上了前線，67師所剩人員不足一個團。
羅店一戰是黃維的成名之戰，其忠勇愛國之精神無可厚非，不過他死板教條的作戰方式也被同僚所詬病，因此被稱為「書呆子」。其實這樣說黃維是不合適的，整個淞滬會戰期間，那些「靈活作戰」的國民黨軍隊同樣損失慘重，為何單單拿黃維來說事？
不過「書呆子」這個名號還是挺適合黃維的，因為他是黃埔一期高材生，畢業後做了很長時間的軍校教官，後來還去德國軍校深造，其軍事理論水平是很高的，而且講課水平一流，全中國挑不出幾個像黃維這樣的人才。
當然，黃維的戰績也是可圈可點的，他在抗戰時期的實戰表現還是不錯的，但和他的軍事理論水平相比就有些差強人意了，再加上他喝過洋墨水，有些書生氣，和其他同僚難免產生摩擦，尤其和關麟徵的關係很差。
蔣介石也認為黃維還是比較適合當教官，於是在1944年任命黃維擔任「知識青年從軍青年軍編練總監部副總監」讓他重操舊業。日本投降後，黃維訓練的青年軍被編為三個軍。
解放戰爭初期，黃維被任命為31軍軍長，準備去臺灣。不過黃維到達福建後，又被調往杭州，繼續擔任教官工作。1947年，黃維赴武漢仿照美國西點軍校籌備新制軍官學校，並擔任校長，負責培養國民黨三軍將領，成為「黃校長」。
正當黃維卯足勁做軍校校長的時候，國民黨內戰形式急劇惡化，一潰千裡。1948年底，蔣介石任命黃維為第十二兵團司令，他這個久疏戰陣的軍事理論家只能臨危受命，參加淮海戰役（徐蚌會戰）。
11月8日，黃維率部趕赴前線，進駐南坪集，解放軍則切斷了黃維的退路。當了很長時間教官的黃維哪裡見過這種陣勢？黃維倒是想運動突圍，不想軍事情報早已被解放軍知曉，最終被解放軍分割包圍於雙堆集地區。12月15日，黃維被俘，除副司令胡璉逃脫外，其兵團12萬人被全殲。
黃維被俘後，被送往北平功德林戰犯管理所接受改造。黃維在改造期間可謂「頑固不化」，一直對國民黨心存幻想，並對接受其他努力改造的學員諸如王耀武等人嗤之以鼻，連毛主席都說他頭上頂著個「花崗巖腦袋」。但隨著時間的推移，黃維的思想也在發生轉變。
1975年，黃維作為最後一批戰犯被特赦，被安排在政協文史資料研究委員會工作，並對兩岸統一作了不少努力。1989年，黃維去世，終年85歲。