1949年就在新的政權誕生後不到一個月，一場後來被看做是劃定臺海格局的戰役爆發了。10月15日，解放軍渡海發動廈門戰役，先佯攻鼓浪嶼，成功吸引國軍注意力，造成國軍判斷失誤。之後，解放軍分數路成功登陸廈門，擊敗守島國軍。10月17日，國軍福州綏靖公署代主任湯恩伯棄守廈門，解放軍成功佔領該地。在粟裕授意下，解放軍葉飛將屬下第32軍船隻分發給第28軍，決定集中船隻進攻大金門。
金門，面積僅有150平方公裡，但它卻是臺灣的門戶，是進入蔣介石口口聲聲所稱的復興基地的第一道大門。 1949年湯恩伯來到金門島後，隨即給蔣介石拍發電報，請求放棄沿海諸島，並將部隊撤回臺灣地區，進行必要的修整和補充。當時人在臺灣的蔣介石急電駐守金門的東南軍政副長官湯恩伯，要他就地督戰，絕不可失守。
國民黨軍第二十二兵團率領所部進駐金門地區，其中兵團部、第二十五軍軍部及第四十五師守大金門，第五軍軍部和第二〇〇師守小金門，第四十師守大嶝島。東南軍政長官陳誠見漳州已失，金門守軍戰力不足，乃派副長官羅卓英銜命親往汕頭，胡璉之第十二兵團接替第二十二兵團防守金門。
二十五日約凌晨，人民解放軍炮兵開始從大、小嶝炮擊金門北岸官澳、西園、觀音亭山、古寧頭等地猛烈射擊，但人民解放軍隔岸炮擊火力有限。上岸後，建制異常混亂，不能作有組織之戰鬥。由於不熟悉潮汐漲退的關係，結果造成了搶灘船隻全部因為退潮所以全陷在沙灘上動彈不得。
26日凌晨，解放軍由二四六團團長孫雲秀率該團的兩個連和第八十五師的兩個連增援。二四六團在湖尾登陸；另兩連在古寧頭登陸。國民黨軍第十八軍軍長高魁元指揮反擊，國民革命軍空軍輪番炸射。人民解放軍採取巷戰，雙方戰況慘烈。十二時國民黨軍攻下林厝。十五時拿下南山。十一時，東南軍政長官公署副長官羅卓英偕第十二兵團司令官胡璉到達金門戰場，胡璉接手指揮。
人民解放軍彈盡糧絕，突圍到海邊，一千三百餘人困在古寧頭以北斷崖下沙灘。27日清晨國民黨軍猛攻。解放軍雖然頑強抵抗，但是仍然全軍覆沒，不是犧牲就是被俘。上午十時，古寧頭戰役正式結束。又27日凌晨三時尚有人民解放軍第二五九團第三連約三十餘人，乘汽艇一艘到達古寧頭北側海岸，登陸後亦盡為國民黨軍所俘。金門上的戰鬥直到28日才逐漸平息，零星戰鬥持續更長。
戰爭持續了三天兩夜。最終，解放軍因為不習海戰、後援不濟而失敗，國民黨軍隊取得了一次難得的「大捷」。而這個消息也讓蔣介石流下了眼淚。他明白，這其實是一場事關生死的要戰。
在解放軍渡江後，國民黨軍兵敗如山倒。金門戰役規模並不大，只是師級規模，但其深遠的影響，卻遠非普通的一場師級規模戰鬥可比。
正因為解放軍在金門戰役的慘重失利，解放軍積極加強海空力量建設，而不敢像過去無知無畏的單靠陸軍發起登陸作戰。而國民黨軍則幸虧有這場彌足珍貴的勝利，否則難逃失敗之境。陳誠謂之：是共軍渡江以來碰到的第一個大釘子。