1979年3月4日早晨6時50分，在廣西友誼關方向執行對越自衛還擊、保衛邊疆作戰任務的廣州軍區55軍，集中了21個師屬以上炮兵營共計276門大口徑火炮，對越南諒山市南市區，及其以南5公裡的主要制高點、防禦工事等37個目標進行了10分鐘的炮火準備，打出炮彈5520發。在猛烈火力支援下，步兵從四個地段一舉打過了奇窮河，於當天下午攻佔了整個諒山市。
諒山是越南北部的政治、經濟、文化中心，最大的交通樞紐，特殊的地理位置使得諒山自古以來就是戰略要地和軍事重鎮。諒山的失守，標誌著越南首都門戶洞開，解放軍已經造成了威逼河內的戰略態勢。就在國際輿論界對解放軍下一步的動向進行種種猜測之時，3月5日傍晚，從北京傳出一則重磅消息。新華社發布聲明稱：「由於越南侵略者不斷對我國進行武裝挑釁和入侵，中國邊防部隊自2月17日起，被迫自衛還擊，現已達到預期目的。中國政府宣布，自1979年3月5日起，中國邊防部隊開始全部撤回中國境內。」
以新華社發布的這個聲明為標誌，對越作戰進入了第三個階段，即撤軍回國階段。解放軍各參戰部隊以邊回撤、邊搜剿為指導方針，採取交替掩護的方式，一方面組織回撤，一方面繼續在戰區搜剿殘敵，以進一步擴大戰果。
41軍方向：該軍在高平戰區北部戰場作戰，於3月13日開始回撤，至3月16日，121師和123師從龍邦、122師從平孟撤回國內。
42軍方向：從3月14日7時開始組織部隊逐步收攏，交替掩護，陸續回撤。126師於14日從科甲、碩龍回國，進至響水地區；125師於15日從水口回國，進至武德地區；軍指、124師於16日從水口、布局、那花回國，軍指進至龍州縣，124師進至下凍地區。
55軍方向：部隊於3月6日拂曉全部撤至奇窮河以北地區，8日拂曉，撤至扣馬山、395高地、扣當山一線佔領陣地組織防禦，準備依託有利地形打擊越軍的反撲。結果了等了足足3天，越軍從柬埔寨緊急撤出，北上增援諒山的兩大主力師304師和325師也未敢對我軍實施反擊。部隊這才從11日零時起繼續回撤，於12日6時前，全部撤回國內。
在55軍回撤的過程中，越軍未敢組織排以上兵力進行反撲，只有零星炮擊和小股人員的偵察和騷擾。只要敵人對我實施炮擊，我即以10倍於敵的炮火予以懲罰，猛烈的火力打得越軍不敢輕易開炮。比如3月9日上午，越軍向我友誼關方向打了20多發炮彈，我當即還擊了250多發。
43軍方向：這個方向越軍的行動比較積極，多次以營、連規模兵力向我軍實施反撲。127師、128師分別在390高地、休慶、班坑和612高地、柯來南側高地、巴當東南側高地實施阻擊，殲滅越軍1000餘人，兩次受到軍區前指的通電錶揚。在給尾追之敵以沉重打擊之後，全軍於12日全部撤回國內。
11軍方向：31師91團集中4個營的兵力，採取迂迴包圍和穿插分割的戰術，圍殲位於班繞散地區的越軍741團1營營部帶2個連、193團2營2個排和公安第5連。戰鬥從3月6日5時40分開始，至8日凌晨結束，取得斃敵317人，俘敵5人的戰果。在殲滅這股敵人之後，全軍從8日20時開始撤離戰場，於11日10時安全撤回到國內。
14軍方向：40師於3月8日、12日分兩批沿小曹撤回境內；41師在清剿孟康、則周地區殘敵之後，於13日撤回境內；42師於12日，經孟康撤回境內；擔任掩護全軍撤離任務的124團完成任務之後，於12日撤回境內。軍前指、軍基指於10日撤回馬關；軍炮兵團、高炮團於7日、10日分別撤回境內。
13軍方向：以38師在外波河一線堅守陣地，掩護全軍撤離；以115團、116團和邊防13團分別控制紅河兩岸各要點，保障公路暢通和渡場的安全。同時，以炮兵對外波河以南的越軍陣地和重要目標，實施有計劃的炮擊，給敵人以殺傷和震撼。3月7日至8日，炮兵對尾隨之敵先後進行了13次射擊，其中8日14時15分那一次就取得斃敵90餘人的戰果。從而有效地掩護了部隊從容不迫，有條不紊地撤離，不少一人一馬，沒有遺失一個傷員和烈士。至3月12日，13軍出境部隊全部撤回國內。
50軍和54軍作為廣西方向戰役預備隊，所屬各師是在各個方向打響之後，陸續進入戰場的，所以他們沒有一個獨立的作戰方向。至3月16日，解放軍參戰部隊全部撤回國內，標誌著此次作戰的勝利結束。總體來看，整個撤軍回國的過程比較順利，僅僅只有50軍150師448團（在高平北部戰場配屬41軍作戰），因為軍工作組指揮錯誤，處置失當，在回撤中遭到越軍伏擊，損失了一個營又兩個連，共造成542人失散（其中被俘回歸219名），丟失各種槍枝407支（挺）。
軍委副主席兼總參謀長在3月16日的自衛還擊作戰情況報告會上，特別提到了這次損失：「告訴大家所謂我們吃虧，12日吃了小虧，我們一個營，由於指揮關係被敵人包圍，回來了一半，損失了一半。」換句話說，在整個撤軍過程中，除了448團2營蒙受損失之外，我軍再也沒有吃虧的情況發生，所謂傷亡慘重、損失很大，是典型的一葉障目不見泰山，以偏概全誇大其詞。
41周年之際，謹以此文向所有參戰部隊將士致敬，歷史將永遠銘記你們的功績！