1945年8月15日，日本天皇宣布無條件投降。但還有一些日寇不死心，負隅頑抗，想重新發起侵略戰爭。盤踞在高郵的日軍也是，想「東山再起」。
高郵有著很重要的戰略意義，它位於華中解放區南線，京杭大運河東岸。高郵北扼兩淮，南控揚州，是蘇中連接蘇北的水陸交通要道，被稱為「運河大門的鐵鎖」，自古就是兵家必爭之地。
駐守在高郵的日軍是巖崎大佐的部隊，為了徹底消滅他們，華中野戰軍司令員粟裕於12月19日親自指揮部署，發動了「高郵戰役」。他制定了作戰計劃：第七縱隊的一部分兵力攻打邵伯，主力則在揚泰線以北、邵伯以南地區，阻擊前來支援的敵軍；第八縱隊攻打高郵外圍後攻城；華中軍區特務團攻打車邏。當晚七點，新四軍在距離高郵東西20公裡、南北40公裡處同時發起進攻。到了第二天中午時分，高郵城外的據點，除了東門外，其餘的全部被我軍清除。
21日，在粟裕的指揮下，我軍拿下了邵伯等日偽據點，從而切斷了高郵日偽軍的後路。但高郵城外還有一個據點——淨土塔寺還沒有攻下，這座古寺是明朝萬曆年間修建的。日軍佔領高郵後，就把這裡變成了一個瞭望塔和軍事制高點。由於淨土塔寺很高，居高臨下，火力還非常猛，我軍很難攻下。
原新四軍第八縱隊68團參謀邢繼剛回憶說：「我們把溼棉被和方桌裹在一起，當作土坦克，以掩護我軍前進。我軍一步步逼近淨土塔寺，消滅了塔內和高郵之間的供給，配合炮兵，才讓塔內的鬼子投降。」至此，我軍包圍了高郵城。可龜縮在城內的日偽軍卻依然不投降，還把城樓上的守衛換成了日軍，不斷加固防禦工事。
22日早晨，粟裕來到位於高郵外東北角的村子，和第八縱隊的司令員陶勇一同觀察了高郵城外的地形，兩人商討了具體的作戰方針。我軍攻下外圍後，還搞起了政治攻勢。發起總攻前，粟裕命人對城內的日偽軍喊話，讓他們投降；讓戰士在城外放日本民歌，勾起日軍對故土的思念，從而摧垮日軍的鬥志；用風箏和迫擊炮散發宣傳單，讓他們投降。這些措施持續了三天，對動搖日偽軍的軍心起到了很大作用。
25日晚上，粟裕下令發起總攻。天空下著雨，不利於攻城，但我軍不畏困難，從西北、東、南三個方向同時發起猛烈進攻。高郵的城牆非常堅固，為減少我軍戰士的傷亡，粟裕下令在東面開闊地帶用麻袋裝滿泥土，築起「半月形」工事。然後在上面架起輕重機槍，與城牆上的敵軍形成平射，壓制敵人火力的同時，掩護攻城部隊。
26日早上，高郵城內的日偽軍繳械投降。至此，抗日戰爭的最後一仗，以中國的勝利告終。據了解，此戰殲滅了日偽軍共6000多人，俘虜敵軍4400多人。被日軍佔領了六年的高郵城終於回到了中國的懷抱。
值得一提的是，巖奇大佐在受降儀式後，十分莊重地將一把紫光閃閃的指揮刀交給了粟裕。他向粟裕鞠了一躬，說：「這是我家祖傳的紫雲刀，現敬獻給久仰大名的您。」粟裕僅用了一周的時間，就收復了高郵城，把日軍打服了！