1945年8月，隨著美國丟下兩顆原子彈，蘇軍出兵，日本宣布無條件投降，原本盤踞在中國東北的日軍和僑民幾乎都成為了俘虜，等待著被送往西伯利亞做苦力或遣返回國。但在中國與蘇聯接壤的邊境地帶，卻依然存在著一些日軍在進行抵抗，而拒絕投降。
當時面對日本的投降，不知道未來何去何從，大批的日軍和平民跑進了東北的深山老林和偏遠地區進行躲藏，並伺機等待回國的時機。尤其是在中朝邊境的長白山地區，他們利用曾經的日軍防禦工事和倉庫，人煙稀少，山高林密的特點，不少人就此隱身其中，裡面還有不少成建制的日軍部隊。
隱藏其中的日本軍民不少被蘇軍招降和加入到了東北民主聯軍，同時前往東北負責接收工作的國民政府也派人深入到密林之中去尋找殘留的日軍。攜帶者電臺的國民政府招降工作隊，曾通過電臺聯繫上一支日軍，並綜合各方情報了解判斷到在長白山區共藏匿著2萬餘名日軍，由加藤中將指揮，他們給養充足。
當時的國民政府曾試圖對這支日軍進行招降，但殘存日軍所處的位置為中共控制區，因此相關人員進入較為困難。國民政府在發現日軍蹤跡後還曾派出飛機前往撒放傳單。關於這支殘存的日軍，國民政府方面一直在持續尋找並試圖招降。一直到1947年該部還一直在深山老林中頻繁活動。
但後來隨著東北內戰的開始，國民政府方面招降日軍的工作就此終止，這支殘存於中朝邊境的日軍最終去了哪裡？最後一名日軍什麼時候走出深山投降的就無人所知了。