1949年春天，上海市的居民們隱約能遠處傳來的炮彈爆炸的聲音。所有人都明白，上海即將被解放軍解放。
「走？還是留下？」擺在所有大人物面前的第一件事。青幫杜月笙選擇了再次遠走香港，這一次他再也沒有回來。臨行前，杜月笙勸說黃金榮跟他一起去香港，黃金榮拒絕了。
不去香港，是不是可以去臺灣，畢竟蔣介石曾拜到了黃金榮門下，他是蔣介石的老師。兩人交情即使一般，黃金榮去臺灣的獲得正常生活完全是沒有問題的，可他也沒有去臺灣。
這是為何？「我已經是快進棺材的人了，我一生在上海，屍骨不想拋在外鄉，死在外地。」這是黃金榮對前來勸說他去香港的杜月笙所說的話。落葉歸根，人之常情，但這絕不是真正原因。
黃金榮之所以選擇留在上海，根本原因是他相信自己這一次還能化險為夷，心中還存在一定的僥倖心理。就這四個字，「僥倖心理」。黃金榮能在上海灘呼風喚雨，沒有幾把刷子可能早就被人裝入麻袋扔進黃浦江了。
解放軍進入上海後，黃金榮一直都住在「黃公館」，而解放軍也接到了上級命令，「先不動他們，觀察一個時期再說。」前面說黃金榮有僥倖心理，黃金榮最怕因「四·一二事變」受到清算，可日軍佔領上海期間，黃金榮沒有做漢奸，拒絕為日本人做事。
抗戰期間黃金榮都沒有離開上海，這一次他也不會離開。上海解放後，黃金榮深居簡出，同時嚴格要求自己的門徒，不許有任何擾亂社會秩序的行為。經過一段時間的觀察，黃金榮終於鬆了一口氣，他堅信自己不會死了。
1951年，上海市政府向黃金榮宣傳了對他的寬大政策，但需要黃金榮寫一份公開悔過書。在當時的環境下，能得到了這樣的待遇已經非常不錯了。
當年5月7日，由黃金榮口述，屬下龔天健代筆，寫下了那封著名的《悔過書》。5月20日，上海著名報紙《文匯報》和《新聞報》上發表了，名字改為《黃金榮自白書》。
後來，黃金榮為證明自己認真悔罪，以83歲高齡象徵性地拿著掃帚掃大街，並留下那張著名照片。1953年6月20日，黃金榮在上海病逝，終年86歲。而遠走香港，比他小20歲的杜月笙，反而在他前兩年病死於香港。黃金榮能有這樣的結果，算是善終了。