務必保密
許世友將軍的告別儀式和入殮儀式結束後，他的靈柩被被運往華山飯店16號樓停放，南京軍區許世友治喪辦公室配了司令部警衛營前去負責保衛任務，並下了命令，除了他們，任何人都不許靠近那棟樓。
而被指定為護送許世友靈柩回鄉的官兵們，在入殮儀式結束後第一時間就接到了通知：從現在開始，全體進入待命狀態，任何人不許離開，命令一到，立即動身。
11月7日夜裡11點多，護送靈柩的官兵接到通知，讓護送的車隊做好準備，零點整正式出發。
護送許世友的靈柩的車隊共有4輛車：一輛吉普指揮車，上面坐了南京軍區副參謀長範志倫等同志；一輛麵包車，上面坐的是許世友將軍的遺孀田普和幾位親屬代表；兩輛解放牌卡車，兩輛卡車都支起了支架，用篷布罩得嚴嚴實實的，其中一輛上裝了許世友的靈柩，另一輛是備用車。
這4輛車有一個共同的特點，就是車上都沒有遺像，沒有白花黑紗，沒有哀樂。這顯然是為了保密。包括為什麼要選在夜裡出發，為什麼全程禁止鳴笛，也都是出於這個目的。
車隊在清晨時分開到了安徽六安，在南京軍區直屬的某單位進行了休息，到了夜裡，車隊才繼續出發。他們到達新縣比原定的時間早了一些，範志倫副參謀長命令車隊在郊區休息，任何人不許下車。
11月9日凌晨，車輛按照計劃到達了河南新縣許家窪。和很多人想像的不同的是，許世友這次「回家」並沒有隆重的歡迎儀式，甚至連來迎接的人都沒有。
之前，新縣的領導參加許世友的葬禮時曾表示，許世友是新縣的驕傲，一定要為他舉辦隆重的迎柩儀式，也算給父老鄉親們一個交待，但治喪辦公室謝絕了他們的這個建議。因為不久前南京軍區的首長曾特地指出，車隊進入新縣的時間要嚴格按照計劃，不許驚動當地領導和群眾。
特殊的葬禮
而在此之前，治喪辦公室就已經為許世友選好了墓址，並確定了墓穴修建方案。最初報上去的方案是，修建一個寬廣的祭奠平臺，兩邊搭建圓弧形的紀念畫廊，以展現老將軍光輝的一生，但是方案送上去後卻被否了，軍區說許司令一生簡樸，修建墓穴應一切從簡。於是大家就敲定了一個最簡單的方案。
軍區隨後派了一個工兵連前往，當時規定的工期很短，加之天氣不好，施工中遇到了一系列的困難，但大家還是以極大的熱情為自己的老司令修建好了他最後的棲身之所。
迎來許世友的靈柩後，工兵連的戰士們將靈柩下葬，在墓穴的外面澆灌了鋼筋水泥，將整個墓丘做了進一步的修整和完善。清晨6點，這場特殊的葬禮在悄無聲息中宣告了結束。
正如人們如今看到的那樣，整座墳塋沒有任何裝飾，只有一塊石碑立在墓前，上面寫了：「許世友同志之墓」。沒有寫職位，也沒有寫生平，簡簡單單，一清二楚。
墓碑的故事
關於許世友墓碑上的這幾個字，其實還有一段故事。
最初大家立碑的時候也向上級報告了好幾個方案，最後本著一切低調從簡的原則，確定了只寫「許世友同志之墓」這7個字。
但是誰來書寫呢？原定的是長期在山東兵團參加工作的書法家武中奇。85年2月，許世友過80歲生日，武中奇曾特地寫了一幅「壽」字給他當賀禮，許世友看了那幅字很喜歡，拍了好幾張照片留念。
治喪辦公室很快就聯繫和武中奇，但是雙方還在商量具體的細節時，另一邊就傳來了消息，說田普已經選好人了，他就是著名畫家範曾。
據說，被「涮」了一把的武中奇因此很不高興。
原來，許世友和範曾此前並不認識，是許世友的女兒許華山範曾介紹給了父親，許世友說想看看那範曾的作品，範曾就揮毫畫了一幅《牧牛圖》，描繪的是許世友小時候放牛的場景，可惜許世友還沒看到這幅畫就離開了，範曾得知消息陷入悲痛，在畫上題了一首詩以示哀思。
畫被送到田普手中後，田普等親屬看了都非常感動，當場決定讓範曾來為許世友題寫碑文，治喪辦公室當然也要尊重家屬的意見，最後題寫碑文的人就定為了範曾。