1938年12月的某一天，幾輛小汽車悄然駛進了什錦花園，隨後身穿便裝的幾名日本人從車上走了下來，走在最前面的是岡野增次郎，他是曾經擔任過吳佩孚顧問的一名「老朋友」，緊跟在他後面的是剛接替土肥原賢二的川本少將。
汪精衛已經投靠了日本人，政治方面日本人有所依仗了，所以他們想在軍事方面找一位代言人，吳佩孚成了首選目標。所以，川本以孝敬吳佩孚夫人為由送了他一大筆錢，並要求拜吳佩孚為師，以此來拉攏吳佩孚。
吳佩孚收到這筆錢後連夜派人把錢退還了川本，川本見吳佩孚不接受錢財，於是他不得不親自出馬，面見吳佩孚。
吳佩孚見到川本，對他說：「如欲和平，日軍須全面撤兵!」
川本則苦苦哀求說：「土肥原賢二將軍已經被老師拒之千裡，望老師能體諒弟子的苦衷，老師若拒絕弟子，那我也只能剖腹自盡，以謝天皇陛下了！」
吳佩孚不以為動，接著說：「汝雖已拜吾為師，卻未見你讀書學識，承蒙你的錯愛，你我不過空有師生虛名罷了。你又何必用這種虛名來為難我呢?」
隨後，吳佩孚又送給了川本一句孟子的話：「小國不可以敵大，寡國不可以敵眾，弱國不可以敵強。中國人口多，領土廣，如果開戰那麼日本必敗，對中日戰爭來說這是我堅信的看法。」
川本求了許久，沒想到得到的卻是吳佩孚的這句話，他臨走之時只說了一句話：「你會後悔的!」
利誘不成只能以死威逼，川本帶著日軍到了吳佩孚家中，沒想到的是吳佩孚見了川本後，直接請他看了一樣東西：一口黑漆漆的棺材！上面刻著「吳佩孚」三個大字，只有卒年日期的地方空著沒刻。
川本的威逼行動毫無疑問徹底失敗。
日本人覺得自己說服不了吳佩孚，那就讓中國人去說服中國人。於是日本人便讓汪精衛出馬，嘗試實現「汪吳合作」的局面。
汪精衛先是給吳佩孚寫信勸說，遭到了吳佩孚拒絕。隨後，1939年6月26日這天，汪精衛親自飛往北平，並邀請吳佩孚在日本派遣軍參謀長山下奉文的公館裡會晤。
吳佩孚接到邀請後，對汪精衛稱：「你我皆為中國人，若談國事，應會見於中國人之住所。」
於是，汪精衛緊接著便提出在顧維鈞的寓所進行會晤。吳佩孚又以「在外面晤談不方便」為理由，邀請汪精衛「來敝舍會談」。
其實歸根結底，吳佩孚根本就不願意與汪精衛見面。
後來，汪精衛厚著臉皮委託別人去吳佩孚家中去請，吳佩孚一拍桌子，大聲罵道：「跟汪精衛合作的這個人一定非常下賤!」
1939年11月的某一天，吳佩孚在吃水餃的時候，牙縫中插進了肉餡中的一根骨渣，沒過幾天就腫了起來，牙口疼痛令吳佩孚呻吟不止。後來也有人說吳佩孚並非吃餃子插進了骨渣，而是被日本人跟漢奸氣的急火攻心，這才患上牙疼病，總之吳佩孚確實患了牙病，並為之十分困擾。
當時吳佩孚周圍的人已經基本上都被日本人收買，只有秘書張伯倫還忠於吳佩孚。12月4日是吳佩孚與張伯倫的最後一次談話，吳佩孚說：「我看還是死了的好啊。不過就算我死了，將來中國也定能報仇雪恨」。
由這次對話中能夠看出，吳佩孚其實至死都還惦記著中國的抗爭形勢。
12月4日的下午3點鐘，川本帶著日軍醫處長石田，驅車來到了什錦花園，隨行的還有吳佩孚的朋友齊燮元等人，以及一隊日本憲兵。川本等人進入什錦花園之後，日本憲兵隊立刻封鎖了什錦花園，不允許任何人進入。
吳佩孚看到川本非常憤怒，這時石田上前看了看吳佩孚，並用力撬開了吳佩孚的嘴，往裡看了一眼說：「得動手術，需要把裡面的膿放出來才行。」
在隨從們以及漢奸齊燮元的再三勸說下，吳夫人無奈之下只能同意。
3時45分，石田從自己的醫療包中拿出了手術刀、鉗子等工具，隨後將手術刀伸進了吳佩孚的嘴裡。手術之後，吳佩孚立即昏了過去，日本人跳到床上開始進行急救，院子裡一片大亂，吳夫人也當場暈了過去。
12月4日當晚，吳佩孚就咽下了最後一口氣，享年65歲。
一場「手術」要了吳佩孚的性命，當時日本人到底是怎麼為他做的手術呢？
根據後來吳佩孚的孫子吳運乾、吳運坤回憶，他們這樣說：奶奶說不能手術，但是刀子就進去了，直奔喉嚨進入，一刀，血就濺了護士一身，當時放了一盆子血……
當然，這只是吳運乾、吳運坤的回憶，當時兩人都不在現場，並不能確定吳佩孚真正的死因。其實至今為止，吳佩孚的死因也是個未解之謎。
「大帥沒有屈服於日本人」！吳佩孚的死訊在北平城傳開了之後，北平的老百姓無不感動涕零，都紛紛為吳佩孚送行。
並且，就連北平的日軍和汪偽政權都為這位不肯屈就的英雄人物做了祭奠，甚至連侵華日軍司令官都參加了這次公祭儀式，而淪陷區的各省則下半旗誌哀三日。
在日本人與漢奸的假惺惺的悼詞中，在蔣介石悲切的弔唁聲之中，還有在家人的嚎啕大哭中，這位性情倔強的北洋集團儒將就此故去！此時，只有他自撰的那副在堂中的長聯悽然而掛：
得意時清白乃心，不怕死，不積金錢，飲酒賦詩，猶是書生本色；失敗後倔強到底，不出洋，不入租界，灌園抱甕，真箇解甲歸田！