1938年12月的一天，什錦花園駛進了幾輛小汽車，從車上下來幾個身穿便裝的日本人，領頭的是吳佩孚的老朋友岡野增次郎。此人過去擔任過吳佩孚的顧問，跟在他身後的便是接替土肥原的川本少將。川本對吳佩孚大加讚賞，並提出要拜吳為師的懇求，還以孝敬師母為名送給吳佩孚夫人一大筆錢。其實這是川本對吳實施的所謂“聯絡感情式”的拉攏方式。當時汪精衞已投靠日本，日本人提出了“汪主政，吳主軍”的方略，所以繼續對吳佩孚實施誘降。這次吳佩孚着急了，他連夜差人把錢退還了川本。川本見此計失算，就又打起吳佩孚身邊人的主意，但最終也沒有結果。最後川本親自出馬勸老師出山，吳佩孚卻説：“如欲和平，必須全面撤兵！”川本苦求説：“老師應該體諒弟子的苦衷，土肥原將軍因您拒絕出山而受到一生最大的挫折。如今，厄運又將落在弟子頭上，如果老師執意拒絕，弟子只有剖腹自殺，以謝天皇。”吳佩孚卻説：“承你錯愛，拜吾為師，卻不見你讀經問義，你我之間不過空有一層師生關係罷了。又何必以師徒之虛名相逼？”然後他又送川本一句孟子的話：“小國不可以敵大，寡國不可以敵眾，弱國不可以敵強。中國國大、人多，日本終必失敗，這就是我對中日戰爭最後的看法。”川本氣得只説了一句話：“大帥會後悔的！”後來日本人以死威逼，不想一到吳的家裏，吳佩孚就請他們看一樣東西，原來是一具黑漆棺材，吳佩孚已經在上面刻上了自己的名字，只空了年月日。日本人利誘威逼均告失敗。
之後，日本人又讓汪精衞出馬説服吳佩孚，以實現所謂的“汪吳合作”。在日本的策動下，汪精衞先是給吳佩孚寫信，拉吳作漢奸。吳回信拒絕後，汪精衞又於1939年6月26日親自飛往北平，邀吳佩孚在鐵獅子衚衕日本侵華軍參謀長山下奉文的公館裏會晤。吳佩孚對報界稱：“吾與汪先生皆中國人也，如商國事，當相見於中國人住所。”拒絕汪的請求。汪精衞又提出在顧維鈞寓所會面。吳佩孚又以“在外面晤談不方便”為由，請汪“來敝舍會談”。其實他根本不願與汪精衞會談。後來汪精衞又派陳中學上門去請，吳佩孚把桌子一拍，罵道：“誰跟汪精衞合作，這個人一定下賤！”
1939年底的一天。吳佩孚在吃餃子時，肉餡中的一根骨渣插進了牙縫，幾天後便腫了起來，疼得吳佩孚捂着嘴巴，呻吟不止。也有人説是吳佩孚無力擺脱日方糾纏，氣急交加，突患牙病的，總之吳確實為牙病所困擾。當時吳佩孚周圍惟一沒有被日本收買的是張伯倫。他是吳的祕書幫辦。12月4日他最後單獨與吳會晤，吳説：“死了的好，死了的好。”接着又説，“將來美日必有一戰。中國定可雪恥報仇。”由此可見吳佩孚至死仍然惦記着中國的抗日戰爭。下午3點鐘，川本和日軍醫處長石田，以及吳的朋友齊燮元、符定一等人驅車來到什錦花園，當時還有一隊日本憲兵，他們拒絕任何人進入什錦花園。吳佩孚看到川本時，表情非常憤怒。就在這時;石田拉開皮包掏出鉗子、鋼條等。然後用力撬開吳的嘴望了一下説：“要動手術把膿放出來。”吳夫人及其僕人極力阻攔也沒有結果，無奈吳夫人只好抱着吳的頭，其子抱着腳，石田掏出一把狹長鋭利的手術刀。這時，吳的五姑爺張瑞豐見狀大喝道：“慢着！”川本氣勢洶洶地走過來問：“什麼事？”張怒目問道：“為什麼不打麻藥？”一句話提醒了吳的妻子，她也大聲抗議：“既然開刀，為什麼不打麻藥？”石田苦笑着在皮包內翻了半天，才找出針劑，並給吳注射了一支，然後又撬開吳的牙齒。當時張瑞豐親眼看到，石田那把狹長鋒利的手術刀並沒有指向脹腫的牙齦，而是刺向了吳的喉嚨。只聽吳“啊”地一聲慘叫，鮮血從口裏噴射出來。頃刻間，鮮血汩汩地向外流，吳佩孚怒視川本一眼，最後氣絕身亡。此時是1939年12月4日午後3時45分。
吳佩孚生前曾占卜自己62歲必死，如果不死可活百歲，但卻在66歲這年突然死去了。吳佩孚的死訊頃刻間傳遍了北平城，“大帥沒有屈服於日本人”，這感動了北平的老百姓，人們紛紛為吳佩孚送行。噩耗傳出，北平的日本佔領軍和漢奸政權重重祭奠了這位不肯屈就的大人物，甚至連侵華日軍最高司令官也參加了公祭儀式，而華北淪陷區的各省市三日之內均下半旗誌哀。在日本人與漢奸的假惺惺的鱷魚淚裏，在蔣介石悲切的弔唁聲中，在家人與部下的號啕哭別聲中，北洋集團裏的惟一儒將、性情倔強的吳佩孚魂歸蓬萊仙山，惟餘他手書的那幅長聯在故宅正堂的牆上瑟瑟而泣：得意時清白乃心，不怕死，不積金錢，飲酒賦詩，猶是書生本色;失敗後倔強到底，不出洋。不入租界，灌園抱甕，真個解甲歸田。
