1972年7月，田中角榮在日本選舉中獲勝，出任新首相，大平正芳任外相。在召開的第一次內閣會議上，田中角榮就公開宣布：「要加快同中華人民共和國正常邦交的腳步，要充分理解中國政府一貫主張的中國邦交正常化三大原則！」
當時國際輿論對於日本有個形象的比喻，那就是「鴨子戲水」。美國的外交政策怎麼樣，他就走怎麼樣，美國敵視中國，他也跟著敵視中國，緊密跟在其屁股後面，不敢越雷池一步。當尼克森同我國開展秘密外交後，美國後面的盟國們自然不甘落後，當時在他們中間流傳著一種說法：「不要趕不上最後一班車。」
1972年7月16日，周總理在會見日本社會黨前委員長佐佐木更三時表示：「如果日本現任首相、外相或其他大臣來談恢復邦交問題，北京機場準備向他們開放，歡迎田中本人來。」並隨後派遣了孫平化、蕭向前到日本去做準備工作。
1972年8月15日，田中角榮在東京的帝國飯店接見了孫平化和蕭向前，表示十分感謝周總理的邀請，他決定近日進行訪華。9月21日，日本政府正式宣布田中角榮將於9月25日至29日訪問中國。
1972年9月25日中午時分，北京天氣十分晴朗，秋高氣爽。周總理親自來到機場迎接田中角榮，當田中角榮走下舷梯時，周總理說：「歡迎你來！」隨後，田中角榮的手緊緊和周總理握在了一起，這是時隔半個多世紀以來，具有歷史性意義的一次握手！
當天晚上，周總理為他舉行了歡迎晚宴，在晚宴上發生了一出後來被反覆提及了好幾十年的插曲。按照慣例，領導人的講話一般都用本國的譯員來作翻譯，田中角榮的翻譯是在臺北學的中文。不知道是有意還是無意，他將田中角榮的致謝詞中的一句：「日本侵華戰爭給中國人民造成的傷害。」輕描淡寫的翻譯成了「添了麻煩」。當時田中角榮的話本來就不太恰當，譯員翻譯的更加不恰當，什麼叫作「添了麻煩」，道歉的成分輕飄飄的，一點也沒有道歉的感覺，這是絕對不能接受的！
當時站在周總理一側的翻譯唐聞生表示出了不滿：「怎麼這麼輕飄飄的？」周總理聽到了唐聞生的話，當時顯得很平靜，照顧「客人」的禮記還是顧及到了。在第二天正式會談時，周總理一見到田中角榮就嚴肅地說道：「你給路過的女孩子裙子上灑了水，你可以說成是『添了麻煩』。但是在對中國人民道歉的時候，怎麼能說成是『添了麻煩』呢！日本軍國主義者給中國人民造成了那麼多的傷害，怎麼是一句『添了麻煩』就能解決的？！連一點反省的意思都沒有，這是不能接受的！」
在隨後的中日談判中還是十分激烈的，因為在田中角榮來到我國前，還有很多細節性的問題沒有談妥，如「關於臺灣問題」，在中日邦交正常化前，日本同臺灣籤訂著所謂的「和平條約」，所以田中角榮向周總理大訴苦水，說自己是冒著生命和政治危險的，請求總理體諒他的實際困難。
周總理的外交政策一向都是以理服人，既要堅持自己的原則，又通過求同存異來消除異見。雙方在談判中，充分利用政治智慧找到了一個又一個折中解決的辦法。經過激烈的談判交鋒，《中日聯合聲明》前言中寫明了：「日本方面痛感日本國過去由於戰爭給中國人民造成的重大損害的責任，表示深刻的反省。日本承認中華人民共和國是代表中國人民的唯一合法政府。」並在聲明籤訂完後，再由外相大平正芳對外宣布與臺灣斷交。
通過這次談判，田中角榮對周總理敬佩得五體投地，在隨後的記者招待會上，他向各國記者描述了周總理給他的印象：「軀如楊柳搖微風，心似巨巖碎大濤。」