日本作為和中國一衣帶水的一個國家，中日的交流也源遠流長。最早可以追溯到漢朝時期，那時候雙方交往並不深，最初《漢書》對其只有「樂浪海中有倭人，分為百餘國，以歲時來獻見雲。」這短短十九個字的記載。
到漢光武帝時期，倭奴國派人到洛陽朝貢，漢光武帝授予了其金印紫綬。
建武中元二年，倭奴國奉貢朝賀，使人自稱大夫，倭國之極南界也。光武賜以印綬。《後漢書·東夷列傳》
當時的日本存在三十多個大小的國家相互攻伐，倭奴國就是其中之一，由於它的有利地理位置，所以率先來到了洛陽進行朝貢。而倭奴國的到來是希望得到中國的青銅器、武器、農具及各種生產技術，誰得到更多的技術誰就能在戰爭中獲得優勢，如果能得到中國的冊封的話，將會提高其政治地位。從倭奴國到來之後，陸續又有很多日本小國過來朝貢。1784年，在現在日本福岡的志賀島村，兩位農民在挖水渠的過程中挖到了一個金光閃閃的東西，據考證這個東西就是公元57年漢光武帝賜給倭奴國的金印，金印上分三行印著「漢/委奴/國王」五個漢字。
在魏晉南北朝時期，倭國也與中原王朝有所往來，由於中原動亂，中原王朝並沒有過多的關注倭國。到達隋唐時期雙方的交往才密切起來，但當倭國第一次來到長安覲見時，就發生了讓隋文帝很不高興的事情。倭國派出第一個遣隋使得時間是公元598年，這一年正好是隋朝派遣30萬大軍徵伐高句麗之後，同時日本也準備在兩年後徵伐新羅。此時的倭國已經統一了200多年，社會各方面也有很大的發展，而中國剛結束亂世沒多久。在這種情況下倭國覺得與隋朝的差距沒有以前那麼懸殊了，自尊心也大大增強，於是想和隋朝進行「對等外交」進行交流。另一方面可能是為了刺探隋朝的態度，看隋朝將如何對待新羅和他們的紛爭。
開皇二十年（公元600年）倭王派人來到長安，隋文帝讓人問倭國有什麼風俗。倭國使者說：「倭王以天為兄，以日為弟，天不亮就起床聽政，聽政時倭王坐如來像，待太陽升起後，就把政務交給弟弟——太陽」。中國古代皇帝自稱「天子」，然而倭國使臣一來就說倭王是天的兄弟，這話一出口可想而知隋文帝的反應了。一個小小的倭國就想在這件事上佔自己的便宜，隋文帝雖然生氣，但作為天朝上國沒必要和一個沒見過世面的小國計較，於是訓令倭國把這一稱謂改掉。
上令所司 訪其風俗。使者言倭王以天為兄，以日為弟，天未明時出聽政，跏趺坐，日出便停 理務，雲委我弟。高祖曰：「此太無義理。」於是訓令改之。《隋書·列傳·卷四十六》
從這次來隋朝之後，到614年的短短15年中，雙方來往了5次。而在大業三年（607年），這次倭國與隋朝交往中又發生了一件讓隋煬帝不高興的事情。倭國從第一次來隋朝之後就知道了隋朝的強大，之後的多次過來就是想要多多學習中國先進的文化、生產知識。大業三年，倭國外交官小野妹子出使隋朝，這次雖然沒有「以天為兄」這樣的字眼了，但國書中的「日出處天子致書日沒處天子無恙」這句話也並不比之前的那句要好。隋煬帝看見這句話之後很不高興，於是對鴻臚卿說：「蠻夷書有無禮者，勿復以聞。」顯然隋煬帝雖然不高興，但是也沒準備計較，只是想著眼不見心不煩。為了維護好和周圍的外交關係還派裴世清出使倭國。
而在裴世清隨小野妹子出使倭國之時隋朝的國書竟然丟了，到了日本之後，小野妹子也沒有把隋煬帝不高興的事告訴倭王。很有可能國書裡面有隋煬帝教訓倭王的話語，從後來裴世清到倭國之後只是把倭王稱為王而不是「倭皇」，就可以看出隋朝方面是並沒有把倭國放在同等地位的，而是像周邊小國一樣實行的「宗藩體系」。據《隋書》記載裴世清到達倭國受到了倭王的親自接見，並向倭王宣了諭，順利地完成了朝命。但《日本本紀》中卻記載說裴世清根本沒有見到天皇，國書也是由人進行宣傳的。《日本本紀》還記載了之後倭國又進行了第三次和第四次訪隋，並在國書中稱倭王為「東天皇」，稱隋煬帝為「西皇帝」，顯然倭國是力爭在外交上與隋朝建立平等關係。但在《隋書》中記載從倭國使臣隨裴世清來隋朝進貢之後就再也沒有往來，顯然是在這之後倭國的做法徹底的觸怒了隋朝。
到了唐朝時期，由於唐太宗實行開明的民族和對外政策，對日本大規模到來的遣唐使給予了優厚的待遇，並準許日本不用一年一貢，還讓高表仁持符節前去撫慰。但就是這樣，倭國不但不感恩，還一直想著對抗大唐。高表仁這次過去並沒有達到目的，沒有宣示朝廷之命就回來了。史書也只是說高表仁與倭王子發生了爭禮事件，表示沒有撫慰倭國的能力。雖然沒有寫到底是爭論的什麼事情，但是從之前倭國訪隋就可以看出，倭王子應該是想以倭皇這樣平等的地位來接待高表仁，對於這樣的要求，作為天朝上國的使臣肯定不會接受，憤然離去也是正常的事了。
太宗矜其道遠，敕所司無令歲貢，又遣新州刺史高表 仁持節往撫之。表仁無綏遠之才，與王子爭禮，不宣朝命而還。
讓倭國真正認識到和大唐差距的事情是中日之間的第一次戰爭——白江口之戰。此戰中大唐和新羅聯軍徹底戰勝了倭國和百濟聯軍，後來大唐更是滅掉了不可一世的高句麗。這一戰完全把倭國的自信心打掉了，從此倭國變得表面無比順從，更加不遺餘力地學習中國文化。之後到武則天時期，倭國認為這個名字不好聽於是懇請武則天賜名，於是有了現在日本這個國名。
日本一直力圖與中國平起平坐，當中國強的時候就蟄伏起來學習。當日本認為自己強大了就開始起小心思，從後來的明朝抗倭援朝，清朝的甲午中日戰爭到近代的中國抗日戰爭，無不顯示著日本的野心。害人之心不可有，防人之心不可無，隋唐就是對日本太過於放縱，導致日本的野心不斷滋生。表面是日本在隋唐爭面子，實際上日本的野心從來沒有消失過。