大家知道，在漢文化圈的五個國家（中國、朝鮮、越南、琉球和日本）當中，日本和中國相距最遠，所以和其它幾位不一樣，日本古代是從來沒有成為中國正式的藩屬國的，所以它的國家元首和中國一樣，也稱「帝」（琉球和朝鮮古代是中國冊封國，只稱王不稱帝，而越南屬於「外王內帝」，即自己國內號「帝」，對中國稱「國王」）。不過，對於古代自認為天下中心的中國來講，根本不可能承認日本的「天皇」稱號，所以中國一直以來基本直接矮化一格稱日本天皇為「王」的。
但是，12世紀之後，日本武士勢力崛起，天皇和朝廷被虛化，並逐漸形成一套獨特的政治倫理，那對於中國來說，稱呼就麻煩了。
武士實際就是日本的大小封建主，控制著日本的經濟和軍事實力
對於中國來說，如果要和日本官方有什麼交流，實際要找的就是日本將軍，而不是去找天皇，天皇根本不管事；但是，日本這套體制對於中國官方來說實在是怪異，武人當國，皇族虛化，這在中國人看來那就是「亂臣賊子」，所以這一套根本行不通。
可是從另一個角度來說，這也倒是方便，因為中國官方不需要和天皇打交道，所以就不必受困於「天皇」這個稱呼；只需要和幕府將軍打交道，但是按照中國人的理解方式：日本這一片的管事兒的，自然就是「日本國王」了。在歐美也一樣，由於將軍的長期世襲統治，到後來歐洲人執訪日本，一直誤以為將軍就是天皇；直到江戶幕府末年，美國派到日本的特使也還沒有弄清楚。
元朝皇帝忽必烈向日本送出國書，就要求所謂「日本國王」服從元朝的統治。這裡面的「日本國王」都是指當時的日本天皇，因為當時天皇還沒有被完全虛化，但是14世紀的時候，事情出現了變化。
古代日本天皇
明朝一開始建立的時候，向日本派遣使節，要求日本取締倭寇並向明朝朝貢，當時日本是南北朝亂世，明朝直接聯絡的九州地區是由南朝（日本皇室的「大覺系」控制實權）懷良親王控制，這位是個狠人，直接拒絕了，並且把明朝派來的七個使節處決。對於明朝來講，自然認為這個「懷良親王」就是日本國王了。
但是後來日本南北朝由北朝統一，室町幕府驅逐了懷良親王的勢力，室町幕府為了發展經濟，想和明朝進行貿易，所以自1374年起曾數次向明朝派遣使節，但是呢？幕府將軍足利義滿是以以「日本徵夷將軍源義滿」的名義向明朝朝貢的，明朝直接拒絕了，因為朱元璋當時認為「大覺系」的「日本國王懷良」（或作良懷）才是日本正統君主，而「持明系」則是亂臣。足利義滿是「持明系」的軍官，更不應與之通交。雖然朱元璋肯定不喜歡之前無禮的懷良，但君臣大義名分可馬虎不得。
足利義滿就是《聰明的一休》裡面的那個將軍
但是到了朱棣繼位就不一樣了，這位自己得國不正，所以對於「外國來朝」的事兒很喜歡，這樣能強化自己的正統性，而且足利義滿也學聰明了，給自己的名義是「日本國王臣源義滿」，所以朱棣立刻封了源道義（足利義滿）為日本國王，賜日本國王之印，發給堪合符，明朝正式與日本建立宗藩關係（其實建文帝就已經冊封了，但是日本使者還沒來得及回去的時候就發生了靖難之變）。當然，這個宗藩關係實際虛名更重，明朝對日本的內政外交基本沒有任何影響，而且日本名義領袖天皇可沒有臣服中國，所以明朝不能說是日本正式的宗主國。
之後，室町幕府的將軍都使用「日本國王」的稱號與明朝通連外交。在戰國時期，幕府的通交權實際上掌握在細川氏、大內氏、毛利氏和宗氏這些門閥大名的手裡，這些要人們為了經濟利益，常常偽造含有幕府將軍署名的國書，與明朝進行貿易。甚至一直到萬曆朝鮮戰爭的時候，中日關係嚴重惡化，明朝仍然認為豐臣秀吉是日本人並還想給他正式冊封。萬曆帝的冊封詔書現保存於大阪歷史博物館中，被今日的日本政府認定為重要文化財產。
豐臣秀吉
江戶幕府中期後，因為日本儒學影響加深，多數武士與士大夫受到儒家君臣名分的思想，幕府將軍不願意對外僭越天皇，所以國書上之稱號改為「日本國大君」。在江戶第六代將軍德川家宣時代，新井白石的改革中，幕府將軍的稱號一度被改為室町時代的「日本國王」（新井白石認為「大君」也是朝鮮宗室王子的一種稱號，因此使用「大君」一名不合適），直到第八代德川吉宗繼任將軍，新井白石失勢，日本國王的稱號亦被廢除，改回「日本國大君」。
而「大君」這個詞，影響力其實比日本國王更大，現在至少有兩個詞與此有關，一個是音譯詞「大亨」，在英語中，把在一個行業內擁有一定財富和權力的人物稱為「Tycoon」，這一詞一詞就是來源於日本語的「大君」；還有一個則是二戰時期一些漢奸稱呼的「太君」，有一種書說法是這個詞實際是中國人對於「大君」的誤讀。