武士的出現是對皇家權力的侵蝕，所以，了解武士的起源，必須從日本天皇說起，從考察天皇的出現和皇權的衰落過程說起。在中國的歷史上，長期以來稱日本為倭或者倭國，稱其首領為倭王或者國王，「天皇」一詞並不多見，也沒有證據表明那時的日本有「天子」的思想，古代早期的歷史資料都表明日本是臣服於中國之下的，只能稱「王」，不能稱「皇」。
東漢時期光武帝劉秀授予過倭奴國王金印，三國時代，公元239年，魏國封「邪馬臺國」國王為「親魏倭王」。公元420年後，日本與南朝的宋有交往，接受宋的冊封，有「倭五王」被冊封，這時是大和朝廷時代。日本早期沒有史料記載當時日本的首領叫什麼，根據中國資料看，當時他們都被稱為國王。可以推測，在當時日本的首領叫什麼，根據中國資料看，當時他們都被稱為國王。可以推測，在那個時代獲得中國的冊封對於小國林立的日本來說，具有必要性，因為獲得大國冊封者可以擁有在其國內的權力正當性，可以藉助大陸大國的權威控制其他小國，還可以在發生爭端時藉助大國的力量調節爭端。
冊封是有封號的，比如，公元478年，南北朝時，倭王武曾上書宋請求封號，但是後來宋滅亡，齊朝封倭王武為「鎮東大將軍」。齊滅亡之後，梁朝封倭王武為「徵東將軍」。其實，當時的中國處於南朝與北朝對立狀態中，並無暇控制日本，也成不了日本國內事務的調停者，但是儘管如此，獲得這個名分，在政治上對日本這些小王國還是非常重要的。
另外，歷史上日本的各個小國需要中國的冊封，除了國內政治的需要之外，他們中的霸者還需要利用中國對抗朝鮮半島。但是，從史料上看，這些小國似乎並沒有達到目的，因為他們獲得的封號與朝鮮半島獲得的封號並沒有什麼區別，甚至有時還低於朝鮮半島獲得的封號。比如，倭國獲得的「鎮東大將軍」封號低於高句麗獲得的「徵東大將軍」封號，而他們後來還獲得過「安東將軍」這個稱號，顯然也低於同時期百濟獲得的「鎮東大將軍」和「安東大將軍」稱號。由此可見，倭國未必能通過中國的冊封體系保持對朝鮮半島的優越地位。不管日本的小國是什麼意圖，接受中國的冊封，便意味著日本與中國的關係成為君臣關係，中國的王朝也就不可能稱日本的任何首領為皇帝或者天皇，只能稱其為「王」。
那麼，日本是什麼時候出現要與中國平起平坐思想的呢？原來，當日本覺得自己有能力建立對自己有利的國際關係時，自我中心主義便產生了，這種能力的政治基礎是國家的統一。日本與中國隔海相望，擁有相對的政治獨立性，有日本學者從出土的稻荷山鐵劍銘上的「治天下」中分析，日本可能在公元471年時就有自己的「天下」思想，具有了與中國皇帝平起平坐的思想基礎。雖然統一之初倭王武還
的「天下」思想，具有了與中國皇帝平起平坐的思想基礎。雖然統一之初倭王武還接受中國冊封，但是，根據《隋書·倭國傳》記載，到了公元600年，大和朝廷第一次遣隋使稱倭王姓「阿每」，字「多利思比弧」，這個古日語單詞，意思是「天兒」，說明當時日本已經具有「天子」的思想。當時應該是推古天皇時代，她是第三十三代天皇，也是史料記載的日本歷史上的首位女皇，遣隋使把她的字解釋成「天兒」，是要告訴中國，他們的「王」也是「天子」。
既然公元600年前後的隋朝時期，日本的天皇已經傳到第三十三代，那麼之前他們一直接受中國朝廷對他們的冊封，甘願為「王」，甚至為「將軍」，是出於無奈還是出於策略，抑或還有別的原因呢？
原來，日本的歷史，除了根據中國史料記載的比較確切的部分之外，還有一段傳說的歷史。雖然關於天皇的記載，並不比隋朝久遠，最早出現在公元8世紀初成書的日本史料《古事記》和《日本書紀》，但是裡面卻把天皇的起源說得很久遠，而且還把天皇神化了。
《古事記》和《日本書紀》說太陽女神天照大神的後代神武天皇是日本初代天皇。但是，這兩本書太過於神話，不足以作為史料來看，所以，有歷史根據的首位天皇還是被認為是與隋唐同時期的推古天皇。就連著名作家松本清張都說，《記》《紀》兩份資料「是當時朝廷編纂的，是天皇家和中央政府自我美化的作品，完全是為了鞏固天皇政府的統治而編寫的」。特別是關於「神代」日本，從神武天皇到開化天皇的九代，基本上是杜撰的。
儘管如此，根據學者按照《記》《紀》的記載推算，神武天皇即位的時間大約在公元前660年，那時日本還是彌生時代，中國則處於春秋時代。神話不足以構成歷史研究的根據，所以，一般日本歷史學家還是以中國史料為根據，從《三國志》記載的邪馬臺國開始研究日本的歷史。中國史料《舊唐書》記載，「日本」是倭國的「別種」，本來是一個小國，後來合併了倭國。《新唐書》則記載，日本與自古以來和中國有交往的倭國不同，日本的國王姓「阿每」，筑紫城的神武徵服了大和自稱天皇，600年前後開始與中國交往，這是指大和朝廷與隋唐的交往。
由此可見，與唐朝交往密切的大和朝廷有可能不是邪馬臺國的繼承國家，因為邪馬臺國長期向中國稱臣納貢，從未自稱天皇。而大和朝廷卻自稱天皇，並認為天皇（神武天皇）早在公元前660年前就存在了，這意味著：或者大和朝廷以前確實很小，沒有像邪馬臺國那樣與中國交往過，或者它後來吞併了包括邪馬臺國在內的其他小國，統一了日本，並開始向中國顯示其「天皇」的存在，抑或有可能是邪馬臺國演變成或者吞併了各國，形成大和朝廷，並產生大國意識，不再接受中國冊封，並告訴中國他們的國王也是天子，即「天兒」。這些都是日本古代史的謎團，現在還沒有定說。
不管大和朝廷來源如何，也不管它與邪馬臺國是什麼關係，後來的事實證明，隋唐以後，大和朝廷不再接受中國的封號，說明大和朝廷不同於過去的倭國，開始獨自建立自己的威信。公元607年（隋大業三年），大和朝廷的使節呈給中國朝廷的國書中有「日出處天子」的表述，進一步證明那時日本已經對外自稱天子了，隋煬帝對此十分不滿。既然稱「天子」會引起隋朝的不滿，那麼就改稱「天皇」，根據《日本書紀》記載，第三次遣隋使遞交的國書上說「東天皇敬白西皇帝」，這意味著「天皇」這一稱號在公元608年，日本就在對隋外交中正式開始使用。總之，這一舉動意味著日本正式脫離了中國的冊封體制，確立了政治的自立性。
但是，由於還有經濟和文化上的依賴，雖然不接受冊封，但朝貢體制還是維持了下來，大和朝廷並沒有停止向中國朝貢。唐朝給日本的國書仍然寫著「倭王」，說明唐朝並不認可日本的所謂「自立性」，不承認所謂的「天子」和「天皇」之說。公元702年，入唐使者慄田真人接受的唐朝國書上寫著「日本國王」，說明唐朝接受了遣唐使的通告，承認了「日本」這一國名，不再稱其為「倭國」，但仍然稱日本君主為「王」。其實，「天皇」一詞是武則天對唐高宗的尊稱，這一用語很可能被入唐留學生傳到日本，日本充滿神話的所謂「史書」《古事記》和《日本書紀》不過是借用了唐高宗的尊稱——「天皇」，杜撰了日本「天皇」的神話歷史。大和朝廷也許早就存在，但是，「天皇」一詞應該出現在武則天之後，所謂神武天皇之說，很可能是大和朝廷的官方「史書」《古事記》和《日本書紀》編的瞎話。「王」或者「大王」也許具有比較久遠的歷史，這是可以理解的，但是「天皇」的歷史不會早於唐朝。