隨著莊園的廣泛流行， 日本歷史上的「武士」也應運而生。武士就狹義講，指的是莊園主私養的家兵，來源於莊園內接受軍事訓練的農民，從廣義講，在家兵和莊園主結合成為一種以戰爭掠奪為職業的特殊社會階層之後，地方豪強也願意被看作是武士，而且他們還是武士中的核心和上層分子。上層與中層，中層與下層結成主從關係，如蜘蛛網一般，在地方豪強的莊園所在地，逐層控制，在政治上形成分裂勢力，在軍事上形成割據集團。上層把部分莊園土地的使用權分配給中、下層，以對這種主從關係提供物質保證。兩者之間又形成一種採地關係，從而小採地佔有制在大莊園所有制的掩蓋下發展起來。這樣一來，大小封建主之間形成了利益攸關，抱成一團的新的封建組合。又經過一系列的攻戰、挫敗，徵討、勝利，到12世紀後半葉，終於淘汰和凝結成為兩個最大的封建軍事貴族集團：一個是本州島東部地區的源氏集團，一個是本州島西南地區的平氏集團。他們都自稱為嫡派皇族，展開了爭奪全國政權的拼死鬥爭。1185年，源氏打垮了平氏，取得了最後勝利。源氏在自己的根據地鎌倉建立了天皇政府以外的新政府——幕府，源氏集團首領源賴朝成為新政府的首腦，稱「徵夷大將軍」，掌握了以前京都天皇政府所有的權力。天皇雖未被廢除，但已成為傀儡。從此， 日本進入了軍事封建貴族專政即幕府統治時期，直到19世紀六十年代明治維新，長達七百年。其間先後經歷了鎌倉、至町和江屍三個冪府的統治。在天皇朝廷以外，另立一個武士的朝廷，長期掌握國家政權，這是日本封建社會政治制度的重要特點。
鎌倉幕府(1185——1333年)的社會基礎是武士化了的中小地主階級——「御家人」。 「御家人」是和源賴朝結成主從關係的將軍直屬武士。將軍保護矗御家人"原有土地的所有權，並對有功者賜予官職和土地。將軍委派親信武士擔任各國(省)的「守護」 (軍政長官)和各地莊園的「地頭」 (管理人)，取代了原先「國司」和「莊官"的職權。這些武士就成為享有特權、忠於將軍的小封建主。
鎌倉幕府不斷地改進和強化幕府的統治，並挫敗了京都朝廷的徵伐。在1232年(貞永元年)又頒布了實質上是全國性法律的"貞永式目」。13世紀中葉以後，幕府的政治逐漸穩定，經濟也有了發展。但是，鎌倉幕府的穩固局面沒能維持多久。t274年和1281年，蒙古(元朝)兩次入侵日本。日本雖然取得了勝利，但戰爭的重負和各地的災荒，激起了人民的反抗。同時戰土們由於擔負了戰爭費用，而幕府在戰後財政困難無力犒賞，使不少人破產，引起子武士的不滿。
1333年，天皇趁幕府勢衰，聯合不滿幕府的武士貴族，推翻了鎌倉幕府。但是，不久政權又落入原幕府部將足利尊氏手中。1336年足利尊氏佔領京都， 自任「徵夷大將軍」，重建幕府。因幕府位於京都室町，·故又稱「室町幕府」 (1336 1573年)。被廢黜的後醍醐天皇不甘失敗，逃到京都以南的吉野另立朝廷，與足利尊氏擁立的光明天皇對抗，相持了半個世紀，史稱「南北朝時期」 (1336 1392年)。1392年室町幕府滅南朝，取得了全國的統治權。
室町幕府時期，社會經濟有顯著的發展，出現了許多新興的工商業城市。幕府積極地發展同中國明朝的商業貿易和文化交流。
室町幕府的支柱是在長期戰亂中發展起來的「守護大名"。他們擁有許多封建家臣，甚至兼控數國(省)，是實力很強的大封建主。室町幕府是建立在守護大名不穩固的聯合的基礎上的。將軍不過是名義上的共主，他的權力基本上不超出自己的直轄領地。從15世紀起，「守護大名」的割據傾向不斷增強，室町幕府逐漸無力控制「守護大名」，走向衰落。1467年(應仁元年)為第八代將軍的繼嗣問題，引起「應仁之亂」(1467 1477年)。從此， 日本進入了長達百餘年的守護大名割據混戰的口戰國時期」 (1467 1573年)，直到室町幕府滅亡。