足利義滿死後，室町幕府就開始走下坡路了，後面的將軍是黃鼠狼下耗子——一窩不如一窩。
室町幕府到足利義滿時，統治制度已經非常僵化。幕府之中，將軍之下設有管領，協助將軍管理政務，相當於幕府的最高行政長官。管領的職務由細川氏、斯波氏、畠山氏三個家族擔任。管領之下設有侍所、政所等機構，負責不同的政務，跟鎌倉幕府相似。其中侍所掌管京都的軍事和行政權，權力僅次於管領。侍所的長官叫所司，由赤松氏、一色氏、京極氏、山名氏四家輪流擔任。所以，這七個家族被稱為「三管四執」，是足利氏將軍之下地位最高的七個家族。地方上，幕府在各國設守護，委以管理該國的責任，有些守護同時在幕府中兼任職務。守護不在地方的時候，在領國內設立守護代，幫助守護管理領地。守護和守護代都是世襲的。守護不一定只擁有一國，像三管四執這七大家族，有的領國可以達到八國之多。室町幕府的這套制度，在建立之初就存在運轉不靈的問題。關鍵就是將軍想集權，底下的強力大名想分權。足利義滿死後，到了第四代將軍足利義持的時候，已經對政務不太關心了，渾渾噩噩地過了將近三十年的日子，等到他臨終時，手下人問他：「您百年之後，誰做接班人呢？」沒想到義持聽完，先是搖頭不語，最後才說：「就是我說了，你們也不會聽我的，乾脆你們抓鬮吧，愛誰誰。」
足利義持死後，管領們真的開始抓鬮，結果是讓義持的弟弟義教接替將軍之位。義教已經在十五歲的時候出家做了和尚，還當過大僧正，此時還了俗，身為徵夷大將軍，掌握幕府大權。義教一當大將軍，將軍家就有人不服了，憑什麼和尚還俗還能當將軍？於是就發動了叛亂，好不容易才平定了。義教雖然是和尚出身，但是脾氣暴躁，一點兒佛家的修為都沒有。當了將軍之後，義教對手下不但頤指氣使，而且隨便殺人，甚至誅人一族。在日本古代，因為佛教信仰的緣故，大多茹素戒殺，比如天皇家的公卿，幾百年來沒有人被判死刑。現在一個殺人魔王當將軍，誰都怕見到他。義教的殘忍嗜殺，終於給自己招來殺身之禍。有一個叫赤松滿佑的武將，出身名門望族，祖先在幫助後醍醐天皇倒幕的過程中立下了赫赫戰功，也是擁有好幾國的守護大名。赤松滿佑的閨女被將軍選為侍女，可是因過失被義教下令處死了。
滿佑知道將軍就是一個渾蛋，女兒被殺，雖然心中不滿，但還是強忍了下來，從此更是小心翼翼，害怕將軍會把自己也弄死。但人在家中坐，禍從天上來，越怕事兒，越容易來事兒。赤松滿佑有一個侄子，被將軍選為侍從，很受將軍寵幸。將軍喜歡滿佑的侄子，就想讓滿佑把領國分一部分給侄子。滿佑忍無可忍，將自己的兒子、外甥召集起來說：「我們家累世功勳，輔佐將軍，而將軍一再羞辱我，這我都能忍，就連殺我女兒，我都忍了。現在他要奪我領地，我要再忍，還是人嗎？我要把將軍殺了！你們同意不同意？」家長召集屬下去砍人，底下這幫人誰敢說不同意啊？大家一致同意殺了將軍。於是，滿佑假裝置酒邀請將軍。義教傻乎乎地來赴宴，剛一坐下就聽滿佑家的人喊：「馬跑了，趕緊關門去逮馬。」門一關，一幫殺氣騰騰的大漢拎著刀就奔將軍砍過來了，將軍直接被砍成了兩截兒。日本人認為武士沒有在戰場上被敵人割去頭顱，就是犬死，像狗一樣死得毫無價值。前面講過的新田義貞，他不是在戰場上跟人廝殺時被對手砍死的，而是不知道被誰放了一箭射死的，也被稱為犬死。現在堂堂的幕府將軍竟然犬死，幕府的聲望一落千丈。
將軍被殺之後，各地大名袖手旁觀，幕府也無力發兵懲罰赤松氏。赤松滿佑殺了將軍之後兩個月，才被跟他有過節的山名氏率軍討伐。第七代將軍義勝、八代將軍義政繼位的時候都不到十歲，更無力控制大名。八代將軍義政，簡直是一個文人，熱愛文化藝術，根本不像個武士。二十九歲的時候，他想退位去過優哉遊哉的舒適生活，可惜膝下一直無子，沒有人能夠繼承將軍一職。怎麼辦呢？他去遊說已經出家的弟弟義視還俗，當足利家家督。家督是武家的一族之長，對於家族的財產、家臣，都有管理權。義視擔任足利家督，意味著一旦八代將軍義政退位，義視就會成為下一任將軍。為了遊說自己的弟弟還俗，義政向義視保證：即便我日後生了兒子，也會讓兒子出家，不會威脅你的地位，你趕緊回來接任將軍。義政還指定三管領之一的細川氏做監督人，保證義視的繼承權。細川一族掌握八國領地，勢力龐大，讓細川氏當監督人等於給義視找了一個強力靠山。義視經不住哥哥的一番誘惑，還俗做了足利氏的家督，準備將來接哥哥的班。
沒想到人算不如天算，義視還俗不到一年，一直生不出兒子的將軍夫人日野富子居然生了個兒子，就是後來的足利義尚。義政親兒子一出生，就後悔當初對弟弟的承諾了，兄弟倆之間開始有了嫌隙。義政一向對政事興趣不大，倒還能忍，可是他媳婦日野富子忍不了。日野家在將軍家的勢力根深蒂固，相當於藤原氏在天皇家的地位。足利義滿時，當天皇準母的就是日野氏，義政的母親和妻子也都是日野氏，義政就是在日野家長大的。義政把家督讓給義視，日野家本來就不樂意，但是沒辦法，誰讓自家閨女不爭氣，生不出孩子來呢？現在日野家的閨女生出了兒子，豈能把這個位子讓給旁人？日野富子聯絡另一個有實力的大名——佔有八國之地的山名家，要剝奪義視的繼承權。當時另外兩個重要的家族斯波家和畠山家，也因為繼承權的問題，分別跟細川家和山名家結盟。將軍家分裂了，以義視和日野富子為首形成了兩派，水火不容，遲早要刀兵相見。
后土御門天皇應仁元年（1467年）1月18日，大戰終於爆發，地點是御靈神社。當時的將軍義政在山名家的壓力下解除了畠山氏當主的管領之職和家督之位，另立家督。畠山氏老家督被罷免，又被要求交出畠山氏的家宅，一氣之下，放火燒了自家宅院，並且在御靈神社附近的森林之中布陣。新家督在山名家的支援下攻擊老家督，打了一天，老家督打不過新家督，只好敗走。山名家支持的一方獲勝，得意揚揚引兵回國。細川家不動聲色，在四個月之後突然發動攻擊，佔領了幕府將軍的宅邸——花之御所，把天皇家和將軍家納入自家的勢力範圍之中，然後開始攻擊山名家。細川家由於把天皇和將軍都控制在自己手裡，取得了所謂的大義名分，在政治上和軍事上取得了雙重勝利，山名家失去了在幕府中的所有官職。但是，山名家很快就得到了西國大名的支持，雙方在京都展開大規模混戰。
混戰從應仁元年開始，一直打了七年之久。當時細川一方的兵力號稱十六萬，山名一方的兵力號稱十一萬，根據雙方布陣的位置，細川一方被稱為東軍，山名一方被稱為西軍。東西兩軍數十萬人湧入京都，造成的破壞難以想像。不到一個月，基本上這座千年古都就化為灰燼。雙方大打出手的時間長達兩年，然後戰事陷入膠著，誰也沒有辦法取得決定性的勝利，只好堅守各自的陣地，平時依靠足輕相互攻擊。足輕並不是武士，由於戰事曠日持久——在日本歷史上很少有這麼大規模、沒完沒了的戰鬥，源平合戰也不是天天打——以至雙方兵源匱乏，很多足輕都是招募來的浪人或者失業的農民。對他們而言打仗效忠誰是次要的，藉機搶掠才是主要的。而參戰的大名，也因為戰事曠日持久，顧不上抓生產，經常發不出糧餉，除了跟將軍夫人日野富子借高利貸之外，只能縱兵搶掠。每次佔領一處對方陣營的地盤，為了打擊對方，就搶掠一空，然後縱火將一切建築燒為白地。
雙方打仗一直打了七年之久，東西兩軍都傷亡慘重，又看不到戰事結束的可能，於是都有了談和之意。但是內部又有主戰派反對，甚至威脅主帥不得談和。一直到了文明五年（1473年），東西兩軍的頭領在一個月內相繼病死，經過將軍夫人日野富子的調停，雙方宣布罷戰。這就是日本歷史上著名的「應仁之亂。」應仁之亂的直接後果就是導致日本歷史進入混亂的戰國時代。此前各國的守護大名都是由幕府指派的，但是由於幕府大權旁落，各國守護具備了獨立的能力。應仁之亂一爆發，有實力的守護大名紛紛脫離幕府的掌控。另外，由於很多大名忙於戰事，無暇管理領國內的事務，甚至有些大名因為戰敗失利，被領國內有實力的人取代，最常見的就是守護代或者大名的家臣取代守護大名。比如擔任斯波氏守護代的越前國朝倉氏，在應仁之亂之後就取代了主君，成為越前國的守護。戰國時代朝倉氏大放異彩，讓織田信長吃了不少苦頭。
朝倉氏的叛主行為，給各國守護的家臣起了一個榜樣作用，榜樣的力量是無窮的。誰胳膊粗、拳頭大，誰就能當大名，所以背叛主君的行為一時間此起彼伏。很多有實力的家臣，都走上了這條下克上的道路，甚至有連家臣都不是的國人，居住在當地的野武士，具備一定實力之後都趁機作亂，以武力取代守護的位置。在日本的戰國時代，轟轟烈烈的毛利氏、伊達氏、長宗我部氏，本來都是當地的國人，驅逐了守護大名後自己做了大名。也有守護大名保住了家業，到了戰國時代仍然有聲有色的，比如甲斐的武田氏、薩摩的島津氏、駿河的今川氏，都是幕府原來任命的守護大名。甚至還有伊豆的北條氏、美濃的齋藤氏，都不知道出身是幹嗎的，卻也成了大名。這些戰國大名，跟幕府時期的守護大名完全不同。守護大名必須由幕府指派，跟幕府有從屬關係，也可以到中央任職。戰國大名靠實力取勝，地盤是自己打下來的，獨立管理領國內的一切事務。
室町幕府在應仁之亂之後，根本就無力掌管各地的大名，將軍已經有名無實，有時候甚至要投靠有力大名才能生存。將軍足利義政在開戰後不久，發出對西軍的討伐令，等於是投靠了東軍。戰事稍歇之後，義政就把位子讓給了自己的兒子義尚，去過他的太平生活，戰後又接著過優哉遊哉的文人生活。義尚接了親爹的位子當了將軍之後，就不把老爹放在眼裡了。他不像老爹那麼窩囊，跟母親一樣聰明能幹，但是對老爹的醇酒美人的愛好是全盤繼承。他甚至把手伸到老爹房內，跟老爹的侍妾私通。這種事在歷史上也是屢見不鮮的，跟父皇的后妃私通的人很多。神奇的是，義政一看兒子偷自己的人，他也把手伸到兒子的臥室裡，父子倆相互偷人。這種事在歷史上就很罕見了。雖然戰亂中日野家族利用權勢取得了龐大的財富，在戰後依然牢牢控制著將軍家，九代將軍義尚、十代將軍義直、十一代將軍義成，都在日野家掌控之下，但是這個時候的將軍家已經無力掌控天下，日本進入戰國時代，從此天下大亂！