宰相最早起源於春秋時期。到了戰國時期，宰相的職位在各個諸侯國都建立了起來。
秦朝時，宰相的正式官名為丞相。在所有的官職中，宰相的變化最多，宰相的改變歷經了一系列的變革，最終以相權的消弱和君權的增長而結束，宰相這一官職歷時大約1500年。
宰相制的終結就源於這件人。
1355年，胡惟庸投朱元璋於和州，歷任元帥府奏差、寧國主簿、知縣、吉安通判、湖廣僉事、太常少卿、太常卿等職。
朱元璋認為胡惟庸有才幹，很寵信他。胡惟庸也自覺奮進，曾以遇事小心謹慎博得朱元璋歡心，進一步獲得朱元璋的寵信。
他為此當了多年獨相，生殺廢黜大事，有的不報告朱元璋便徑直執行。內外各部門的奏章，他都先拿來看，凡是陷害自己的，便扣下不上呈。各方面熱衷功名之徒，以及失去了職位的功臣武夫，競相奔走於其門，賄送金帛、名馬、玩好之物，不可勝計。
他與太師李善長相勾結，將哥哥的女兒嫁李善長的侄子李佑為妻。
隨著權力越來越大，胡惟庸開始膨脹了，在他定遠老家的井中，突然生出石筍，出水數尺深，獻媚的人爭相說這是祥瑞之兆。他們還說胡惟庸祖父三代的墳墓上，晚上都有火光，照亮夜空。胡惟庸更加高興和自負，從此有了異心。
他先是聯絡陸仲亨和費聚，後又聯繫太僕寺丞李存義，李存義是李善長的弟弟，胡惟庸的女婿李佑的父親，胡惟庸令他暗中遊說李善長。李善長年紀已老，不能堅決拒絕，開始不同意，後來便依違其間了。
胡惟庸於是派明州衛指揮林賢出海招引倭寇，與他們約定日期相會。又派元舊臣封績致書元朝，向元朝嗣君稱臣，請求出兵做外應。
後來，胡惟庸的兒子坐馬車招搖過市，墜死於車下，胡惟庸將駕車的人殺死。朱元璋大怒，命他償命。胡惟庸請求用金銀補償駕車人家，朱元璋不許。胡惟庸害怕了，便與御史大夫陳寧、中丞塗節等人圖謀起事。
胡惟庸案最重要的導火索是佔城使臣事件，1379年，佔城國來進貢，胡惟庸等人不報告朱元璋。宦官出來見到了，便進宮奏告朱元璋。
朱元璋大怒，下敕令責備中書省臣。惟庸和汪廣洋叩頭謝罪，但暗暗地將罪過歸咎於禮部，禮部大臣又歸咎於中書。朱元璋更加憤怒，將相關人等全部關押起來。
第二年，塗節告發胡惟庸，朱元璋大怒，下令廷臣輪番審問，於是誅殺胡惟庸、陳寧和塗節。
胡惟庸死後，他造反的陰謀還沒有全部暴露，到洪武十八年（1385年），李存義被人自首告發，得以免死，安置在崇明。
洪武十九年（1386年）十月，惟庸通倭的事才顯了出來。到洪武二十三年（1390年）五月，胡惟庸的逆謀進一步大顯。正好李善長的家奴盧仲謙自首告發李善長和惟庸往來情況，而陸仲亨的家奴封貼木也自首告發陸仲亨與唐勝宗、費聚、趙庸三侯與胡惟庸共謀不軌。
朱元璋大發雷霆之怒，肅清逆黨，被誅殺者達三萬餘人。於是做《昭示奸黨錄》，布告天下。
胡惟庸被殺後，朱元璋遂罷丞相，革中書省，並嚴格規定嗣君不得再立丞相，丞相廢除後，其事由六部分理，皇帝擁有至高無上的權力，中央集權得到進一步加強。
胡案的癥結在於他往往不向朱元璋請示，就擅自加以處理。這自然讓權力欲極強的朱元璋，深感宰相專權、皇權旁落的危機。
朱元璋還宣布以後嗣君不許議置丞相，大臣如敢奏請者，處以重刑，並立為祖訓。《明史》將胡惟庸定為明朝一號奸臣，稱「當太祖開國之初，胡惟庸兇狡自肆，竟坐叛逆誅死」。
胡惟庸案實際上成為朱元璋整肅功臣的藉口，凡是他認為心懷怨望、行為跋扈的大臣，都被加上「胡黨」的罪名，處死抄家，開國功臣李善長也最終被牽連進此案。