在日本歷史上的三個幕府（鎌倉、室町、江戶）中，江戶幕府的統治體制是最完善和穩固的。除了幕府的徵夷大將軍之外，幕府實權最大的官員就是「大老」和「老中」。那麼這兩者之間有什麼區別呢？
江戶幕府治下的武士大體分為幕政和諸藩兩個系統。諸藩系統主要由擁有領地的大名及其附屬武士組成，頂點就是「御三家」和「御三卿」。不過大名名義上的地位雖然很高，但在幕府內的權力其實很小。
幕政系統的武士是幕府直轄官員和常備軍官的主體部分。幕政系統的武士在名義上的地位並不高，領地也不大，但在幕府之內擁有的實權遠大於諸藩。江戶幕府也是以此制衡兩個系統來維護統治的。
除了幕府將軍之外，系統中地位最高、權力最大的武士就是「大老」和「老中」。「大老」和「老中」輔佐將軍處理國政並管理幕府軍隊，兩者的職權範圍基本相同，類似於中國古代的宰相或者內閣學士。
不過「大老」在同一時期只有一人，擁有「一人之下，萬人之上」的權勢。正因如此，「大老」是江戶幕府非常設官職。在江戶幕府近三百年的歷史上，只有井伊、酒井、土井、堀田四家譜代擔任過幕府大老。
江戶幕府大老——土井利勝
與「大老」不同的是，「老中」在同一時期有四到五名，導致單個老中的權力要比大老小很多。因此「老中」成為江戶幕府的最高常設官職，一般都是從領地在二萬五千石以上的譜代大名中挑選，任期終身。
可以說「大老」和「老中」都是江戶幕府類似於宰相的核心官員，但「大老」因為具有獨一性而權力更大，對幕府將軍的威脅也更大。因此「大老」是能不讓活人幹就不讓活人幹，而「老中」則必須有活人來幹。