一般情況下而言，「大元帥」是軍銜的最高等級，高於元帥。大元帥起初並不是軍銜稱號，而是一種榮譽封號，用來授予本國或同盟國武裝部隊總司令，有時也授予皇室成員和國務活動家。
事實上，大元帥在具體運作過程中其禮儀或榮譽作用仍然高於軍事作用，作為衛國戰爭時期蘇軍的最高統帥，史達林擁有蘇聯歷史上獨一無二的蘇聯大元帥軍銜。但是奇怪的是，史達林卻對這個稱號很不熱衷，而且一生也從未穿過大元帥制服，甚至去世時也佩戴著和其他元帥一樣的肩章。
蘇聯軍銜制度的發展，在衛國戰爭之前，經歷了一個漫長、不斷完善的過程。十月革命後，蘇聯人民委員會於1917年12月29日頒布了《關於全體軍人權力平等》的法令，認為軍銜制是剝削階級軍隊的產物，因而予以廢除，工農紅軍中的指揮員只按照職務區分等級。
這樣以廢除軍餉而以職務為等級的制度實行了18年之久，到了1935年時，蘇聯根據軍隊建設發展的需要，正式做出實行軍銜制度的決議。規定軍餉分為紅軍（陸軍、空軍）、紅海軍和政工人員三類。
其中規定蘇聯元帥為三軍最高軍銜。陸、空軍的軍銜為14級，海軍為13級，政工人員為9級。隨著蘇聯武裝力量的發展，軍銜的等級逐漸增多，軍銜的稱謂也進行了部分的變動。1937年，政工人員增設了中尉政治指導員級，陸、空軍增設了少尉；1939年政工人員又增設了一級營政委級，陸、空又增設了中校。這樣，陸、空軍軍銜由原來的14級增至16級，政工人員由9級增至11級。
1940年5月，蘇聯又頒布命令，高級軍官銜改稱將官，紅軍設少將、中將、上將、大將銜；紅海軍設海軍少將、海軍中將、海軍上將、海軍元帥銜，海軍元帥與陸軍大將同屬一個級別。
衛國戰爭中後期，隨著炮兵軍、坦克集團軍、防空集團軍、空軍集團軍等高級軍團組織的出現，蘇維埃主席團於1943年1月和10月先後頒布命令，增設了空軍元帥、炮兵元帥、裝甲兵元帥、工程兵元帥、通信兵元帥和空軍主帥、炮兵主帥、裝甲兵主帥、工程兵主帥、通信兵主帥等高級軍銜。
1945年6月26日，蘇聯最高蘇維埃主席團頒布命令，設置蘇聯大元帥軍銜。
1941年6月22日，希特勒突然撕毀《蘇德互不侵犯條約》，與匈牙利、羅馬裡亞、芬蘭等國軍隊，發動了閃擊蘇聯的「巴巴羅薩」計劃。擔任蘇聯共產黨總書記、蘇聯人民委員會主席的史達林成為了指揮蘇聯武裝力量抵禦德軍侵略的最高統帥。
1943年3月6日，史達林被授予了蘇聯元帥軍銜。1945年6月27日，史達林被授予蘇聯最高軍銜——蘇聯大元帥。但是，對於授予蘇聯大元帥一事，史達林卻對這一做法保留了態度。
對此，史達林曾說：「我有這樣一群好夥伴真是沒有什麼可說的。你們是元帥，我也是元帥。怎麼，你們想把我從元帥的行列中擠出去嗎？擠到大元帥的行列中去？這是一個什麼樣的稱號？你們給我解釋解釋。」
因此，很多人翻出各種歷史書，擺出了歷史事實解釋給史達林：「在俄羅斯軍隊史上，這是繼緬希科夫、蘇沃洛夫等人之後，第五次授予大元帥稱號。「」最後，史達林勉強同意了。但是，不久之後，史達林又感到後悔，對於「大元帥」這個稱號，史達林同志是發自內心的不認可。