周王朝建立之初，徵服了唐國，需要有一個號召力的人選，治理這個地方。周成王與周公，看中了周成王的弟弟叔虞，兩人上演了一出「雙簧」。
周成王先是將一片剪成玉圭形狀的桐葉，賞給了叔虞；接著周公出來說話，認為玉圭是一個人身份地位的象徵，此舉是冊封叔虞。儘管周成王予以否認，但周公以「天子無戲言」反駁，於是周成王封叔虞於唐，故叔虞又成為唐叔虞，這便是「桐葉封弟」的典故。叔虞執政30年去世，其子燮父即位，將國都遷往晉水河畔，並將國號改為「晉」，正式開啟了晉國的歷史。
縱觀歷史，晉國存世684年的歷史中，始於唐叔虞，終於晉靜公，前後經歷了三十九位國君。其中從公元前632年晉文公開始，至公元前482年晉定公止，是晉國最為強盛的時期，一直稱霸中原。眾所周知，晉文公為「春秋五霸」之一，其他四位是齊桓公、楚莊王、宋襄公、秦穆公。
齊桓公在管仲的輔佐之下，通過對經濟、軍事等多領域的改革，加之自然資源豐富，使得齊國實力大增，同時，在遊牧民族襲擾中原之時，適時的打出「尊王攘夷」的旗號，令到齊桓公在諸侯中迅速建立起了威望。
位於南方的楚國，長期徘徊於中原主流文化之外，一直想稱霸中原。公元前597年，機會來了，楚莊王討伐鄭國，與前來援救的晉軍戰於邲，史稱邲之戰。此役借著晉國將領的不和，楚軍大獲全勝，迫使一些中原的諸侯國臣服，為楚莊王在公元前594年會盟推為盟主，奠定了基礎。
稱霸的時間段，齊桓公稱霸了32年，其死後，齊國陷入內亂，從此一蹶不振；楚莊王稱霸的時間則更短，只有三年。至於齊桓公的霸主地位，最多的時候，也只有1/3的諸侯承認，而楚莊王呢，僅僅只有楚國的幾個鄰國承認，還是迫於淫威之下。
很顯然，在當時眾多諸侯國眼中，晉國才是霸主，且晉文公開啟的霸業時間長達150餘年，橫跨公元前7世紀、6世紀、5世紀三個世紀，佔據了春秋霸主時代的四分之三。邲之戰之後，重整旗鼓的晉國先是打敗齊國，無奈之下，齊國派太子彊到晉國做人質，從而粉碎了齊楚聯盟；接著又派出申公巫臣南下，教吳車戰，達到「聯吳制楚」的目的，使得楚國「顧頭不顧腚」，晉悼公執政時期，楚國勢力已經徹底淡出了中原。
與此同時，宋襄公也有心接替霸業進入末期的齊國，但未能與時俱進，更新理念，堅守所謂的「君子禮戰」。先是宋襄公不讓軍隊攻擊正在渡河的楚軍；待楚軍渡河後擺好架勢，宋襄公又不準士兵不得對受傷的楚軍下手，以及不能抓拿白頭的老兵。對敵人仁慈，就是對自己殘忍，如此一來，宋軍大敗，宋襄公也因傷離世。
西面的秦穆公，也不甘示弱，也想著跨河東進，稱霸中原，但礙於實力強大的晉國。為此，秦穆公費勁心機，趁著晉國國內內訌，多次插足晉國的內政，達到削弱晉國的目的，但始終未能如願。
公元前628年，機會來了，借著晉文公去世，秦穆公派遣孟明視率兵，意圖借道晉國，偷襲鄭國，宣告新一代霸主的誕生。但卻碰到鄭國商人弦高，導致偷襲計劃洩露；無奈之下，秦軍班師回朝，在崤山峽谷遭遇晉軍，全軍覆沒，主帥孟明視被生擒。從此，秦穆公懼怕晉國，再也不敢踏足中原，《史記·秦本紀》記載其「益國十二，開地千裡，遂霸西戎」。也即是說，秦穆公打不過晉國，也只能找西戎練練手，稱的是西戎的「霸」。
可見，這一時期的晉國，是春秋時期的超級大國，偶爾有打盹的時候，但緩過神來，齊楚都不是對手，更別提秦國了，完全有實力將秦國按在地上摩擦。有鑑於此，清代歷史學家全祖望認為除了齊桓公之外，應該將晉文公以及之後的晉襄公、晉景公、晉悼公列入五霸之列。事實上，晉文公的兒子晉襄公、孫子晉景公、玄孫晉悼公，一直到晉定公的十一位國君，雖然有著起伏，但晉國基本上還是中原諸侯國的「一哥」。
至於「三家分晉」，這個得從曲沃代翼說起。公元前746年，晉昭侯將曲沃封給叔叔成師，這便是曲沃桓叔，也標誌著晉國分裂成了翼和曲沃。曲沃這支到了武公執政時期，武公打敗晉侯緡，結束了晉國的分裂。史稱「曲沃代翼」。
到了公元前677年，晉獻公即晉文公的父親即位。為避免「曲沃代翼」的再次發生，晉獻公將原晉國諸公子們全部誅殺，造成了晉國公族勢弱。晉文公執政後，調整了父親打擊公族的政策，啟用了一批舊族，緩和矛盾，同時確立了三軍，各設立了一將一佐，這就是三軍將佐，也叫三軍六卿。
此後晉國國君逐漸勢弱，從而形成了中行氏、範氏、智氏、韓氏、魏氏、趙氏六大家族；最終，六大家族剩下了韓氏、魏氏、趙氏三家。公元前433年，晉國的疆域全部落入韓、趙、魏三家之手，晉國國君只剩下了絳、曲沃，作為遮羞的「褲衩」，晉國已是名存實亡；公元前403年，韓、趙、魏三家乾脆連「褲衩」都不給了，這邊接受完周威烈王的賜封，等於是從名義上，正式承認了趙、魏、韓的諸侯地位，那邊便將晉靜公廢為平民，史稱「三家分晉」：
魏國：為戰國初期的強國。吳起為擔任主帥期間，魏國逐漸佔領了黃河以西的五百多裡土地，將秦國的疆域壓縮在華山以西的狹長地帶；
趙國：經過「胡服騎射」後，趙國實力大增，成為了秦國戰國中後期的主要對手；
韓國：為三家之中最弱的一家，但也躋身戰國七雄之列。能夠在諸侯環伺之下，傳世接近200年，實力也是不容小覷。
這也從側面反映出，沒有分裂的晉國是多麼的強大。