「大同」一詞，最早見於《莊子·在宥》：「頌論形軀，合乎大同，大同而無己。」郭象註：「其形容與天地無異。」成玄英疏：「聖人盛德軀貌，與二儀大道合同，外不窺乎宇宙，內不有其己身也。」「大同」是指與天地萬物融合為一。
此後「大同」又出現《禮記·禮運》：「大道之行也，天下為公，選賢與能，講信修睦，故人不獨親其親，不獨子其子，使老有所終，壯有所用，幼有所長，矜寡孤獨廢疾者皆有所養，男有分，女有歸，貨惡其棄於地也，不必藏於己，力惡其不出於身也，不必為己，是故謀閉而不與，盜竊亂賊而不作，故外戶而不閉，是謂大同。」「大同」指儒家學派提出的一種理想社會理念，與「小康」相對。自此「大同」一詞有了全新的寓意，「大同世界」成為全人類共同嚮往的理想社會。
南北朝時期，梁武帝首次採用「大同」作為年號，使用長達12年（535—546），遼太宗耶律德光採用「大同」年號，雖然僅用了1年（947），也體現了當時統治者對國家統一的追求，以及對人類社會理想的憧憬。
「大同」一詞作為地名，最早出現在隋朝。據《隋書·長孫晟傳》記載，開皇十九年（599）「染幹因晟奏雍閭作攻具，欲打大同城。詔發六總管，並取漢王節度，分道出塞討之。」這是歷史文獻中最早出現關於大同城的記載。大同城位於內蒙古額濟納旗的達來呼布鎮東南戈壁上，屬於居延大遺址群的重要組成部分，城址由內外兩道城牆組成，俗名「馬圈城」。隋開皇三年（583），隋文帝下令廢郡，以州統縣，由涼州管轄同城鎮（今大同城遺址），當時突厥已分裂為東、西突厥，居延地區北邊與東突厥勢力接壤，因此大同城地處交界前沿，戰略地位非常重要。唐垂拱元年（685）以後，突厥佔領漠北，垂拱四年（688），安北都護府自漠北回紇部向南遷至同城鎮，即大同城，用以安置漠北歸附的突厥和南遷的回紇部。據《元和志》卷四「天德軍」條記：「甘州東北一千一十八裡隋故大同城鎮。垂拱元年（685）置大同城鎮。」此鎮在「刪丹縣北渡張掖河，西北行出合黎山峽口，傍河東壖屈曲東北行千裡。」唐代於此置同城守捉，後又改為寧寇軍，統領居延地區的軍事防務。
另外，還有一處大同城位於內蒙古烏拉特前旗烏梁素海西部，據《烏拉特前旗志》記載：「隋大業三年（607），改豐州為五原郡，郡下置九原縣、豐安鎮、大同城。」天寶十二年（753）安思順「奏廢橫塞軍，請於大同川西築成置軍」，唐玄宗賜名大安軍，不久改為天德軍。大同城址原為黃河故道，該城平面為方形，城牆系夯土築成，南牆正中開門，後來由於黃河改道，河水溢流到窪地形成了烏梁素海，城址現已被湖水淹沒。
今天我們所說的大同是指位於山西北部的大同城。它始建於戰國，秦漢為平城縣，北魏以平城為首都，遷都洛陽後改稱恆州，北齊改北恆州，隋稱恆安鎮，唐為雲州，置大同軍節度使，遼重熙十三年（1044）升雲州為西京大同府，自此大同之名沿用至今而不改，元改為大同路，明復為大同府，清因之。
關於大同城地名的由來，先梳理大同入唐之後的歷史沿革。唐代初年，馬邑的劉武周在李世民的追殺中奔突厥被害，唐王朝尚未真正控制陘北之地，此時設置北恆州可能為虛置。直到唐太宗貞觀十四年（640）自朔州北定襄城（今內蒙託克託附近），移雲州及定襄縣置於此，大同名副其實地為唐所制。唐高宗永淳元年（682），突厥默啜破定襄，州又廢，移百姓於朔州。開元十八年（730）雲州收而復置[5]，天寶元年（742）改雲州為雲中郡。天寶十四年（755）爆發了著名安史之亂，大同軍使高秀巖在雲州叛唐，直到至德二年（757）史思明降唐，雲州復歸朝廷。次年，改雲中郡為雲州。從中可以看出，大同作為兵家必爭之地，在唐代更成為北方的重要軍事前哨，是多方軍事力量匯集，各民族軍事勢力相互角逐的戰場。
唐高宗、武后時期，為了加強邊疆地區防禦力量，改變臨時徵調的困難，開始在沿邊一帶增設軍事駐防單位，分為軍、守捉、鎮、戍等，並逐漸建立起唐五代流行的節度使制度，由於大同的地理位置十分重要，很早就進入節度使體制。唐調露元年（679），已歸附唐朝的突厥部落又發生叛亂，唐朝派大批軍馬開赴前線，雲州成為這次戰爭的主戰場，調露二年（680）七月唐軍「破突厥六萬騎於雲州」。因此，杜佑《通典》記載：「大同軍，雁門郡北三百裡，調露中突厥南侵，裴行儉開置，管兵九千五百人，馬五千五百疋。南去理所八百餘裡。」應該說設立大同軍的證據十分充分，這也是文獻中最早出現關於大同軍的記載。但據《唐會要》載：「大同軍，置在朔州，本大武軍。調露二年（680）裴行儉改為神武軍。天授二年（691）改為平狄軍。大足元年（701）五月十八日，改為大武軍。開元十二年（724）三月四日改為大同軍。」這支軍隊固定駐地在朔州，最初的名稱也不叫大同軍，但布防範圍在朔州和雲州的桑乾河流域，是北方地區人數較多的一支軍事力量。
按《舊唐書·地理志》的記述，開元五年（717）回紇、同羅、僕固、拔曳固等部少數民族大規模南下，唐代政府為將其妥善安置，「分善陽縣於大同軍城置。」「開元十八年（730），復為雲州」時，大同軍仍然在善陽縣東的馬邑治所（今朔州）。到開元二十一年，「河東節度使，掎角朔方，以御北狄，統天兵、大同、橫野、岢嵐等四軍，忻、代、嵐三州，雲中守捉。雲中守捉，在單于府西北二百七十裡。大同軍，在代州北三百裡。」這裡的雲中守捉應為內蒙古的雲中故地，那麼代州北三百裡的大同軍已移至山西大同附近[8]。《舊唐書·地理志》又載：「大同軍防禦使。雲州刺史領之，管雲、蔚、朔三州。」說明在唐開元二十一年（733）大同軍防禦使已遷移到雲州，這應該是大同地名最早的由來。也就是說，大同地名最早來源於唐代善陽縣（今朔州馬邑）的大同軍，不久之後大同便有軍城之名，大同以一支軍隊名稱走進我們這座城市，並開始由軍名到地名的華麗轉身。
唐天寶三年（744）「朔方節度使王忠嗣築大同、靜邊二城，徙清塞橫野軍實之。」據此，王忠嗣自開元二十九年（741）至徙河東節度使前之各項建施，都是在朔方節度使任內事。「築大同、靜邊二城，徙清塞橫野軍實之。」事在朔方境內，而徙清塞橫野就是用以充實大同靜邊兩城。今按《王忠嗣碑》碑文云：「公始以馬邑鎮軍，守在代北，外襟帶以自隘，棄奔衝而蹙國。河東，乃城大同於雲中，徙清塞、橫野，張吾左翼。朔方，則並受降為振武，築靜邊、雲內，直彼獯虜。」敘事採用統前後而又分別言之，說明在「河東」如何建置，在「朔方」又如何建置。結合《舊唐書·地理志》記載：「天寶元年（742）改雲州為雲中郡。」兩者不僅在時間上吻合，而且在地望上也相互一致，充分說明這是唐朝修築大同軍城唯一可信的文獻記錄，修築後的大同軍城更是堅若磐石、固若金湯，正應了恆安人郭子威所說：「恆安之地，王者舊都，山川形勝，足為險固。突厥方強，為我唇齒。據此堅城，足觀天下之變，何乃欲降於人也。」說明大同軍城的軍事地位在逐漸加強。
大同軍最早設置為防禦使，雲州刺史領之，管雲、蔚、朔三州。唐中葉後，為了加強北部地區的控制，升置為大同軍節度使，軍隊的固定駐地在雲州。根據大同周邊多年出土的大批唐代墓誌，記述墓主的居住地和殯葬地，有時稱雲州城、有時稱大同軍城，兩種名字並稱貫穿於此十多方墓誌所及百多年間，可以確認唐雲州城和大同軍城是共處一地、同居一城，也就是說唐雲州城和大同軍城實際是一座城池。唐朝初期，設置節度使體制時，僅作為軍事統帥，主要掌管軍事、防禦外敵等，而沒有管理州縣民政的職責，後來隨著北邊戰事頻發，漸漸總攬一區的軍、民、財、政等權力，所轄區內各州刺史均為其節制，併兼任駐在州之刺史。從大同出土唐代墓誌看，記載大同軍城的數量明顯高於雲州城，反映了大同軍節度使地位高於雲州刺史，從而使大同軍城的知名度遠遠高於雲州城，這也為大同城由軍名向地名轉變埋下了伏筆。
唐末五代時期，大同成為沙陀部和吐谷渾赫連鐸部爭奪的主要區域，後唐復於雲州置大同軍節度使，後晉石敬瑭以契丹有援助之功，遂將燕雲十六州割讓給契丹。遼代初年，仍為雲州，置大同軍節度使，隨著西夏勢力的增強，大同的戰略地位變得十分重要，重熙十三年（1044）升為西京，命名為大同府，轄二州七縣。雲州的地名完成了使命退出歷史舞臺，大同軍城和雲州城並稱311年後，大同的名稱終於完成了從軍名到地名的轉變。之後，金因之，元稱大同路，明清仍為大同府，至此沿用不改，從而成就了充滿儒家理想社會理念的大同之名。
關於大同軍城即雲州城的位置，據大同出土唐代墓誌文字，以大同城為參照物，標記了墓主殯葬地的方位和大致距離，與大同明代府城重合。據大同考古工作者調查，大同明代府城四面夯土牆體，均存在三層夯土牆靠壓貼築的現象，早期為北魏、中間是唐代、最外側是明代的夯土牆，說明今天的大同明代府城是在北魏平城外城、唐雲州城夯土牆的基礎上修築而成。更值得注意的是大同城內的街道布局與隋唐長安洛陽裡坊情況相同，即方形城，每面各開一門，四門內街道相通，合組成一個大十字街，大十字街四隅的每一隅，又都各設小十字街，保存較好的是東南隅那一組小十字街，反映坊裡內原來即是以小小十字街為一個城市的較小的單元。這種整齊劃一的棋盤式裡坊布局，體現了隋唐時期城市街區布局特徵。