一般認為蒙古起源於東胡，東胡是匈奴以東各部落的總稱。匈奴強大後打敗東胡，東胡遂分裂為兩支，居住於鮮卑山的稱鮮卑，居住於烏桓山者稱烏桓。
烏桓這一支在東漢末年時，因為幫助袁紹的兩個兒子得罪了曹操，被出兵收服。鮮卑則在不斷繁衍中逐漸強大起來，以興安嶺為界，以北稱「室韋」，以南稱契丹。
室韋以部落形式存在，其中一支生活在額爾古納河一帶的「蒙兀室韋」，就是蒙古的前身。因此蒙古和契丹同源，都源自於鮮卑。
直到12～13世紀，鐵木真把草原各部落統一，建立大蒙古國，在其勢力範圍內所居住的各部落，通稱為蒙古人。
那麼內蒙、外蒙又是根據什麼來劃分的呢？
地理劃分
漠南、漠北之稱最多出現於漢武帝徵匈奴時期，這個「漠」所指的是什麼地理概念呢？
在中國北部和蒙古國之間，有一片廣袤的荒漠區，稱為「戈壁沙漠」，戈壁為蒙古語礫石荒漠之意，沙漠則指沙地。該地區總面積130萬平方公裡，在亞洲僅次於阿拉伯沙漠。
從地理角度講，位於戈壁沙漠以北為外蒙，以南為內蒙。
單以地理劃分過於簡單和生硬，內、外蒙的劃分結合蒙古部族發展史才算完整。
明朝時期的蒙古
明朝建立以後，蒙元勢力被逐出中原，但仍控制蒙古高原廣大地區。黃金家族直系（忽必烈系）這部分被稱為北元，由於明朝屢屢北伐，並在捕魚兒海一戰中重創其老巢，遭到失敗的黃金家族至此失勢，蒙古各部紛紛脫離獨立。
明永樂初期，已形成佔據東部蒙古的韃靼（蒙古本部）和西部的瓦剌（衛拉特蒙古）。瓦剌臣服明朝，並不斷對韃靼用兵。在也先掌權時期，瓦剌強大起來，建立瓦剌帝國對明朝形成威脅。
瓦剌由和碩特、準噶爾、杜爾伯特、土爾扈特這四大部和一些小部落組成。
十五世紀末期，東部蒙古（蒙古本部）達延汗統一各部勢力，將漠南、漠北領地合為六個萬戶，分左右兩翼。喀爾喀是其中之一屬左翼，共分12部，內五部逐漸南遷入內蒙，外七部留居原地。
16世紀中期，原居住於哈拉哈河（中蒙邊境）及克魯倫河的喀爾喀向漠北遷移，逐漸形成喀爾喀四部，因此居住於外蒙的部族是喀爾喀蒙古。
清朝時期的蒙古
明末清初，成吉思汗、達延汗的嫡支林丹汗繼位，年僅13歲的林丹汗所面對局勢十分險惡，漠南蒙古各部只是在名義上奉其為主，實則各自為政，漠北外喀爾喀根本不予承認，漠西衛拉特（瓦剌那部分）始終處於敵對，東部努爾哈赤女真勢力正逐漸崛起。
林丹汗認為女真是最大威脅，他一面努力統一蒙古各部，一面聯明抵禦後金。但林丹汗也深知女真的厲害，儘量避免同其直接交戰，最終於1632年被皇太極討伐，遠遁青海並於1634年病故。
清朝一貫採用剿撫並用的手段收服蒙古各部，並以聯姻方式鞏固與蒙古關係。林丹汗死後各部紛紛歸附，清設立蒙古衙門對其進行管理，後改為理藩院。
清朝對蒙古實行盟旗制與札薩克制，設置盟旗並由中央指派官員進行管理的部分稱「內屬蒙古」；封世襲札薩克（執政官）的蒙古部分稱「外藩蒙古」。外藩蒙古又按歸附先後分為內札薩克和外札薩克，外札薩克中的喀爾喀四部就是日後的外蒙古。
清康熙時期，衛拉特（源自瓦剌）中的準噶爾部在首領噶爾丹帶領下，取得衛拉特的控制權，將原來鬆散的聯盟改為集權制度，並建立準噶爾汗國。噶爾丹極具野心，先吞併了葉爾羌汗國（可視為東察合臺汗國的延續），繼而攻打漠北喀爾喀，被康熙親徵擊敗。準噶爾部是清朝的心頭大患，歷經康雍乾三代方才平定。
內外蒙古的形成始於明朝、定型於清朝、分離於民國。經過漫長歲月的演化，方成為如今的內蒙和外蒙。