魏晉南北朝時期，由於北方草原上的遊牧民族大量入主中原，在「二學二教」相互衝突、融合的同時，胡、漢文化的大規模衝突與相互融合也在同時進行著。
秦漢時期建立起來的統一的多民族國家，主要包括的是除中原地區華夏族或漢族以外，南方的越族和西南夷淆邵族等少數民族，西北和北方的少數民族尚沒有包容或沒有完全包容進來。這種情況從東漢中期以後發生了越來越大的變化。
從東漢開始，居住在西邊和北邊地區的一些少數民族，由於受到漢族地區經濟、文化的吸引，逐漸向內地遷徙。到西晉時，幽、並、雍、梁、秦、涼諸州已經成為各民族雜居的地區。其中，匈奴族居住在今山西省臨汾、離石、太原、忻縣等地，羯族散居在今山西省北部和東南部，烏桓族散居在今河北省各地及遼寧省西部，鮮卑族各部居住在今遼寧省西南、河北省東北和內蒙古南部，羌族居住在今山西省大荔、耀縣、彬縣等地，氐族居住在今陝西省扶風、鳳翔、興平、周至、西安等地，巴氏(賚人)居住在今甘肅省天水、清水一帶。這些居住在西晉境內的少數民族，像匈奴、烏桓族、羯族，大都按部族群居，由於他們受到西晉政府的殘酷剝削，不僅要向西晉政府繳納賦稅，服徭役，還要當兵打仗，所以對西晉早有不滿。
從公元291年起，西晉王朝內先後有八個諸侯王，為爭奪最高領導權而相互攻殺，歷時16年，史稱「八王之亂」。「八王之亂，，使西晉統治力量急劇削弱，生產遭到嚴重破壞，再也無力維持統一的局面。伴隨著戰爭而來的是北方嚴重的旱災、蟲災和饑荒，大批災民不得不背井離鄉，紛紛向南方遷徙。從公298年以後的十年間，漢族、羌族、氐族等民族流徙人口多達百萬以上·。流民到了新的地方，生活沒有著落，多數人靠給人做傭工過活，但當地豪強地主、官府不僅不進行任何撫恤，反而肆意欺壓流民，搶奪他們的財物，激起流民起義。正當西晉政府忙於鎮壓這些流民起義的時候，北方的匈奴貴族劉淵乘機在山西臨汾起兵，並於公元304年建立漢國。隨後，羯族人石勒也起兵反晉，投奔劉淵，被任為大將。公元311年(晉懷帝司馬熾永嘉五年)，石勒在苦縣(今河南鹿邑縣)殲滅晉軍主力20萬，西晉政府遭到重創。接著漢國國君劉聰(劉淵之子)命劉曜等攻破西晉首都洛陽，俘虜晉懷帝。劉曜屠殺王公以下萬佘人，西晉政府名存實亡，這就是「永嘉之亂」。又過了五年，公元316年劉曜攻下長安，殺晉愍帝司馬鄴，西晉滅亡。
「永嘉之亂」後，北方地區戰爭更加頻繁。從公元304年到439年的136年間，各個少數民族上層和漢族貴族，先後在北方和巴蜀共建立了16個割據政權，史稱「十六國」。這些進入中原地區建立政權的少數民族是：匈奴、鮮卑、羯族、氐族、羌族等五個民族。此時，北方地區的屠殺、天災、疾疫、饑荒等更加嚴重，黃河流域漢族民眾被迫大量南遷，他們主要流徙到漢水流域、淮水流域及長江以南地區。據統計，從「永嘉之亂」後到南朝劉宋王朝之間，至少有90萬人口遷到南方。
與此同時，十六國的統治者為了保證自己擁有足夠的兵員和勞動力，也紛紛強迫民戶遷移到各自的統轄區內。於是，留在黃河流域的漢族民眾和各少數民族民眾一起，時而從關東(函谷關以東)被遷到關中(函谷關以西)，時而又從關中被遷到關東，每次遷徙動輒幾萬戶，十幾萬戶，甚至幾十萬戶，人口最多時達到數百萬。這個時期的民族大遷徙，無論是在人數上，還是在次數上，都是歷史上所罕見的。
魏晉南北朝時期的民族大遷徙，對於貧苦的民眾來說，當然是十分痛苦的事情，他們所遭受的無窮苦難不是我們這些後來人所能想像的。但是，在各民族共同的苦難中，彼此之間也加深了了解，增強了團結，因而促進了民族融合的發展。從這一點上說，民族大遷徙對整個中國文化的進步與發展是有著莫大的好處的。