《史記》載：「趙獻侯十年，中山武公初立，居顧」，在三家分晉前後幾十年間，韓趙魏三家皆在與中山國頻繁開戰，「趙鞅伐鮮虞」、「荀瑤滅仇國」、「荀瑤伐中山、取窮魚之丘」，這種種系列軍事行動對中山國造成了巨大威脅，尤其是韓趙魏三家政局穩固，成為周天子賜封的正統諸侯國而後，中山國的生存空間更加狹窄。因此中山國武公率領族人離開山區，向東部平原遷徙，本身也是為的躲避三晉之攻伐。
中山國的淵源跟早期的戎狄有關，中山人大多皆為戎狄種源，跟諸侯列國的祖先一樣，都是從西部地區向東遷徙而來。尤其是在鎬京之亂前後，這支族群已經成為地區重要力量。鄭桓公當年在選擇鄭國新都城所在時，曾經有過「是非王之支子母弟甥舅也，則皆蠻、荊、戎、狄之人也。非親則頑，不可入也。其濟、洛、河、潁之間乎」的討論，其中正是有中山人的祖先狄人族群。狄人部族長期生活在晉國的邊境，與晉國的戰爭從始至終就沒有斷過。
當年生活在蠻荒之地，突然來到中原人的土地上，發現這裡的環境更好，狄人便在這裡落地生根，從戎狄時期這支族群就是中原人的噩夢，如狄人滅衛國和刑國，發展到晉國與鮮虞之間的戰爭，這支族群從來沒有經歷過長時間的和平，在血與火的錘鍊中這支族群逐漸成為一支善戰的族群。而至東遷建國，成為中山強國之時，《戰國策》中有「昔者中山之地方五百裡」，中山國夾雜在齊趙之間，儼然已經能夠與中原強國並駕齊驅。這也是中山族群的繁衍和演變。
中山國最出名的就是中山狼，雖說沒有證據證明中山人的圖騰是狼，但是中山人既來自狄人，狄人本身就是逐水草而居的族群，多草原屬性，崇尚野性與殺戮，因此在學習中原禮樂文化的同時也接受了中原人的糟粕，比如中原人的殘酷刑法。在後來樂羊攻打中山國的時候，中山人為報復樂羊，把樂羊的兒子做成了肉湯端給樂羊喝，這種殘忍的做法，如果從中山人的淵源上來分析，也就在情理之中。這樣的族群當然不為中原人所接納，在中山武公的繼任者中山桓公掌握國家大權後，由於桓公年幼，導致國政不穩，內憂外患，魏國藉此時機派遣大軍攻滅中山。
中山國滅而後，中山桓公並沒有死，而是在大臣們的幫助下逃亡到了山野深處，此後二十多年間聚集舊族，在齊國的扶持下攻破靈壽城，即以此城為中山國都城直至國破。有意思的是，在當年樂羊攻破中山而後，魏文侯把魏國太子擊封到了中山故地是為中山君，這位太子擊其實就是後來的魏武侯，魏文侯又「封樂羊於靈壽」，也就是說中山故地的守衛者是魏國最強的太子和深懂中山國情的樂羊，那麼中山桓公居然能夠成功復國，也算是真正的報了仇。