代國滅於前秦時，苻堅刀下留情，沒有殺掉年幼的拓跋圭。淝水之戰後，北方一時大亂，原代國屬地的部落和地方豪酋，也有一些要殺掉拓跋圭而自立。在原代國屬地大部分貴族勢力的支持下，拓跋圭躲過了一次次被殺的陰謀，於公元386年，即前秦滅亡後的第一年，在牛川集結舊部（今內蒙古西拉木倫河），即代王位。隨後他遷都盛樂（今內蒙古和林格爾以北），改國號為「魏」，史稱北魏。當時的北魏經濟以南部農耕區和北部遊牧區並存，因此封建制土地關係和部落舊制兼而有之。
拓跋圭即位時才十五歲，但是他驍勇善戰。面對內部不穩和強敵環伺的局面，拓跋圭先藉助慕容垂後燕國的兵馬，平定了內亂，之後拓跋圭率軍北擊遊牧民族高車和柔然，斬獲甚多。公元391年，拓跋圭南攻佔據河套地區的劉衛辰部，大勝，誅劉衛辰宗族五千餘人。河套地區各部皆降。北魏國力初盛。
由於拓跋圭不願被慕容垂所控制，兩國關係逐漸疏離，以致敵對。
割據今山西中南部及河南西北部的西燕，其皇室與慕容垂同為鮮卑宗室。因正統之爭，公元394年，慕容垂伐西燕。西燕向北魏求援。從國家利益出發，拓跋圭果斷派出援軍。但是慕容垂速勝西燕，滅其國。於是後燕與北魏為敵。
公元395年五月，後燕太子慕容寶率軍八萬伐魏。拓跋圭避免與其正面交鋒，誘敵深入於黃河以北五原地區，屯魏軍於河南。同時，拓跋圭截斷燕軍與後方的聯繫，向燕軍釋放慕容垂已病死的消息。慕容寶無心戀戰，於當年十月回師。十一月初，黃河結冰，拓跋圭急率兩萬精騎日夜追趕燕軍，尋機殲敵。燕軍卻因魏軍的避戰放鬆了警惕，殿後的三萬燕軍還邊行軍邊打獵。當六日後北魏騎兵追上他們時，其正駐紮於山河相夾的參合陂以東。拓跋圭率軍登山後，向山下燕軍發動衝擊。燕軍驚潰，被斬殺、或因人馬踐踏而死、或在河中溺死者近半數。慕容寶帶數千士兵逃走，四萬餘燕軍投降，後被坑殺。後燕對北魏的軍事優勢不復存在。
公元396年三月，七十歲高齡的慕容垂被迫親徵北魏以復仇。駐守在平城（今山西大同）的北魏守將拓跋虔，悍勇異常，為其國人所倚重。而他面對慕容垂來伐，卻恃勇輕敵，最終城破戰死。北魏上下震動，諸部人心思變，拓跋圭不知所措。很快，局勢竟戲劇性地發生了逆轉。慕容垂率軍進至參合陂，在坑殺燕軍之地，遍布的燕軍骨骸令全軍慟哭，慕容垂亦吐血病倒。後燕伐魏宣告終結。四月，慕容垂死於回軍路上。
如同勁弩，洞穿再多的敵人，也有滑落在地的時候。這位一生未逢敵手的傑出統帥，在重建燕國，並將版圖擴大到與前燕相當之後，終於走完了自己傳奇的一生。
拓跋圭沒有遲疑。當年八月，他集結起四十萬步騎，大舉伐燕。九月，即盡取後燕并州土地。十月進入河北燕地，諸郡望風而降。後燕宗室困守中山、鄴城等處。他們頑強抗擊到公元398年時，已無以為繼，先後棄城出逃。北魏將河北土地收入囊中。後燕被分割為遼西的北燕和今山東中東部的南燕，苟延殘喘。當年，拓跋圭遷都於平城，農曆年末，即皇帝位。
在北魏崛起時，姚萇建立的後秦也開始進入鼎盛期。公元394年，後秦太子姚興繼位後，攻佔東晉洛陽，滅亡後涼，西涼和西秦也向後秦納貢稱藩。公元402年五月，後秦主動進攻北魏，雙方皇帝均率部親徵，在今山西的西南部發生大戰。至十月，數量和戰力更勝一籌的北魏獲勝，重創後秦，斬俘其四萬餘人，後秦退守今山西西南角的蒲阪。
拓跋圭死後，其子拓跋嗣即位。他勤政愛民，勵精圖治。在北擊柔然獲勝後，拓跋嗣令在陰山以北至今河北赤城的一千餘公裡邊境上，修建長城，在長城以北設立軍鎮。公元422年十月至次年四月，拓跋嗣趁劉宋皇帝劉裕新亡，出擊黃河以南，速佔青兗二州，又陷虎牢關。東晉末年以來，滅亡南燕的成果盡失，北魏虎踞中原。
拓跋燾自幼英勇善戰，十二歲就帶兵至河套，迫退柔然。公元423年，十五歲的拓跋燾登基時，北魏國力漸盛。他首先把矛頭指向了胡夏政權。胡夏國號大夏，是劉衛辰宗族被拓跋圭誅滅後，倖存的劉衛辰三子劉勃勃所建。劉勃勃起初得到後秦國主姚興的器重，以朔方雜胡十萬交其統馭。羽翼漸豐後，劉勃勃自改姓為「赫連」，獨立建國。後秦被劉宋滅亡後，劉裕並未能鞏固後秦土地。劉裕引軍東返建康，赫連勃勃即南下攻取關中各地。胡夏軍隊狼性十足，其國君殘暴失政。公元425年，拓跋燾先以輕騎佯攻胡夏國都統萬城（今陝西靖邊北），誘胡夏軍出戰。胡夏軍出城追擊時，北魏軍四面夾擊，俘剛繼位一年的赫連勃勃之子赫連昌，進佔統萬城。公元430年，拓跋燾南取關中各地，胡夏名存實亡。
公元432年，北魏攻打遼西的北燕。時慕容氏已喪失了北燕國君之位，漢族將領馮跋、馮弘先後取而代之。公元433年，北魏滅後仇池國。公元436年，滅北燕。公元439年，北魏兵不血刃迫降北涼，打通了西域，統一了北方。公元448年，鄯善國降於北魏軍，西域東部歸入北魏版圖。
拓跋燾曾十三次北擊柔然，拓地千餘裡，柔然衰落。
公元430年和450年，拓跋燾兩次率軍擊退劉宋政權的北伐，第二次還飲馬長江。因無戰船和士兵染病，被迫回師。北魏和劉宋的戰爭，使中原和江淮地區人民飽受摧殘，經濟遭受極大打擊。戰後，劉宋政權徹底喪失了統一北方的可能；而北魏在據有中原和淮北大部的同時，也軍力大虧。
鮮卑拓跋部興起於北方邊地（今內蒙古中部），初事遊牧，與前秦氐族農耕文明不同。在從代國到北魏一步步發展壯大的過程中，其前期統治者雖然也重用漢儒和重視漢學，但是在政治制度上胡制仍然十分明顯。胡漢分治（制）呈現出另一些特點。中國北方的人民，在經歷了前秦時期「漢制」的沐浴後，又一次經受了胡漢分治（制）的洗禮。
北魏建國後，仿效漢族政權建立中央集權的統治機構。在中央設臺省機構，建立包括丞相、尚書、中書、門下等的官僚體系。在地方上，為了弱化部落勢力和推進封建化的需要，北魏實行了「離散諸部」的舉措。「太祖（拓跋圭）散諸部落，始同為編民。」在此基礎上，又建立了相似於漢制的州、郡、縣三級政府。州的長官為刺史，郡為太守，縣為令長。與漢制不同的是，刺史、太守和令長均為三人同時擔任，相互牽制。「（拓跋圭）制諸州置三刺史，刺史用品第六者，宗室一人，異姓二人，比古之上中下三大夫也。郡置三太守，用七品者。縣置三令長，八品者。」
在中央與地方之間，北魏實行獨特的八部大人制。在其建國前，就有南、北二部大人制，建國後，「置八部大夫、散騎常侍、待詔等官。其八部大夫於皇城四方四維面置一人，以擬八座，謂之八國。常侍、待詔侍直左右，出入王命。」後八部大夫改稱「八部大人」，「下置三屬官，總理萬機，故世號八公雲。」以後又改為「六部大人」。其最終目的，是強化鮮卑貴族在政權中的地位，鞏固其多民族國家的統治。
面對北方眾多的漢族豪強在其塢堡勢力範圍內，蔭庇大量農戶的局面，為了不引發社會更大的動蕩，北魏前期承認了這些漢族豪強的「宗主督護」權。由此，出現了大量的隱戶，對國家的賦稅徵收和長遠經濟發展產生不利的影響。
從北魏對外徵戰的情況來看，軍隊牢牢掌握在鮮卑人手裡。但在謀臣和文官的使用上，則以漢人為主。其中崔浩博聞強識，才智過人，堪稱軍政奇才。他先後事拓跋圭、拓跋嗣和拓跋燾三代君主，尤其在拓跋燾時期，他以獨到而精湛的分析，保證了北魏統一北方的多次戰爭的勝利。崔浩後來位高權重，居功自傲，引發高官顯貴們的參劾，被拓跋燾夷滅九族。與崔浩有姻親的範陽盧氏、河東柳氏和太原郭氏也被連坐滅族。燕、趙故地的漢族世家大受打擊。但是，漢族官員在北魏政權受重視的狀況並沒有改變。
在爵位制度上，北魏實行王、公、侯、子四等爵位制。又設散官，分五等，為五品以下至九品。文、武官員也分五等，同樣是五品至九品。「若百官有闕者，則於中擢以補之。」
在官員選拔上，北魏沿襲九品中正制的選薦方法。「以八國（部）姓族雜分，故國立大師、小師。令辨其宗黨，品舉人才。自八國以外，郡各自立師，職分如八國，比今之中正也。宗室立宗師，亦如州郡八國之儀。」
在經濟發展方面，拓跋圭「徙山東六州民吏及徒何、高麗雜夷三十六署、百工技巧十萬餘口，以充京師。…詔給內徙新民耕牛，計口受用。」拓跋燾時期採納漢臣高允的建議，「廣田積穀」，下令「悉除田禁，以賦百姓」。後又推行有牛和無牛民戶換工種田的方法，使「墾田大為增闢」。拓跋燾還罷眾多雜營戶以屬郡縣，以增加稅戶，並屢次詔令「宜寬租賦，與民休息」。在畜牧業方面，拓跋燾「徙柔然、高車降附之民於漠南，…使其耕牧而收其貢賦。…自是魏之民間，馬牛羊其氈皮為之價賤。」滅胡夏後，北魏以河西走廊為主要畜牧地，於是「畜產滋息，馬至二百餘萬匹，駝將半之，牛羊則無數。」
在教育方面，北魏如其他少數民族政權一樣，設學校，以儒學為經典。「（拓跋圭）初令《五經》群書各置博士，增國子太學生員三千人。」「（拓跋嗣）禮愛儒生，好覽史傳。以劉向所撰《新序》、《說苑》於經典正義多有所闕，乃撰《新集》三十篇，採諸經史，該洽古義，兼資文武焉。」
北魏還仿漢制建立禮樂制度。
拓跋燾「性情儉率素，服御飲膳，取給而已，不好珍麗，食不二味，所幸昭儀、貴人，衣不兼彩。」「賞賜，皆是死事勳績之家，親戚愛龐未曾橫有所及。」他還反對更竣京城、修飾宮殿，對貪官汙吏進行嚴懲。
作為遊牧民族出身的少數民族天子，在當時的社會背景下，能做到這些已經難能可貴了。這也是北魏得以統一北方並保持政權穩定的資本。
隨著統治地域的擴大，北魏統治階級內部，「官吏私掠」、「宗主督護」等特權現象的存在，對國家的權威性和長遠發展形成了挑戰；大量無地農民和貧困佃戶的存在，使階級矛盾十分突出；胡漢之間存在的深層次差異以及由此引發的民族矛盾，也已經無法迴避。正確認識分析這些社會矛盾，並妥善地加以解決，成為考驗北魏統治者的重大課題。