北方方言和南方方言的源頭
漢語的北方方言是古代生活在中原地區的漢族所用語言經過長期發展，並受周圍少數民族語言影響的直接結果。而分布在中國南方的其他漢語方言則發端於歷史上黃河中下遊地區人民的幾次南下移民活動。
中國歷史上的移民，上溯先秦，下及近世，代代不絕。人口遷移的方式大概有兩類，一是人民自動的流徙，一是政府有計劃的移民。前者多因為戰亂、災荒、饑饉或人口膨脹所引起，後者則是為了某種政治、軍事或經濟上的目的。
縱觀中國歷史上的移民活動，遷徙的大方向主要是由北向南，其次是由東到西，反向而行的例子比較少見，這一重要特點產生了漢語南方各方言的最初源頭，並形成了今天漢語方言地理的格局。
吳方言的源頭最為久遠。據《史記》記載，三千年前的先周時代，有一支移民在經過一場政治變動後，從陝西渭水流域遷到江南太湖流域。他們建立了吳國，其語言可能成為後來吳方言的最早淵源。
比吳方言稍晚的是湘方言。湘方言來源於今天已不存在的古楚語。在商朝末年的中原動亂中，楚人南遷至江漢流域，因此楚語被帶到了湖北地區。戰國時期，楚國南進佔有湘資流域，於是古楚語又擴散到湖南。
秦統一六國後，向南越過五嶺佔有了兩廣地區。嶺南原是百越民族的居住地，秦始皇為防止他們的反抗，派遣五十萬軍隊駐紮於此。這些士卒所用的語言，成為今日粵方言的先聲。
福建本是閩越族的家園，西漢時這裡僅設一個縣。東漢末年，軍閥混戰，大量北來移民從陸路和海路進入福建，八十年中，福建西北山地和東部沿海接連出現十三個新縣，原始閩方言應該就萌發於這一時期。
贛方言和客家方言出現最晚。江西地區古稱吳頭楚尾，應當是古吳語和楚語的交匯處，因此漢代以前並沒有原始的贛語。在西晉永嘉年間（307-312年）以後發生的漢族人民大南徙的浪潮中，有部分北來的移民到達江西北部，他們帶來的語言可以看成是贛方言和客家方言的前身。
漢語南方各方言就是在上述淵源的基礎上，經過千百年來多次移民活動所帶來的新方言不斷衝擊，發生取代、交融、滲透、混合而向前發展演化的結果。
南下大移民與方言的南進
晉代以前，淮水秦嶺一線或許可以看成是南北方言的大致分界線，西晉以後發生的三次南下大移民才使北方方言大規模越過此線進入南方，從而逐漸改變了南方方言的地理布局。漢語方言的基本格局，正是歷史上漢人三次大南遷和一些中小規模的移民活動所造成的。
第一次漢人移民大浪潮發生在西晉永嘉以後至南朝宋泰始年間（307 - 466年）。西晉末年的八王之亂導致了邊疆少數民族的入侵，因此而迫使大量中原漢人向南流徙，在永嘉元年至泰始二年的一百五十年間，南遷的流民達九十萬人之多。這個數目約佔西晉北方人口的八分之一，又佔到南朝宋人口的六分之一，換句話說，北方每八人就有一人南遷，而南方人口中每六人就有一人是北方僑民。
南遷的東晉以建康（今南京）為首都，這裡雲集了大量北方的衣冠士族，他們地位高貴，因此南方的士族紛紛改變自己的方言，來仿效他們的北方口音。當時有個名叫顧長康的南方士族堅持不學北方話，還遭到旁人追問：「你為什麼不說洛陽話？」
在南京以東的鎮江一帶，北方僑民竟佔到江蘇全省僑民的十分之九，甚至比當地土著居民還多。由於遷徙時間集中，僑寓地區集中，而且僑民的居住方式往往是聚族而居，在這種情況下，僑民所帶來的北方語言必然要對土著語言發生深刻影響。在江淮之間，當時的北方方言已經取得優勢，而在湖北地區，北方方言必然也對楚語發生衝擊，產生了西南官話的最初端倪。
第二次移民大潮的導火索是發生在唐朝天寶十四年（755 年）的安史之亂。歷時八年的戰禍遍及黃河中下遊地區，再度引起中原地區的人民向南流徙。安史之亂引起的移民不僅規模大，而且這次移民走得比上次要遠，已經到達洞庭湖、鄱陽湖以南，其前鋒甚至到達嶺南和福建。因此，北方方言再次對南方方言發生衝擊，而且對南方方言地理格局的形成起了關鍵性作用。
在湖北，北方方言加速了對湖北方言的同化，奠定了這一地區西南官話的基礎。在長沙衡陽一帶，湘方言受到北方方言侵蝕，消弱了固有的特徵。同時，粵方言也受到了移民方言一定程度的影響。
在江西北、中部，北部移民帶來的語言形成了今日贛語的主要基礎，並為日後客家話的形成準備了條件。進入江西的移民語言像楔子一樣，把吳語區和湘語區永遠分隔開來，並且把閩語限制在福建地區。今天南方方言地理的雛形正是在中唐以後出現的。
安史之亂後，唐朝出現了藩鎮割據的局面。這些藩鎮名義歸屬中央，實際上是獨立的小王國。唐朝滅亡後，中原相繼出現了五個朝代，稱為「五代」，地方上還出現了十幾個割據政權，統稱「十國」。在這前後二百年裡，各地人民長期生活在各自為政的分裂局面中，強化了方言地理的格局。吳越、吳（南唐）、楚、閩、南漢等割據政權對促進吳、贛、湘、閩、粵方言區的形成產生了不小的作用。
第三次大南遷發生在北宋靖康之難到忽必烈入主中原之間，大約歷時一百五十年左右。其中兩宋之際（1126-1142 年）的移民原因及南下路線都和第一、二次大移民相似，今江蘇南部和浙江地區接受了最大量的移民，而移民對南方的深入又更進一步，福建、廣東、廣西都有移民的足跡。由於除江浙一帶外，移民分布較均衡，所以北方方言對南方方言的影響不如前兩次移民大。
北宋滅亡後，從舊都汴京（今開封）南來的大批文官武將、僧尼商賈雲集南宋都城臨安（今杭州），他們帶來了屬於中原方言的開封話，與杭州的吳語長期對立並存。到了明朝的時候，杭州人郎瑛還很以杭州人「語音好於他處」而自豪，他解釋說這是因為杭州話與開封話很類似的緣故。直到今天，杭州市區的方言依然帶有明顯的北方味，而一出杭州，便全是純粹吳語的天下了。
在這次南遷中，江淮地區是北來移民的中繼站，湖南常德再次接受北方方言的影響，南京，尤其是鎮江，相對集中了數量較大的移民，這些地區此時應已成為北方方言的次方言區。
客家方言也在這一時期逐漸形成。由於金人和蒙古人的南侵，中唐以後遷到江南的大批移民後裔及唐末遷到閩西、贛南的人民再次遷移到閩、粵、贛交界區，這一帶地理環境的閉塞，使移民方言終於與北方方言完全隔開，形成了獨特的客家方言，而且使廣東梅州一帶成為客家方言的核心地區。
其他移民與方言的擴散
從五代開始，直到明清之際，由江西向湖南移民的過程持續了七八百年之久。移民原因是自發的經濟要求。江西贛江中下遊地區由於中唐以後接受了大量移民，開發程度比湖南高，到唐末五代在河谷地帶已經人多地少，於是逐步向西鄰的湖南地區轉移，以解決生計問題。移民的結果是湘東地區的百姓幾乎均是江西籍，受其影響，湘語也發生了質的變化，帶上了贛語特徵。
福建向廣東的移民大致也從五代開始。福建山多田少，人口飽和的現象更加突出。於是福建移民進入廣東東南沿海並逐漸向西擴散，他們大多「泛海而至」，把閩南方言散布在廣東東、西兩端的沿海地帶，並在珠江三角洲留下了一些閩方言島。
方言島
在語言學上所說的「方言島」通常就是指「歷史上操相同或相近方言的一部分人遷入操另一種方言的人的地盤，他們所帶來的方言在本地方言的包圍下，猶如大海上的島嶼」。以「杭州方言島」為例，杭州屬南方吳方言區，可由於歷史上南宋小朝廷的建立，大量的北方官話進入，在語言上便明顯不同於周邊地區。如人稱代詞「你、我、他」，「你們、我們、他們」與北方方言相似，異於吳語地區上海的「儂、吾、伊」和「拿、阿拉、伊拉」；又如詞綴「兒」音的廣泛運用，只是發音更生硬、著重些。
現存的漢語方言島大都是在明、清兩代形成的。承德也是一個典型的方言島，它距離北京近二百公裡，但居民操純北京話，就是由於康熙時興建避暑山莊和外八廟，大批供奉、保衛人員移住該地，定居下來，以致壓倒原來居民所操方言，使之同化於北京話，形成一方言島孤島。
四川人口在歷史上經過幾起幾落的大變化，今天的四川人大部分是清代以後移民的子孫，少部分是元末明初移民的後裔，元代以前的土著更是鳳毛麟角。元末明初，大量湖北人移民四川。明末清初，四川經受了二三十年大規模軍事行動的破壞，元氣大傷，人口大減，於是清朝積極從湖廣地區（湖北、湖南）向四川移民，有「湖廣填四川」之說。因此，今天的四川方言實際上是兩湖地區的西南官話向西遷移的結果。而元、明、清三代的軍屯和移民將雲貴地區也納入了西南官話的體系。
清代有很重要的兩次移民，一次是清康熙朝以後由大陸向臺灣的移民，另一次則是清朝後期以至現代由關內向東北的遷徙。
康熙二十二年（1683 年），臺灣入清朝版圖，此後海禁遂開，閩南沿海的福佬人和粵東山地的客家人開始向臺灣移民，兩者的比例在日本佔領初期是四比一，這就是今天台灣方言以閩南方言為主、並雜以客家方言的原因。
東北地區是清朝的「龍興之地」，康熙以後闢為禁區，嚴禁移民出關。沙俄侵略黑龍江地區的事實刺激清朝採用移民實邊的政策，東北於是逐漸開放。從20 世紀初年開始，大批漢人移民東北，其中河北和山東人佔絕大多數。河北北部鄰近遼西，所以遼西是河北人向東北腹地移民的大本營。而闖關東的山東人渡海登陸後大多先到了遼東半島和遼河一帶。所以今天的遼東方言與隔海相望的膠東方言相似，遼西方言的一些特點與河北北部相同。
還有兩次移民活動使漢語方言地理更加複雜。第一次是後期客家人的多方向分散移民活動。明末清初以後，在閩、粵、贛交界山地長期生息的客家人由於人口膨脹產生的壓力不得不向外遷徙，他們或向東渡海到達臺灣，或向西遷移，一路到達湘贛交界諸縣，遠者更到達四川，又一路到廣東西南沿海，遠者進入廣西，因此在這些地區造成了許多客家方言島和方言小區。
第二次則是從東、南兩個方向進入陝西漢中盆地的移民活動。漢中盆地本是人口稀少的地區，乾隆以後，移民蜂擁而至，百年之間人口增加了二十來倍。移民原籍以四川、湖北二省為主，因此這裡的語言自然與川、楚通行的西南官話相近。
行政區劃與方言地理
如果說移民的作用是動態的，那麼行政區劃對方言地理的作用可以說是靜態的。長期穩定的行政區劃，必然使同一區劃中的語言、風俗等文化因素趨向一體化。
廣西北部的全州、資源、灌陽、興安四個縣市的地域在歷史上長期屬於以長沙為中心的行政區劃裡，直至明代以後才歸屬廣西省，所以至今通行湘方言。而湖南的沅、醴流域在長達一千多年的時間裡都歸屬於以湖北地區為主體的政區中，所以與湖北同屬官話區，而與湖南湘資流域的湘方言屬於不同體系。吳方言區大致可以分為太湖片、台州片、溫州片、婺州片、麗衢片，這五片的範圍除個別地點外，竟和歷史上的二級政區相吻合。
在唐、宋的州和明、清的府這樣的管轄地域適中的二級政區內，方言的趨同性是非常明的。而州（府）之間則因為自然地理、交通等因素，方言存在一定程度的差異性。尤其是山區，州與州之間往往以分水嶺為界，無疑因交通的不便而增加語言的差異。
在一個行政區域之中，權威方言還會隨著行政中心的變易而發生轉移。行政區劃的中心一般都是該政區的政治、經濟、文化中心，是當地最大的城市。這個城市還是時尚的中心，在物質文化和精神文化方面都起到引導潮流的作用。因此，一般人的語言心理都是向這個中心靠攏。行政中心所用的方言就成為這個政區的權威方言，一旦行政中心或中心城市變換了，權威方言也就隨之改變了。
上海地區的權威方言可謂是三易其主。上海地區初為華亭縣，屬松江府管轄。在明代，當地最為人看重的是嘉興話，因為松江府是元代初年從嘉興府分離出來的。到了清代，嘉興話的地位讓位給蘇州話，因為此時松江府脫離嘉興已長達四百年之久，而且松江府與蘇州府同處一省之中，與嘉興府則分屬兩省，再加上蘇州比嘉興在政治、經濟上地位更高。近代上海開埠以來，逐漸發展為亞洲屈指可數的國際化大都市之一，現今上海話的權威地位，是到民國之後才逐步確立起來的。
通過上面的分析我們可以知道，方言是語言逐漸分化的結果。語言分化是從移民開始的，又與行政地理、交通地理、自然地理等因素有關。移民活動是形成方言地理格局的基本因素，而歷史行政區劃則是方言分區劃片的合理基礎。