現代數學絕不是某一個民族、地區、歷史時期的產物，而是多民族、地區世世代代的生產實踐中逐漸發展而成的。既有緩慢的量的積累，也有質的突破，表現出漸進性和階段性。從遠古到現在，數學發展大致經歷了四個重要階段。
數學的萌芽時期
在人類原始社會和奴隸社會直至公元前6世紀是數學的萌芽時期，該時期的數學成就主要出現在巴比侖、埃及和中國。
在萌芽期內，由於實際計算的需要，人們逐漸形成了簡單的自然數和分數概念，也都積累了一些計算簡單幾何圖形的面積和體積的幾何知識。由於生產水平很低，商品生產極其有限，人們對數學的要求也不多，所以這個時期的數學知識僅僅限於一些簡單的、與人們切身經驗有直接關係的感性知積，且是零散的而不是系統的，有的公式是近似的，個別的方法還是錯的。
初等數學時期
從公元前6世紀直到17世紀初期，是數學發展的初等數學時期，又被稱為常量數學時期。在初等數學時期內，西方數學中心最先出現在希臘，然後是阿拉伯和印度，最後再轉移到西歐；14世紀以前，中國數學處於領先地位。在數學內容方面，西方在2世紀以前是幾何學優先發展階段，2世紀以後則是代數計算優先發展階段。
古希臘側重於證明，中國更重視計算。在古希臘，由於社會物質財富的積累，使得奴隸主民主派中的出現專門從事腦力勞動的人，這些希臘的學者們從長期積累的數學材料中，發現可以運用基本概念、命題作為邏輯推理前提的邏輯證明等。從此數學知識開始逐漸系統化，產生了以歐幾裡得的《幾何原本》為代表的數學著作。隨著希臘的滅亡，希臘數學逐漸衰落，數學發展的中心逐漸移到阿拉伯。此時，代數開始獨立於幾何，成為數學新的分支，當時的成果包括：一元二次方程的公式解法，以自然數作指數的二項定理；三角學的出現等等。
如果說古希臘時期是科學發展的第一個黃金時期，那麼歐洲的文藝復興則是科學的第二個黃金時期。在繼承古希臘和阿拉伯數學成就的基礎上，歐洲取得更多的重要成就。比如：
代數學開始符號化，出現三次和四次方程的公式解法；「印度一阿拉伯數字」已經定型通用；產生了十進小數和對數；中國數學在獨立地發展。成果主要有：
正負數運算法則多元一次聯立方程組的解法秦九昭等的剩餘定理和高次方程的數值解法賈憲和楊輝等的二項式係數表，李冶和朱世傑的天元術和四元術，朱世傑和沈括等的高階等差級數求和等初等數學時期，除虛數外，初等數學基本上完備。從經驗知識到理論知識，從感性認識到理性認識、從零散知識到系統知識，是初等時期區別於萌芽時期的最主要特徵。初等數學時期的數學幾乎全部被用於現在的中學教學。
初等時期人們的認識水平不高，只能掌握事物間的固定關係，不能從運動、變化和發展中把握事物，所以主要是以常量、有限和不變圖形的研究為主，雖有極限思想及其初步運用。
近代數學時期
從17世紀到19世紀末，是西方資產階級奪取政權、鞏固政權以及資本主義的生產方式取得發展的時期，也是數學突破不斷的近代數學時期，又稱變量數學或高等數學時期。
17世紀的數學有如下幾個特點：
在古希臘，幾何學是數學的全部內容，代數除了以幾何的面貌出現，也往往依賴幾何方法解決和論證。直到17世紀，笛卡爾解析幾何的建立，才出現了代數化的趨勢，幾何問題又常常依賴於代數方法解決和論證。解析幾何的建立，標誌著變量開始進入數學。牛頓和萊布尼茨開啟了微積分的時代，變量觀點和方法得到系統運用。費爾馬、帕斯卡和惠更斯等人的概率論的產生，標誌著數學開始涉獵偶然事件，開始研究非確定性現象。在18世紀，數學家除了繼續夯實微積分的基礎外，還發展出無窮級數、常微分方程、偏微分方程以及變分法等學科，概率論也由起初的組合概率進入分析概率時期。
19世紀是歐洲人才輩出的時代。比如在數學的各個領域中都有建樹的高斯、黎曼；敢於創新，作出重大突破的羅巴切夫斯基、伽羅瓦和康託爾；數學各個分支的傑出代表人物，比如分析學家柯西、幾何學家史特納、代數學家凱雷等。19世紀是歐洲繼古希臘、文藝復興之後，數學發展的第三個黃金時期。19世紀是數學取得一系列重大突破的世紀。
現代數學時期
從19世紀後期，數學開始發展進入「現代數學時期」。在該時期內，科學技術發生了一系列的重大事件。物理學上相對論、量子力學的產生，改變了經典物理學中的物質觀、時空觀和運動觀。另外原子能的利用、電子計算機的發明、空間技術的興起、分子生物學的形成、以及雷射技術等領域的產生和發展，深刻地影響了人類社會的發展。
20世紀以來，數學在原有的基礎上也有了巨大的發展，其速度之快、規模之大、抽象程度之高以及應用的廣泛和深入等方面都遠遠超過了以往任何時期。現代數學也被稱為結構數學或抽象數學，具有如下幾個主要特徵：
純數學更加抽象，分支增多而又互相滲透。現代大學所開設的數學基礎課主要是：以微積分為中心的「高等數學」，以多項式理論和線性代數為基礎的「高等代數」，和以射影幾何為主體的「高等幾何」，被稱之為「三高」。「三高」內容大致形成於20世紀以前。現代大學數學系除「三高」基礎課外，還有「新三高」：泛函分析、抽象代數和拓撲學。「新三高」始於19世紀，20世紀上半葉發展、定型和成熟。在原來抽象概念的基礎上再次抽象出新溉念並加以研究，是抽象之後再抽象的結果。一方面各自研究的領域相互獨立，另一方面又互相滲透。
現代數學以集合論為基礎，以結構為對象。19世紀80年代康託爾集合論的產生標誌著現代數學時期的開啟。在20世紀之初集合論得到很大的發展，其思想方法廣泛應用於現代純數學分支領域，因此，沒有集合論的思想，很難對現代數學有一個全面、深刻的理解。
集合中的元素不同，其「結構」也就不同。法國布爾巴基學派就是用代數結構、序結構和拓撲結構將現代純數學統一起來，把現代數學定義為研究結構的學科，猶如古代數學主要研究常量，近代數學主要研究變量一樣。
重視數學基礎和數學哲學向題的研究。自古以來，哲學家就熱衷於數學基礎和數學哲學向題的研究。由於初期的集合論不完備，所以19世紀末，相繼產生許多悖論，尤其是1902年的「羅素悖論」導致了數學的第三次危機。為解決「數學危機」，出現了推崇不同數學思想和哲學觀點的學派，學派提出了不同的數學觀點和改造數學的方案，並互相爭論，至今尚無統一的定論。
數學公理化是數學家們追求的重要目標之一。數學史上首個成功的理論體系，當屬 歐幾裡得的《幾何原本》，但隨著數學的發展，其公理體系的缺點開始暴露。希爾伯特在總結了前人對《幾何原本》的研究成果，出版了以公理方法建立數學的《幾何基礎》，該書是數學進入現代數學時期的又一個標誌。從此數學公理化蔓延到其他數學領域，例如集合論、抽象代數、拓撲空間以及概率論等都先後公理化。數學家把一個數學分支的公理化，視為為學科成熟、基礎穩固的標準，也作為重要追求目標。這種公理化的思想甚至已經影響到其他的科學領域。
新的數學分支大量的產生，數學應用更加廣泛、深入。除傳統數學的繼續發展外，20世紀新的數學分支如雨後春筍般地興起，例如博奕論、規劃論、排隊論、最優化方法、運籌學等等；同數學關聯的邊緣學科，如控制論、資訊理論、系統論、生物數學等等。
電子計算機的產生與發展改變著數學發展的進程。數學的發展促成了電子計算機的產生，而電子計算機的產生與發展，反過來促進數學發展。隨著計算機的發展，離散數學、近似計算理論需要加強。同時催生了一些邊緣學科，如人工智慧、機器翻譯、機器證明、圖像識別等。計算機把數學家從繁重、機械的計算工作中解放了出來，使數學家能夠集中精力於創造性勞動。