下文節選自《數學簡史：確定性的消失》, [遇見] 已獲授權許可, 特此感謝!
天堂受阻：理性的新危機
經歷了幾個世紀在理性迷霧中的摸索，到1900 年，數學家們似乎已經賦予了他們的學科一種理想的結構，也就是歐幾裡得在他的《幾何原本》中所描述的那種。他們最終承認了對無定義概念的需求，一些含混或令人不快的定義被取消了，一些分支也被建立在嚴密公理的基礎上。正確、嚴謹、演繹的證明取代了基於直覺或經驗的結論，甚至邏輯學的原理也被發展用以完善數學家們過去常用的那種不正規的、不清晰的證明方式。就我們所知，到1900 年時，這麼做是可靠的。至此，正如我們已經說過的那樣，數學家們因此倍感欣慰。正當他們額手稱慶之時，新的發展卻攪亂了他們平靜的生活，這甚至超出了19 世紀上半葉時非歐幾何和四元數所造成的影響。正如弗雷格所言：「當大廈即將竣工的時候，地基卻崩潰了。」
希爾伯特曾經呼籲數學界注意一些尚未解決的關係到數學基礎的問題，這其中，建立不同公理系統的相容性問題是最基本的。他也意識到公理化方法使得無定義概念及其有關公理的運用成為必要。憑直覺，這樣的概念及公理有著很特殊的意義。例如，點、線、面這些詞語，都有實在對應物，而歐氏幾何的公理正是表述這些概念間的物理事實的。然而，正像希爾伯特所強調的，純粹的歐氏幾何邏輯並不要求點、線、面被束縛於某種特定的解釋，而且對這樣的公理，應該用儘可能少的假定，而致力於推導出更多的東西。儘管有人試圖把公理公式化，以使他們能斷言哪些東西看起來有實在意義，但在公式化的同時，也存在著危險，即這些公理可能成為不相容的，也就是說會導致矛盾。帕施、皮亞諾和弗雷格已經意識到了這種危險，希爾伯特在1900 年的巴黎數學家大會上也強調了這個問題。
把物理事實抽象公式化時，可能出的毛病用一個粗淺的比喻也許更容易讓人明白。某地發生了一起命案（許多人會同意數學是一種罪過），一個偵探在調查案件時，有一些無定義概念，如罪犯、犯罪時間等。無論得到什麼事實，他都記錄下來，這就是他的公理，然後他對事實進行推理，以期對案子能做出一些判斷。他很可能得出矛盾的推論，因為他所做的一些假設，即便是儘可能基於已發生的事實而且並不存在矛盾，卻仍然可能超出事實或只是接近事實。的確存在罪犯，但推理會得出這樣的結論：罪犯身高1.5 米，同時他又身高1.8 米。
如果不是為了新的發展，那麼各公理系統相容性的證明能否成為關鍵性問題還是值得懷疑。到1900年，數學家們認識到他們不能再依賴於數學的物理真實性來肯定它的相容性。以前，當歐氏幾何被當作物理空間的幾何時，其中定理的連續推導會導致矛盾是不可思議的事情。但是到1900 年，歐氏幾何被看成不過是建立在一組20 條左右的人為公理上的邏輯構造，彼此矛盾的定理的出現是確實可能的。那樣的話，許多以前的工作會變得毫無意義，這是因為，如果兩個彼此矛盾的理論出現的話，每一個都可以用來證明另一個的矛盾之處。因此，推導出來的定理會毫無用處。但希爾伯特通過證明如果算術系統的邏輯構造是相容的，那麼歐氏幾何也是相容的，從而排除了這種可怕的「如果」。也就是說，實數系統必然是相容的，對此幾乎不存在什麼憂慮和危機。
但是，令所有人驚愕不已的是，剛過1900 年，有人就在構成並延伸我們關於數的知識的基礎理論中發現了矛盾。1904 年，傑出的數學家普林斯海姆聲稱，數學所尋找的真實性就是相容性。當希爾伯特在1918年的一篇文章中再次強調這個問題的時候，他已有了比1900 年講話時更充足的理由。
這個發生矛盾，讓人領悟到在舊體系中也存在矛盾的新理論，就是無窮集合論（theory of infinite sets）。分析的嚴密化使人們必須考慮收斂的無窮級數（具有一個有限和）和那些發散級數的區別。在這些級數中，三角函數的無窮級數——以傅立葉命名的傅立葉級數——起了極其重要的作用。而一些在嚴密化過程中產生的問題，在康託爾著手解答時被暴露了出來。這導致他考慮數的集合理論，特別是引入無窮集合，如所有奇數、所有有理數和所有實數的集合等。
當康託爾把無窮集合看成一個可以被人的心智思考的整體時，他就打破了長久以來的定論。從亞里斯多德起，數學家們就能區分實無窮（actual infinity）與潛無窮（potential infinity）。比如說，地球的年齡，如果有人認為它是在某個確定時間創生的，它的年齡就是潛無窮。因為無論什麼時候，它雖然有限，卻在持續增長。所有（正）整數的集合也可以被看成是潛無窮的。因為，即使一個人數到了100萬，他還可以考慮再加1 加2，等等。然而，如果地球在過去是一直存在的話，則任何時刻其年齡都是實無窮的。同樣，所有整數的集合被當作一個整體時是實無窮的。
將無窮集合看成是實無窮還是潛無窮，這個問題由來已久。亞里斯多德在他的《物理學》中得出的結論是：「一個可取的觀點是無限是潛在的……不會是實在的。」他堅持認為數學中不需要後者。希臘人通常認為無窮是不能接受的概念，它是一個不著邊際且不確定的東西。後來，這些討論曾一度使人迷惑不解，因為許多數學家像談論數一樣談論無窮，卻並沒有弄清它的概念或性質。比如，歐拉在他的《代數》（Algebra，1770）中說1/0 是無窮大（而他並沒有定義無窮大，只是用符號表示它），並且說毫無疑問2/0 是1/0 的二倍。在有極限的場合中運用∞符號會產生更多的混亂，當n 趨於∞時，1/n 趨於0。在這裡，符號∞僅意味著n 可以取越來越大的值，並大到一定值（是有限的），以使0 和1/n 的差小於一任意值。這兒並沒有涉及實無窮。
然而，多數數學家——伽利略、萊布尼茨、柯西、高斯和其他一些人——都清楚地知道潛無窮集合和一個實無窮集合的區別，卻拒絕考慮後者。如果他們必須得談及，比如說，所有有理數的集合，他們不會給這個集合賦以一個數。笛卡兒說過：「無窮可以被認知，但不能被理解。」高斯在1831 年寫給舒馬赫1 的信中說：「我反對把無窮作為現實的實體來用，在數學中這是永遠不能允許的，無窮只不過是一種說話方式，我們所說的極限是指，某些比可以隨意地接近它，而其他的則被允許無限地增加。」
因此，當康託爾引入實無窮集合時，他不得不完善他的創造以與過去最偉大的數學家們所持有的概念相抗衡。他論證說，潛無窮實際上依賴於一個邏輯上優先的實無窮。他還證明了無理數，比如2 ，當用小數來表示時，要涉及實無窮集合，因為任何小數只是一個近似值。他意識到自己正在和前輩們徹底決裂。1883年，他說：「我使自己同關於數學中無窮的普遍的觀點和經常得到辯護的關於數的本質的觀點處在了敵對的狀態之中。」
到了1873年，康託爾不僅主張把無窮集合看成一個存在的全體，還開始對它們加以分類。他根據兩個無窮集包含著相同或相異的元素數來決定其區別，他的基本想法是利用一一對應。正如我們認為，五本書和五顆彈子都可以用同樣的數字5 來代替，是因為我們可以把每一本書與每一顆彈子來配對。康託爾也將一一對應運用於無窮集合。現在，可以建立起下面的所有正整數與偶數間的一一對應關係：
1 2 3 4 5 …2 4 6 8 10 …
也就是說，每一個正整數恰好同一個偶數即它的兩倍相對應，且每個偶數恰好同一個正整數即它的一半相對應。康託爾因此得出結論，這兩個集合包含同樣多的元素個數。它是這樣的一個對應，即全體正整數的集合，可以與其自身的一部分一一對應。這個結論對早期的思想家來說很是荒謬，也促使他們抵制有關無窮集合的任何成果。但康託爾並沒有因此而退縮，他預見到無窮集合將遵循新的不適於有限集的法則，就好比四元數所遵循的新規則是實數所不具有的。事實上，他將無窮集合定義為這樣的集合：其與自身的一個真子集（proper subset）可以一一對應的集合。
格奧爾格·費迪南德·路德維希·菲利普·康託爾
其實，康託爾也對自己用一一對應導致的結果驚愕不已。他證明了一條直線上的點和一個平面上的點（甚至是n 維空間）之間存在著一一對應。他在1877 年給戴德金的一封信中寫道：「我看到了它，卻不敢相信它。」然而，他還是相信了，而且在確立無窮集合的相等2 時堅持了他的一一對應原理。
康託爾還定義了無窮集合大小的含義。如果集合A 同集合B 的一部分或子集能建立起一一對應，但集合B 不能同A 或其子集建立起一一對應關係，則集合B 大於集合A。這個定義僅是為了無窮集合才加以強調的，對有限集合則顯而易見。比如說有五顆彈子和七本書，你可以建立起彈子同一部分書的一一對應，但所有的書不能同全體或一部分彈子建立起這種關係。利用他的這種關於集合等或不等的定義，康託爾得出了驚人的結論，即正整數等價於有理數（所有正整數、負整數和分數）集，卻小於實數（有理數和無理數）集。
正如採用數字符號5，7，10 等來標識一個有限集中的元素數時很方便一樣，康託爾也決定採用符號來標識無窮集合中的元素個數。整數集及可以同它建立起一一對應關係的集合含有同樣多的元素數，他用符號 0（阿列夫零）來表示這個基數。全體實數的集被證明大於整數集，他就用了一個新符號c 來表示其基數。
進一步，康託爾能夠證明對於任意一個給定的集合，總存在一個比它更大的集合。例如，由一個給定集合的所有子集組成的集合大於原集合。我們不追究這個定理的證明，但只要設想一個有限集，就能夠看出這個定理是合理的。比如，如果有一個含四個元素的集合，可以構造出四個含有一個元素的不同集合，六個含有兩個元素的不同集合，四個含有三個元素的不同集合和一個含有四個元素的集合。要是再加上空集，我們會發現所有子集的數目正好是2^4，當然它是大於4 的。特別的是，通過考慮整數集的所有可能的子集，康託爾證明了2^(0)=c，這裡c 是實數集的基數。
19 世紀70 年代，在康託爾研究無窮集合時，這個理論曾被當作是無足輕重的，他所證明的關於三角級數的定理也非基本性的。可是到1900 年時，他的集合理論已在其他數學領域中得到了廣泛的應用，而且他和戴德金已經預見到在建立整數（有限和超限的）理論、分析曲線和維數的概念上，集合論都是有用武之地的，甚至可以成為整個數學的基礎。其他一些數學家，如博雷爾和勒貝格在將積分一般化時，也借鑑了康託爾的無窮集合理論。
因此，康託爾本人發現的困難就不是微不足道的事情了。他已指出了存在著越來越大的超限集和與之相應的超限數（transfinite number）。1895 年，康託爾開始研究由所有集合組成的集合，它的基數應該是能存在的最大的數了。然而康託爾已經證明過一已知集合的所有子集構成的集合，其基數大於該已知集合的基數，因此存在著一個比最大的數還要大的超限數。康託爾認定人們同時必須要區分開他所稱為相容集合（consistent sets）和不相容集合的概念，並在1899 年就此寫信給戴德金，意思是不能談論由所有集合組成的集合及其基數。
當羅素第一次看到康託爾關於所有集合的集合的結論時，他不以為然。他在1901 年的一篇隨筆中寫道，「康託爾一定犯了某個微妙的錯誤，我會在將來的某些工作中對其加以闡明。」他還補充說，一定存在著一個最大的超限集合，因為如果什麼都考慮進去了，那麼就沒有什麼可以增加的了。羅素致力於這件事，並給這個當時時髦的問題又加上了他的「悖論」。對此，我們將馬上予以討論。16 年後，當羅素重印他的隨筆《神秘主義與邏輯》（Mysticism and Logic）時，他增加了一條註腳對他的錯誤表示歉意。
除了我們已經談及的超限數——稱之為超限基數，康託爾還引入了超限序數（ordinal number），二者的區別相當微妙。設想一個集合，比如說，由便士組成的集合，其數目通常是最重要的，而怎樣組成則無所謂。但如果按學生們在一次考試中的成績把他們排名，就會有第一、第二、第三等等。比如說有10 個學生，他們的分數就構成了從第一到第十的集合，且這是由有序數組成的集合。儘管一些早期文明能夠區別序數與基數，但他們仍採用同樣的符號來表徵由10 個對象組成的有序集，就像對無序集所做的那樣。這種做法被包括我們自己在內的後續文明所繼承。因此，在10個人中的每一個被確定後，這樣排列下來的人數是10個，因而無論是有序集還是無序集都用10 來表示。然而，對於無限集合而言，有序與無序的區別是十分重要的，因而採用了不同的符號來表示。比如對於有序自然數集1，2，3，…，康託爾用ω 來表示其序數。相應地，有序集1，2，3，…，1，2，3 的序數表示為ω+3。康託爾還引入了超限序數的分層，其可以擴展至ω·ω，ω^n，ω^ω 乃至更高。
在創立了超限序數的理論之後，1895 年康託爾意識到關於這些序數也存在著一個難題。同年他把這個難題告知了希爾伯特。1897 年，布拉利- 福蒂1 首先公開了這一難題。康託爾確信序數的集合可以按某種合適的方式加以排列，正如熟知的實數可以按大小排序一樣。一個關於超限序數的定理是這樣的，由不超過α 的所有序數組成的集合，其序數大於α。如序數集1，2，3…，ω 的序數是ω+1。因此，由所有序數組成的集合有一個比該集合中最大的序數還要大的序數。實際上，布拉利- 福蒂指出，從1加到最大的序數就可以得到一個更大的序數。但這構成了矛盾，因為原集合已包含了所有的序數。布拉利- 福蒂得出結論，序數能採用的排序觀念只可能是偏序的（partial ordering）。
要是僅面對著上述兩個問題，大多數數學家毫無疑問會滿足於住在19 世紀末數學的嚴密性所創造的樂園裡。關於是否存在最大的超限基數或序數的問題，也可以睜一隻眼閉一隻眼。畢竟，沒有最大的整數這一事實並不使人感到不安。
然而，康託爾的無窮集合論激起了許多反對意見。除了我們講過的以外，這個理論在許多數學領域中得以應用，而一些數學家仍拒絕接受實無窮集合及其應用。克羅內克與康託爾素來交惡，稱康託爾為騙子。龐加萊則認為無限集合論是邪氣與病態的墳墓。「下一代人，」他在1908年說「會把集合論當作數學家從中痊癒的疾病。」許多其他的數學家甚至到19 世紀20 年代還試圖避免使用超限數。康託爾為自己的工作辯護，他聲稱自己是一個柏拉圖主義者，相信存在一個獨立於人的客觀世界。人們不得不考慮這些想法並承認它們的真實性。為了對付哲學家們的批判，康託爾援引了神秘主義，甚至是上帝。
幸運的是，康託爾的理論得到了其他一些人的歡迎，羅素稱康託爾是19 世紀最偉大的智士之一。他曾在1910 年說：「解決了先前圍繞著數學中關於無限的難題可能是我們這個時代值得誇耀的最偉大的工作。」希爾伯特斷言：「沒有人能把我們從康託爾為我們創造的樂園中驅逐出去。」他在1926 年評價康託爾的工作時說：「這對我來說是最值得欽佩的數學理智之花，也是在純粹理性範疇中人類活動所取得的最高成就之一。」
關於集合論產生矛盾的原因，豪斯多夫在他的《集合論基礎》（Foundationsof Set Theory，1914）中做了相當巧妙的描述，他這樣勾勒了這門學科的特點：「在這個領域中什麼都不是自明的，真實的陳述常常會引起悖論，而且似乎越有理的東西，往往是錯誤的。」
然而，康託爾的工作使得大多數數學家感到迷惑不解，原因全然不是因為各種大小不同的無窮集合是否可被接受。康託爾在試圖確定所有集合組成的集合的基數和所有序數組成的集合的序數時所發現的矛盾，使數學家們認識到，他們不僅僅是在新的創造中運用了相似的概念，而且在被認為是毫無疑問的經典數學中就加以運用了。他們寧願把這種矛盾叫作悖論，因為悖論是可以被解決的，而數學家們希望確信這些問題可以被解決，現在通常用的術語是二律背反（antinomies）。
讓我們來看一下這些悖論吧！一個非數學的例子是這樣的：「所有的法則皆有例外。」而這個陳述作為一個法則也必有其例外。因此，存在一個沒有例外的法則。這一類陳述是指向自身並否定自身的。
廣為人知的非數學的悖論是「說謊者悖論」，它曾被亞里斯多德和許多後來的邏輯學家討論過。關於這個命題的經典句式是：「這個命題是錯誤的。」我們用S 來表述這個命題，如果S 為真，則上述所說為真，因而S 是錯誤的；若S 為假，則上述所說為假，因而S 又必為真。
這個悖論還有許多變體。一個人可以說：「我在說謊。」這個陳述是真的，還是假的呢？如果他真在說謊，那麼他所說的就是真的；而如果他所說的是真的，則他又在說謊。還有一些變體涉及較為間接的自指。比如，有這樣兩個句子：「後一句話是假的，前一句話是真的。」這就會產生矛盾。因為如果後一句話是真的，那麼「後一句話是假的」就是真的，但如果後一句話是假的，那麼「後一句話是假的」就是假的。
20 世紀一流的邏輯學家哥德爾給出了一個與上述矛盾陳述略有差異的變體：在1934 年5 月4 日，A 給出一個陳述：「A 在1934 年5 月4 日所說的每一句話都是假的。」這個陳述不可能是真的，因為它斷言了自身是假的，但它也不可能是假的，因為如果它是假的，A 就在5 月4 日做了一個真實陳述，而他又只講了這一句話。(未完待續)