Nature撰文表明哥德爾不完備性定理也適用於機器學習領域

2021-01-08 數學經緯

二十世紀,數學邏輯的發現徹底改變了我們對數學基礎的理解。1931年,邏輯學家哥德爾( Kurt Gdel)證明,在可比擬算術的公理系統中,一些陳述是不可證偽的。這就是著名的哥德爾不完備性定理。

哥德爾與不完備性dingl

隨後的幾十年中,連續統假說——即不存在大於整數而小於實數的集合——被證實在標準公理體系中是不完備的,它既不能被證明,也不能被證偽。

連續統

機器學習領域,似乎遠離數理邏輯,但最近本-大衛(Ben-David)等人發現了一個機器學習中的問題,它與連續統假說等價,表明機器學習中也存在不可證偽的算法。

Natureyilan

對機器學習的暢想,源自這樣的事實:2001年,Viola和Jones在AdaBoost算法的基礎上,使用Haar-like小波特徵和積分圖方法進行人臉檢測,發現在經過照片樣本訓練之後,機器系統可以實時地檢測人的面孔。這可以說是機器學習史上的裡程碑。

機器學習

本-大衛等人描述一個估計最大值(EMX)問題:在事先不知道哪些訪客會訪問該網站的情況下,投放以網站最頻繁的訪客為目標的廣告。作者將EMX正規化為一個關於學習者從給定的函數族中尋找特定函數的問題,該函數族對目標分布的期望值儘可能大。EMX模型實際上與PAC模型(Probably Approximately Correct))非常相似,但稍微不同的學習標準將它與連續統假設聯繫在一起。

學習算法

作者證明機器學習和數據壓縮之間有一個漂亮的關聯:如果由某個函數族標記的樣本總是能被壓縮,那麼這個函數族在某種意義上必須是低複雜度的,因此是可學習的。單調壓縮是壓縮的一種變體,它適用於描述EMX中特定函數族的可學習性。對於0到1之間的實數構成的集合,其有限子集具有單調壓縮格式,因此在EMX中是可學習的,但前提是若且唯若連續統假設是正確的,而眾所周知,這是一個不可證明的命題。

橫看成嶺側成峰

EMX是機器學習中的一個新模型,我們還不知道它在開發真實世界算法中的作用。因此,這些結果可能沒有實際意義。機器學習作為一門數學學科已經成熟,也許這樣的結果會給機器學習領域帶來新的機遇。

相關焦點

  • 哥德爾不完備定理與人工智慧
    今天,天縱檢測(SKYLABS)為您介紹哥德爾和他的不完備定理。哥德爾是奧地利裔美國著名數學家,不完備性定理是他在1931年提出來的。這一理論使數學基礎研究發生了劃時代的變化,更是現代邏輯史上很重要的一座裡程碑。該定理與塔爾斯基的形式語言的真理論,圖靈機和判定問題,被讚譽為現代邏輯科學在哲學方面的三大成果。
  • 人類認知的大限,哥德爾不完備性定律,令科學家絕望!
    閔可夫斯基有一次在給學生上課的時候,對學生說:地圖4色定理之所以沒被證明,就是因為那些試圖證明的人都是三流的數學家。現在我給你們演示一下,要在這堂課結束之前把它證明。結果可想而知!1938年,哥德爾證明了:連續統假設與zfc公理具有相容性!亦即,zfc公理體系下,無法證明連續統假設不成立。1963年另外一位科學家又證明了,連續統假設與zfc公理相互獨立。哥德爾生於1906年,逝於1978年!是上個世紀最偉大的數學家和哲學家之一!
  • 《西方的人權與狗權》去哥德爾不完備性定理找答案!
    16 09-2020星期三 【編者注】「當一個中國人乖乖地接受了這種人權指責,他會得到一個獎賞——你比其他中國人像個人,這與西方人對你說『你比其它狗更像狗』是同樣意思」把狗也分出個三六九等——必是卑劣的民族,天石說…… 哥德爾不完備性定理
  • 哥德爾不完備定理
    這八十多年年來,常在不同的領域內,發現到這個定理的影響,而這個定理在不同領域中的應用,甚至引起了相當的爭議。哈佛大學於1952年授與哥德爾榮譽科學博士學位,稱他為「本世紀最重要數學真理的發現者」, 這裡所指的數學真理即為「不完備定理」。
  • 霍金為什麼說哥德爾定理是物理學的終結?
    霍金在去世之前做過一次演講,題為「哥德爾與物理學的終結」。他在演講中說道,「這和哥德爾不完備性定理非常相似……根據實證論科學哲學,一個物理理論乃是一個數學模型。因此如果有數學命題不能證明的話,那就有物理問題不能預測。……現在我很高興我們尋求知識的努力永遠都不會達到終點,我們始終都有獲得新發現的挑戰。」
  • 關於宇宙的10件奇異之事 偉大的哥德爾不完備定理!(10)_遊俠網 Ali...
    1.哥德爾不完備定理(Gödel’s incompleteness theorems)庫爾特·哥德爾(Kurt Gödel)於1913年證明了這組定理,它指出,除了最簡單的定理之外,任何一組給出的邏輯定理都不可避免地會涉及到自我引證(self-referential),即稍稍複雜點的定理都會包含有既不能被證明也不能被否定的不確定命題。這就意味著數學上不存在這樣一個能夠證明或否定所有命題的統一體系。
  • 5分鐘看懂「哥德爾不完備定理」,原來這個定理如此有趣
    相信不少朋友聽過一個定理叫「哥德爾不完備定理」,但是稍微查查這個定理相關資料發現講解得非常抽取,有沒有簡單易懂的講述方式呢,當然有,本人就是來給大家用通俗易懂的語言講解各種深奧理論而寫作的
  • 終極算法無法超越哥德爾不完全性定理
    終極算法無法超越哥德爾不完全性定理 2018年02月27日 08:19 來源:中國社會科學網-中國社會科學報 作者:陳曉華 譚浩 字號 內容摘要:終極算法無法超越哥德爾不完全性定理?
  • 《不完備性》的不完備
    《不完備性——哥德爾的證明和悖論》,(美)麗貝卡·戈德斯坦著,唐璐譯, 湖南科學技術出版社2008年4月出版,定價:22.00元 □姜萌這就是麗貝卡·戈德斯坦所著的哥德爾傳記:《不完備性——哥德爾的證明和悖論》。 儘管無趣,但是如果想了解邏輯學,總還是避不開哥德爾。就像提到愛因斯坦避不開相對論一樣,哥德爾得以被稱作「自亞里斯多德以來最偉大的邏輯學家」,是因為其顛覆性的不完備性定理。
  • 逃離上帝之路:從羅素悖論、哥德爾不完備性到測不準原理
    如果他不給自己刮臉,他就屬於「不給自己刮臉的人」,他就要給自己刮臉,而如果他給自己刮臉呢?他又屬於「給自己刮臉的人」,他就不該給自己刮臉。【4】哥德爾不完備性定理羅素在經過對悖論的研究後發現,這些悖論的產生是語言的自我封閉性造成的,也就是在自我指涉或自我相關中落入了一個「惡性循環」的怪圈。
  • 思維與機器:哥德爾不完全性定理的哲學推論,人腦無限超越機器
    這個問題的實質是,每一個定理要麼催生了一個新的分支,要麼徹底改變了現代數學邏輯。證明理論、模型理論、遞歸理論、集合理論、直覺邏輯——所有這些都被哥德爾的工作轉化了,或者在某些情況下,從哥德爾的著作中得到了它們的起源(Goldstein, 2005)。
  • 思維與機器:哥德爾不完全性定理的哲學推論,人腦無限超越機器
    但在哥德爾的輝煌成就中,有一個格外突出——哥德爾不完全性定理。一個人不需要成為一個實踐數學家來掌握不完全性定理的基本思想和信息。也許這就是為什麼這個結果在流行的科學辯論中獲得了如此多的勇氣的原因。但這種巧妙的簡潔只是1931年的作品與這位奧地利知識巨人的其他傑出作品區別開來的眾多方面之一。在我看來,當我們第一次遇到不完全性定理時,它不僅僅是許多數學結果中的一個。
  • 基於人的認知原理來理解哥德爾不完備定理
    哥德爾不完備定理指的是:「任何無矛盾的公理體系,只要包含初等算術的陳述,則必定存在一個不可判定命題,用這組公理不能判定其真假。」不完備定理意味著,「無矛盾性」和「完備性」不能夠同時滿足,這種性質與測不準原理有相似之處。
  • 機器學習中的忒修斯之船:那些「愚弄」專家的著名悖論
    事實上,悖論充斥了數學和統計學領域。為了使用幾個著名的例子,傳奇數學家和哲學家羅素提出了一個悖論,突出了集合論中一些最強大想法的矛盾,該理論由有史以來最偉大的數學家之一格奧爾格·康託爾提出。本質上,羅素悖論質疑的是「所有不包含自己的列表的列表」。這個悖論是在自然集合論中產生的,因為它考慮到了所有不屬於自己集合的集合。
  • 89年前,哥德爾提出的不完全性定理,至今數學界還沒完全理解
    美籍奧地利數學家、邏輯學家庫爾特·哥德爾(KurtGdel,1906年4月28日—1978年1月14日)是二十世紀最偉大的邏輯學家之一,其最傑出的貢獻是哥德爾不完全性定理。但是,哥德爾25歲時發表的令人震驚的不完全性定理粉碎了這一夢想。他證明了任何可以作為數學基礎的公理都不可避免地是不完整的。關於這些數字,總會有真實的事實不能被那些公理證明。他還表明,沒有任何一套公理能夠證明其自身的一致性。他的不完全性定理意味著,不可能對所有事物都進行數學理論,對可證明的和真實的事物也無法統一。
  • 霍金:哥德爾和物理學的終結
    沒有理論能預測未來 儘管量子理論以及涉及電磁力的麥克斯韋方程的確適用於絕大部分領域,但還有兩個重要的領域在其適用範圍之外,一個是核力,一個是引力。核力決定了太陽發光、元素的形成,而引力導致了恆星和行星乃至宇宙本身的形成。
  • 水數學——哥德爾不完備定理
    庫爾特·哥德爾是奧匈帝國的一位邏輯學家、數學家和哲學家。
  • 搗蛋鬼哥德爾
    錯過的小夥伴可以掃描下圖二維碼進入回看哦~文章節選自《量子大嘮嗑》第一部分 第九章 搗蛋鬼哥德爾自從哥德爾不完備性定理被證明以來,越來越多的數學系統內的問題被證明是不可判定的哥德爾證明在一個邏輯系統中,一定會產生無法證明且無法證偽的命題,而這個邏輯系統的限定條件非常的寬泛,幾乎覆蓋了所有邏輯範疇,它不適用的範圍,反而成了我們現在需要探求的問題。從本質上講,哥德爾不完備性定理否定了兩件我們習以為常的事情:其一,真理的否定。我們建立的邏輯系統裡,推理的根本目的就是澄清這個邏輯系統內部每個命題的真偽,這是理性精神的基本體現。
  • 哥德爾邏輯謎題no.1
    世紀天才——庫爾特·哥德爾哥德爾20世紀是人類歷史上一個偉大的世紀,伴隨著眾多偉人的誕生,庫爾特·哥德爾就是其中之一。哥德爾是位邏輯學家,數學家和哲學家。哥德爾發展了馮諾依曼等人的工作,其主要貢獻在邏輯學和數學基礎方面,並以發現了著名的哥德爾不完備性定理而聞名於世。
  • 5個機器學習悖論改變你對數據的看法
    從機器學習的角度來看,Moravec悖論在遷移學習方面非常適用。遷移學習的目的是在不同的機器學習模型中推廣知識。此外,Moravec悖論告訴我們,機器智能的一些最佳應用將是人與算法結合。準確性悖論準確性(Accuracy)悖論與機器學習直接相關。與直覺相反,準確性並不總是對預測模型有效性進行分類的良好指標。