智源導讀：美東時間 12 月 23 日，由 Gary Marcus 主持的 AI Debate 再次召開，主題為「推動 AI 前進：跨學科方法」 （Moving AI forward: an interdisplinary approach）。
猶記得去年 Gary 與 Yoshua Bengio 針對深度學習能否實現通用人工智慧的激烈辯論。在本屆 AI Debate 中，Bengio 沒來，卻換來了 16 位業內知名大咖，包括Judea Pearl、李飛飛、Daniel Kahneman、Ken Stanley等人。
作者：李夢佳 賈偉
本屆 AI Debate 共持續三個小時，包括三個panel，分別為
Panel 1: "Architecture and Challenges"
Yejin Choi, Luis Lamb, Fei-Fei Li, Robert Ness, Judea Pearl, Ken Stanley and Rich Sutton
Panel 2: "Insights from Neuroscience and Psychology"
Danny Kahneman, Christof Koch, Adam Marblestone, Doris Tsao and Barbara Tversky
Panel 3: "Towards AI we Can Trust"
Ryan Calo, Celeste Kidd, Margaret Mitchell and Francesca Rossi
智源社區從 16 個學者分享中選取其中 4 位的觀點進行分享，頗具啟發。如下：
李飛飛：下一個AI的北極星在與真實世界的互動
Judea Pearl：乾草堆裡尋針，需要先見過針
Daniel Kahneman：AI 界對系統一和系統二的誤解
Ken Stanley：看10億年生物進化因果鏈，我們忽視了很多維度
話外——先介紹一下Marcus的開場白
Marcus一開場先回顧了去年和Bengio的激烈辯論。他指出，上個十年要討論的核心是「大數據和深度學習是否可以最終實現通用人工智慧」。
Marcus提到，相關討論2012年就已經開始了。2018年，Marcus發表了Deep learning: a critical appraisal，歷數了為什麼深度學習不能實現通用人工智慧的幾大原因，當時引來了很多爭議。
今年，GPT-3的大熱又引來了新一波的爭議。Hinton 10月發表觀點稱，「深度學習無所不能。」兩種觀點一直針鋒相對。
Marcus表示，在2020年的末尾，兩種觀點卻出現了前所未見的融合（convergence），似乎原本站在 Hinton 陣營的 Yann LeCun 近日發表文章稱，「有些人一直以來對GPT-3能夠做什麼抱有不切實際的幻想。」「想要通過擴展語言模型來打造智能機器，就好比要造一架能上月球的飛機。」
抵達通用人工智慧似乎為時尚早。Marcus 指出，下一個十年，我們要討論的問題就是，如何讓AI步入下一個新臺階。
01
李飛飛：下一個AI的北極星在與真實世界的互動
李飛飛作為 AI 領域最為知名的華人女科學家之一，憑藉ImageNet的工作觸發了新一代人工智慧的浪潮，也成為眾多學子心中的偶像。在本次報告中，李飛飛提出兩個概念：（1）下一個AI的北極星是什麼？（2）與真實世界進行互動，是人工智慧下一個重要的研究問題。
李飛飛：作為科學家，最吸引我的是，能夠不斷去拓寬人類知識的邊界，不斷問新的問題，並且發明工具來解決這些問題。我最喜歡引用愛因斯坦曾說的一句話：「問題提出本身通常比解決問題要重要的多」。那麼在AI領域重要的問題是什麼？在這裡我把這樣的問題稱為「AI 北極星」（AI North Star）。
在20世紀最後的三十年中，對於人工智慧最為重要的「AI北極星」是人類智能，特別是視覺智能中的物體識別。而21世紀頭十年的「AI北極星」則是圖像分類，ImageNet作為基準，促進了人們指向「AI北極星」，從而引發了深度學習的革命。
那麼現在，站在另一個新時代的起點，我們不禁要問「下一個AI北極星是什麼？」（What is the next AI North Star?）
對這一問題，答案肯定不止一條。但就我自己來說，下一個令人激動的「AI北極星」應該是：AI在真實世界中積極地感知和互動。
我的這一觀點主要受兩本暢銷書的啟發。
一本是由動物學家 Andrew Parker 所寫的《In The Blink Of An Eye》，他提出「寒武紀的爆炸是由突然進化出來的視覺引發的，正是視覺的出現引發了一場進化的競賽，在這場競賽中動物要麼進化、要麼死亡。」
另一本則是由哲學家Peter Godfrey-Smith所著的《Other Mind》，在這本書中，他認為「神經系統最原始和最基本的功能就是將感知與行動聯繫起來。」
當下，AI已經擁有了視覺，那麼接下來在真實環境中感知與行動之間不斷循環互動，將引發人工智慧的新一輪進化。
我在這裡分享一個實驗。這個實驗室由Held 和Hein在1963年做的關於兩隻新出生小貓的實驗，如下圖所示，其中一隻可以主動探索外部世界（註：在籠子中走動，來觀察周圍環境），另一隻則是被動來看外部世界（註：不能行動，由另一隻小貓的運動帶動槓桿，從而觀察周圍環境）。世界結果表明，數周之後兩個小貓的神經系統有巨大的差異，被動組的小貓不能發展具備完整功能的感知系統，而主動組的小貓則可以。
綜上所述，在我看來 AI 下一個最為激動人心的「北極星」正是：來自對世界積極的感知和互動。在這種感知和互動之間存在一個至關重要的循環，這個循環驅動了學習、理解、推理和計劃等能力。對於我們的 AI 智能體，可探索的環境包括多模型、多任務、生成以及社交等。我們目前正在研究以及構建這種具備互動學習能力的智能體，這些智能體使用感知和驅動來學習和理解世界。
02
Judea Pearl：乾草堆裡尋針，需要先見過針
Judea Pearl（朱迪亞·珀爾），加州大學洛杉磯分校（UCLA）教授，圖靈獎（Turing Award）得主。他在 20 世紀 80 年代開發並倡導了AI 的概率方法，被稱為貝葉斯網絡之父。然而為了強人工智慧的願景，Pearl 脫離主流 AI 研究社區，提出了一套因果的數學語言和理論，引領了正在席捲各個學科的」因果革命「。
他表示「如今，我們正坐在一座金礦上，但這座金礦封存在深度學習的世界當中。」因此他提出了一種因果革命的引擎，即深度理解的計算模型。他認為深度理解將是唯一能夠回答「What is」、「What if」以及「If only」的路徑。
由於時間較短，Pearl的許多觀點沒有得到充分地闡釋，我們結合Pearl之前在智源大會的內容，對其核心觀點作以介紹。
1、反對數據文化，應當加入知識
Pearl在報告中提到，他非常反對僅僅依賴數據的文化，這只是一種數學的操作。舉例一個統計學中的經典例子來說：「鍛鍊身體是否有利於健康？」
x軸表示運動時間，y軸表示膽固醇水平。一方面，在圖（左）中，可以看大每個年齡組中都出現了向下的趨勢，表明運動可能的確有降低人體膽固醇水平的效果；另一方面，在圖（右）中，同樣的散點圖並不依據年齡對數據進行分層，那麼我們就會看到一個明顯向上的趨勢，這表明運動得越多，人體膽固醇水平就越高，這種矛盾在統計學中被成為辛普森悖論。
這個例子說明了數據可能對你講出兩個不同的故事。如果信息發生一些變化，得到的結論就可能是不一樣的。
他提出「從乾草堆裡找針，前提是你得見過針是什麼樣子的。」
2、我們正坐在一個金礦上，但金礦卻被封印在深度學習的世界裡
Pearl在報告中提到，「最近，我意識到我們正坐在一座金礦上面，但是這個金礦卻被封印在深度學習的世界裡。」
Pearl 提出了一套基於結構的關於因果的數學語言和理論，作為因果科學是回答因果問題的推理引擎，他稱之為「深度理解」。該引擎的特點是 「Knowledge in, Knowledge out, Data in between」。
深度理解能夠執行三個功能：描述（「What is」）、預測（「What if」）以及反事實預測（「If only」）。
03
Daniel Kahneman：AI 界對系統一和系統二的誤解
Daniel Kahneman是一位以色列裔美國心理學家，曾獲得2002年諾貝爾經濟學獎，但對於 AI 圈的人士，最為熟悉的則莫過於他的暢銷書《思考，快與慢》，其中的 系統一 和 系統二 的概念成為了許多 AI 研究人員理解 AI 發展的底層框架。但在這次的 AI Debate 中，Daniel 卻表示，AI 領域的學者或許誤解了他對兩個系統的描述。
Daniel Kahneman：在這裡我想講一些更「有野心」的事情。大家都認為我應該認同 系統一 和 系統二 的觀點（儘管這並不是我的想法），因為我確實寫過這麼一本書來介紹這個概念。我們談論 系統一 和 系統二 的時候，會認為前者是一種工作速度較快的系統，而作為對比，後者工作速度則相對較慢。
但事實上，正如我在書中所描述的，系統一 和 系統二 的最主要區別並不在此，而是一個只是發生在你身上，而另一個需要你去做更高水平的處理。語言、想法、情緒等都發生在你的身上，但這些都不需要做額外的處理。我們應當這樣理解，任何可以自動完成的事情，任何只是發生在我身上的事情，都隸屬於系統一。
心理學家們認同的 系統一 和 系統二的另一個區別是，在操作層面上，系統一 是並行操作，而系統二是串行操作。
我的一個感覺是，兩種體系的想法已經被太多人接受了，所以我今天想重點強調一下其中的誤解。
在人工智慧中，人們似乎將兩種體系與符號/非符號聯繫在了一起。系統一是非符號，系統二是符號。當我去看機器學習的時候，也有類似的感覺，機器學習的黑箱似乎能夠神奇且快速地產生非常複雜的反應。但事實上，這種系統一 - 非符號/系統二 - 符號的映射並不是那麼準確。
的確，我們描述為非符號的任何事物、任何活動，都屬於系統一；但是系統一併不能被描述為非符號系統。
系統一事實上更為複雜和豐富，它能夠對世界進行表徵，這種表徵代表了對世界的模擬。我們也是依賴系統一對世界的表徵進行生存。大多數時候，我們處於所謂的「Valley of normal」（正常谷）。大多數發生在我們身上的事情，並不會讓我們感到驚訝，但也不會讓我預料到我接下來想要說什麼。
我們處在正常谷裡，我們並沒有期待，系統一接受許多事件的發生，認為這些事件只不過是已發生事件的正常延續。但它也會拒絕一部分事情，這些正是那些讓我們覺得吃驚的事情。因此，系統一能夠把這些「非正常」的事情與正常的事情區分開來。
前面Pearl提到的反事實推理，許多都是發生在系統一中。因此，常識和因果關係出現在系統一當中，而非系統二。
這是我想要重點澄清的。我真的很高興能夠在 AI 領域聽到這兩個概念，但我不確定它們是不是被正確地使用了。
04
Ken Stanley：看10億年因果鏈，我們忽視了很多維度
Kenneth Stanley是Open AI的研究員。他此前和Marcus共同創立了一家叫做幾何智能（geometric intelligence）的公司，後被Uber收購。Ken 在報告中的觀點是，我們常常說受啟於人類智能，但往往卻忽視產生人類智能的前提——數億年的生物進化。如果把眼光放得長遠一些，我們會發現，在考慮智能體系的構建時，我們忽視了許多應該考慮的維度。
Ken Stanley：眾所周知，當下的人工智慧可以解決各類問題。但是我們人類能夠做的事情卻仍然是獨特的，原因在於我們擁有「開放式的創新」——在幾千年人類文明中我們冒出了無窮無盡的想法，從火和輪子這樣的小東西，到計算機、空間站這樣的龐然事物。
這個複雜性大爆發的過程，源於我們所謂的開放式創新（Open-ended Innovation）。這是人類特有的能力，現在的算法相對來說，則相去甚遠。
這種開放式創新的現象並非只是人類誕生之後才出現；事實上，我們人類本身也是一個開放式創新系統的產物，這個系統便是：自然進化。
站在更為長遠的歷史的角度，去看智能的誕生，這是一個完全不同的因果鏈。在數 10 億年的發展進程中，正是這個龐大的系統（註：進化系統）發明創造了所有活著的自然生物，它發明了諸如光合作用、會飛的鳥，甚至具有高級智力的人類。從已有的人類經驗來看，這也是唯一一個能夠產生真正具有人類智慧的系統。
在這個系統基礎上，當我們人類開始在宇宙中存在，憑藉著人類這樣一個「開放式創新系統」，便孕育出了人類文明，包括數千年的知識、科學、藝術等所有的發明創造，正如前面所說，從火和輪子，到計算機、空間站，以及人工智慧等等，相繼湧現。
所以，在這個簡短的報告中我想要表達的是，我們應該試著去理解這種現象。這不僅僅是對我們人類為什麼存在的解釋，更是因為它先於我們，創造了我們，也根深蒂固地存在於我們的本性之中。
當我們去關注這種「開放式創新」的現象，就會發現此前我們大家會忽視的一些智能維度。例如：發散性（Divergence），這與目前我們偏愛的算法收斂恰恰相反；種群性（Populations），所謂不把所有雞蛋放在一個籃子裡，種群中大量存在的個體才有進化的可能；多樣性保護（Diversity Preservation）；跳板收集（Stepping Stone Collection）等。
實際上我們並不了解，究竟宇宙的什麼特性促成了源源不斷的超過10億年的創造力，而人類目前創造的任何人工系統都沒有這個屬性。
從這個角度講我們可以暫時把算法放在一邊，去從系統層面上探究一下問題所在。這是一個豐富的研究領域，還亟待挖掘，目前在這個領域的研究還只是冰山一角。
05
Q&A：神經網絡的進化
Marcus：我有個問題要問Ken 和飛飛。你們都提到了進化論，尤其是神經網絡的進化。現在這個領域（神經進化）的現狀如何？我們有了大量的計算資源，這會成為下一個十年的重點嗎？
Ken Stanley：自然界中的進化屬性是如此的強大，而且還沒有得到算法方面的解釋，因為我們不能創造出自然界中已經創造出來的現象。但這些是我們應該繼續追尋和理解的屬性。這些屬性不僅存在於進化中，也存在於我們自身之中。
在我們自己的創新歷史和進化史之間存在一種平行。從這個意義上說，我認為我們將繼續追求這類進化算法，並且將它們與其他算法混合，包括學習算法。因為畢竟，這就是我們生活的世界，有一個進化的外環和學習的內環組合而成的閉環。
李飛飛：對我來說，進化是智能出現過程中最偉大的實驗環境之一。但對於遵循進化的環境或者是生物方面的限制，我不是教條主義者。作為一個科學家，我仍然堅持這樣的夢想: 將會有一套統一的智能原則，這些原則已經指導了一定數量動物智能的出現，也將賦予機器智能。進化論是我們所見過的最偉大的實驗之一，它給了我們如此多的靈感。