曉查 編譯整理
量子位 報導 | 公眾號 QbitAI
一年前，常批評深度學習的Gary Marcus與深度學習三巨頭之一的Yoshua Bengio，進行了一場2個小時的AI辯論會，總共吸引了3萬人在線觀看。
今年，Marcus又一次發起了辯論。
雖然今年Bengio沒有出席，但是卻集結了李飛飛、圖靈獎得主Judea Pearl、強化學習泰鬥Rich Sutton、諾獎得主Daniel Kahneman等16位AI行業知名學者。
去年辯論的主題是大數據和機器學習能否達到通用智能。而這次大會的主題是——AI辯論2：推進人工智慧。
今年16位學者每人進行了大約五分鐘的演講，全程乾貨滿滿，Marcus形容這場辯論，就像「從消防水管裡喝水」。
下一代人工智慧
首先做開場發言的是史丹福大學計算機科學教授李飛飛。她談到了所謂的AI的「北極星」，就是指引AI學科發展的事物。
李飛飛說，在過去的五十年裡，「北極星」之一是科學地認識到物體識別是人類認知能力的一個關鍵功能。目標識別帶來了AI基準突破，例如ImageNet競賽。
而新的「北極星」是與環境的互動。
李飛飛援引Richard Held和Alan Hein於1963年所做的一項研究：「運動產生的視覺引導行為的刺激」。
研究人員在成對的新生小貓上進行了實驗，其中一隻小貓被允許四處走動來探索周圍環境，而另一隻小貓則被放到載體中移動，使它進行被動而非主動的探索。
在探索的早期階段，被動的小貓相比主動的小貓，空間感知和協調能力下降。因此，二人得出結論，環境中的自我導向行為對於培養駕馭世界的能力是必要的。
繼李飛飛之後，巴西南裡奧格蘭德聯邦大學計算機科學教授Luís Lamb談到了他一周前在NeurIPS上提出的「神經符號AI」（neurosymbolic AI）。
Lamb稱讚了Marcus和Judea Pearl兩人在神經符號學中的工作。
他說神經符號學的工作建立在Marcus《代數思維》一書中的概念之上，包括在神經網絡之上操縱符號的需求。
「我們需要一種如Pearl的基於邏輯形式化和機器學習的基礎方法。」
Lamb之後是Rich Sutton，DeepMind的傑出科學家，現代強化學習的奠基人。
Sutton回憶起神經科學家David Marr。他描述了Marr關於所需的三個處理層次的概念：計算理論、表示和算法、硬體實現。Sutton說，Marr對計算理論特別感興趣，但今天人工智慧中「幾乎沒有計算理論」。
Sutton說，像梯度下降這樣的東西是「How」，而不是計算理論需要的「What」。
他認為，強化學習是智能的第一個計算理論。而其他可能的有預測編碼、貝葉斯推理等等。
「人工智慧需要一個公認的智能計算理論，」薩頓總結道，「RL是這方面最出色的選擇。」
因果推理與AI
接下來是圖靈獎得主Judea Pearl登場，他寫了許多關於因果推理的書，包括暢銷書《The Book of Why》。他的演講主題為「因果關係的馴化」。
「我們正坐在一座金礦上，」Pearl指的是深度學習，「我提出了在因果革命中構建的引擎，代表了一種值得稱為『深度理解』（deep understanding）的精神狀態的計算模型。」
Pearl說，深度理解是唯一能夠回答」What is?」 「What if?」和」If Only?」的系統。
接下來是Robert Ness，主題是「用概率規划進行因果推理」。
Ness說他認為自己是一名工程師，對建造東西感興趣。「概率編程將是解決因果推理的關鍵」。
他認為，概率編程可以建立反事實推理的代理，這是因果推理的關鍵。他覺得這這可以解決Pearl的」What is?」 問題。
接下來是Ken Stanley，他是中佛羅裡達大學的計算機科學教授。斯坦利對進化和創造力有著全面的看法。
Stanley說，雖然計算機可以解決問題，但人類做了一些計算機做不到的事情：開放式創新。
「幾千年來，從火和輪子到空間站，我們一個接一個地提出想法，我們稱之為開放式系統。」斯坦利說進化是一個平行的「現象系統」，它產生了智慧。
「一旦我們開始存在，就擁有了數千年的創造力。我們應該努力理解這些現象。」
緊隨斯坦利之後的是Yejin Choi，華盛頓大學計算機科學的副教授。她開發了COMET系統，讓GPT-2具有常識推理能力。
她以漫畫《隧道裡的怪物》為例。這是一部著名的視覺錯覺作品，在一個有明顯透視效果的隧道裡畫了兩個生物。雖然兩個實體大小完全一樣，但一眼看去，二者大小懸殊。
Choi指出，這幅插圖在2017年出版的《理性之謎》一書中討論過，作為大腦如何利用背景（context）理解圖像的例子。
△ 《隧道裡的怪物》
她談到語言的重要性，以及語言是「生成性任務的推理」。
「我們是在實時中進行推理，這將是AI前進中關鍵的基本挑戰之一。」
Choi還說，像「GPT-4/5/6」這樣未來的新語言模式還遠遠不夠。
與神經科學的交叉
Marcus請來了史丹福大學心理學榮譽退休教授Tversky。她認為：「所有生物都必須在空間中活動，當運動停止時，生命就結束了。」
在PPT上，Tversky談到了人們如何做手勢、做空間運動，這可以影響人們思考。
下一位演講者是諾貝爾經濟學獎得主Daniel Kahneman，也是人工智慧著作《Thinking, Fast and Slow》一書的作者。
Kahneman提到了這本書中的範式「系統1和系統2思維」，一種是直覺的形式，一種是更高級的推理的形式。
Kahneman說，系統1可以包含許多非符號的東西，但說系統1是非符號系統是不正確的。系統1中有許多反事實的推理，其中一種天生的對什麼是正常的感覺將支配這種推理。
加州理工學院的生物學教授Doris Tsao專注於反饋系統，她提到了早期McCulloch和Pitts關於神經元的工作。
她引用多層神經網絡的反向傳播說，反饋是必不可少的。理解反饋可以讓人們建立更強大的視覺系統。反饋系統可能有助於理解幻覺等現象。
她對機器學習和系統神經科學之間的相互交流感到非常興奮。
接下來是麻省理工學院的Marblestone，他以前是DeepMind的研究科學家，繼續神經科學的主題。
他說，對大腦進行觀察，試圖抽象出一種功能理論，目前還處於非常原始的水平。神經網絡的例子，如卷積神經網絡，只是複製人類行為。
西雅圖艾倫腦科學研究所的研究員Koch斷言，「不要指望神經科學來幫助人工智慧。」
他說，艾倫研究所的大規模實驗揭示了大腦中的複雜性，這遠遠超出了深度學習中看到的任何東西。
連接體揭示了大腦不僅僅是由數百萬個細胞組成的，而是由一千種不同的神經元細胞類型組成的，這些細胞類型根據表達的基因、它們發送信息的地址以及樹突樹突觸結構的差異進行區分。
他說：「我們有高度異構的組件，與目前的超大規模集成電路硬體非常不同。」
他認為，目前的深度神經網絡非常「貧乏」，激活單元增益飽和。它們中的絕大多數是前饋的，而大腦有大量的反饋。
「理解大腦需要一兩個世紀，在大腦的機械基底中尋找靈感來加速人工智慧是一個錯誤，這與人造物品的性質完全不同。」
如何看待AI的未來
在會議的結尾，Marcus讓每一位參會者回答這樣一個問題：
你想讓AI走向何方，什麼會讓你開心？我們這些構建AI的人的目標是什麼？
李飛飛：
作為一個科學家，我想把AI的科學知識和原理推向越來越遠。我還是覺得我們所處的的AI時代像是前牛頓時代的物理。我們還在學習現象學和工程學。當我們開始理解智能的原理時，將會有一系列的時刻。
作為一名公民，我希望這是一項能夠以理想主義的方式改善人類狀況的技術。它是如此深刻，可能非常非常糟糕，也可能非常非常好。我希望看到以最仁慈的方式開發和部署這項技術的框架。
Rich Sutton：
要知道，AI聽起來像純技術性的東西。我同意Luis Lamb的觀點，這可能是所有努力中最人性化的。
我期待著我們更多的理解，期待著一個充滿不同種類的智能、增強的人和新人的世界，期待著理解、新奇和各種智能。
Judea Pearl：
我的志向很溫和。我想要的是一個聰明、非常友好且超級能幹的徒弟。我想理解自己，我如何思考，如何在情緒上喚起自己。
關於我自己，存在一些棘手的科學問題，我尚無法解決。例如，意識和自由意志。
如果我能製造出一種具有自由意志的機器人，那它將成為23世紀最大的科學成就，而我做出一個預測：我們將擁有它！
最後，Marcus總結說，這次大會超出了他原本的期望。
AI學術辯論會還將繼續進行下去，下一次，也就是AI Debate 3將在明年同一日期於蒙特婁舉行。
（以上只是大會內容的簡短摘錄，如果你對完整的內容感興趣，可前去文末連結觀看。）
參考連結：
https://www.zdnet.com/article/ai-debate4-2-night-of-a-thousand-ai-scholars/
視頻地址：
https://www.youtube.com/watch?v=DHBclF-8KwE
參會人員演講資料：
https://montrealartificialintelligence.com/aidebate2/readings.pdf
— 完 —
本文系網易新聞•網易號特色內容激勵計劃籤約帳號【量子位】原創內容，未經帳號授權，禁止隨意轉載。
原標題：《這可能是今年最硬核的AI交流會，李飛飛、圖靈獎得主Pearl等共同探討AI未來》
閱讀原文