本文經AI新媒體量子位（公眾號ID:QbitAI）授權轉載，轉載請聯繫出處。
現在的AI是神經網絡的天下，但科學家們正在嘗試將神經網絡與「老式AI」結合。
這裡說的「老式AI」是上世紀70年代流行的「符號主義」。在幾十年前遭遇失敗後，「連接主義」取代其成為主流。
但是，越來越多的科學家注意到，將二者結合才會讓AI發揮出更強大的威力。
讓連接主義給符號主義「打工」
幾年前，科學家從小鴨子身上學到了一樣不尋常的東西。如果小鴨子出生後先看到的是兩個相似的物體，那麼之後會對相似物體產生更多的偏好。
小鴨毫不費力地做的事情對於人工智慧來說是很難的，尤其是深度神經網絡這一AI分支。
如果交給符號AI，它會怎麼做？符號AI會處理物體的名稱作為知識庫，並給「相似」做出定義作為命題。
憑藉其知識庫和命題，符號AI採用推理引擎的邏輯規則來回答問題。
但符號AI缺點在於，要實現更複雜的推理需要龐大的知識庫（人工構建），如果AI遇到知識庫中沒有的形狀將無法處理。
連接主義利用知識進行訓練，讓神經網絡具有學習能力，但容易受到對抗攻擊。
於是將符號主義和連接主義結合起來的混合式神經-符號AI（neurosymbolic AI）應運而生。
科學家用深度神經網絡來構建符號AI所需的知識庫和命題，省去了人工預設的難題，然後使用符號AI對任務進行推理。
解決李飛飛2016年難題
2016年，李飛飛等人提出了組合語言和基本視覺推理（CLEVR）數據集，要求AI回答由計算機生成的簡單3D形狀圖像相關問題。
使用複雜的深度神經網絡可以解決此問題。但是，IBM、MIT和DeepMind的研究人員提出了一種截然不同的解決方案，顯示出符號AI的強大能力。該方法相關論文已經被ICLR 2019收錄。
在這篇論文中，他們將問題分解為符號AI熟悉的較小部分。
這套系統首先查看圖像並表徵3D形狀及其屬性，由此生成知識庫。然後，它將問題變成一個可以在知識庫上運行並產生答案的符號程序。
過去，在符號AI中，需要讓人類程式設計師去手動輸入知識庫，現在研究人員希望由神經網絡代替人類這項工作。
他們先通過使用卷積神經網絡（CNN）解決了第一個問題，識別目標的顏色、形狀、材質等屬性。
然後使用遞歸神經網絡（RNN）發現順序輸入中的模式。這個模塊負責接收自然語言問題並將其轉換為符號程序形式的問題。
整個過程類似於按需生成知識庫，並讓推理引擎在知識庫上回答問題。
最終，這種混合AI在從未見過的問題和圖像上進行測試，準確率達98.9％，擊敗了人類。人類只能回答正確92.6％的問題。
更好的是，混合AI只需要純粹深度神經網絡訓練數據的10％。混合AI還具有可解釋性，如果發生錯誤，則更容易發現問題所在。
挑戰更高難度
搞定CLEVR數據集後，現在神經-符號AI正在解決更為棘手的問題。
2019年，在李飛飛CLEVR數據集的基礎上，DeepMind、MIT、哈佛大學和IBM設計了一個更加複雜的挑戰CLEVRER：讓AI基於視頻而不是圖像來回答問題。
視頻中會出現CLEVR數據集中的目標類型，但是這些目標會移動甚至發生碰撞，而且問題更加棘手。
有些問題是描述性的，比如：視頻結束時有多少金屬物體在移動？
有些問題則需要預測，比如：接下來將發生哪個事件？[a]綠色圓柱體和球體碰撞，[b]綠色圓柱體與正方體碰撞。
甚至還有些問題是視頻中沒有發生的（反事實），比如：沒有青色圓柱體，將不會發生什麼？[a]球體和立方體碰撞， [b]球體和青色圓柱體碰撞， [c]立方體和青色圓柱體碰撞。
對於當今的深度神經網絡來說，這種隨時間變化的因果關係是非常困難的，這主要表現在發現數據的靜態模式方面。
為了解決這個問題，團隊擴充了之前解決CLEVR的方案。
首先，神經網絡學習將視頻片段分解為目標的逐幀表示，然後被饋送到另一個神經網絡，學習分析這些目標的運動以及它們如何相互影響，並可以預測目標的運動和碰撞。
這兩個模塊共同構成了知識庫。其他兩個模塊處理問題並將其應用於生成的知識庫。
該團隊的解決方案在回答描述性問題方面的準確性約為88％，對於預測性問題的準確性約為83％，對於反事實問題的準確性約為74％。
讓AI學會提問
提出好問題是機器在人類的另一項技能。這是一種不斷學習世界的方式，而不必等待大量的樣本。沒有任何一種機器可以接近人類提問的能力。
而神經-符號AI展現出了這方面的能力。
紐約大學Brenden Lake助理教授和他的學生Wang Ziyun構建了一種混合AI，來玩一種需要主動提問的遊戲——海戰棋（Battleship）。
海戰棋是一種猜謎式的攻防遊戲，一方在棋盤上隱藏自己的「戰艦」（長度不等），另一方負責攻擊。
攻擊方可以翻看某個方塊下是否有「戰艦」的一部分，或者直接向對方提問：「船有多長」、「所有三艘船的尺寸都一樣嗎」，諸如此類的問題 。以此來猜測船隻的位置。
Lake和Wang分別用兩種不同方式來訓練遊戲AI。
一種是監督學習，向神經網絡展示棋盤和人類提出的好問題。最終神經網絡學會了提問，但是很少有創造力。
另一種是強化學習。在這種訓練中，每當神經網絡提出一個有助於找到戰艦的問題時，就會得到獎勵。
神經網絡最終學會了提出正確的問題，既有用又富有創造力。
Lake以前曾使用純粹的符號方法解決了該問題，對於給定的棋盤狀態，符號AI必須在巨大空間中搜索一個好問題，這讓它變得極其緩慢。
但是，神經-符號AI的速度非常快。經過訓練後，深度神經網絡在產生問題方面遠遠勝過純粹的符號AI。
下一步：自動駕駛
MIT-IBM Watson AI實驗室的David Cox團隊希望將這種混合AI用於自動駕駛技術。
自動駕駛AI需要神經網絡經過訓練來識別其環境中的物體，並採取適當的措施。如果神經網絡在訓練中做錯了什麼，例如撞到行人，就會受到懲罰。
另一位小組成員Nathan Fulton解釋這種機制：「為了學會不做壞事，它必須做壞事，體驗過那些壞事，然後在做壞事之前找出30個步驟，防止自己陷入困境。」
因此，AI學習安全駕駛需要大量的訓練數據，而這些「壞事」讓AI很難在現實世界中訓練出來。
Fulton和他的同事正在研究一種神經-符號AI方法，克服這種局限性。AI的符號部分對現實世界的某些危險行為做出限制，來約束深度網絡的行為。
從一開始就排除某些選擇，這種簡單的符號幹預大大減少了訓練AI所需的數據量。
「如果智能體不需要遇到一堆壞狀態，那麼它就只需要更少的數據，」Fulton說。
儘管該項目仍未準備好在實驗室外使用，但Cox設想了一個未來，具有神經-符號AI的汽車將可以在現實世界中學習，而符號組件將成為防止不良駕駛的保障。
原文地址：
https://knowablemagazine.org/article/technology/2020/what-is-neurosymbolic-ai
論文地址：
https://arxiv.org/abs/1910.01442