媒體
聚焦
馬慶國談「人工智慧」
近日，據國外媒體報導，
特斯拉、SpaceX和Neuralink的創始人
埃隆·馬斯克（Elon Musk）預測，
人工智慧（AI）將在5年內超越人類。
他還曾在2016年表示，
除非開發出將大腦連接到計算機的技術，
否則AI可能會像對待家養寵物一樣對待人類。
他甚至將人工智慧描述為
對人類的「生存威脅」。
對於馬斯克的預測，
以及AI近年來取得的突破性進展，
如目前AI在部分工作上已代替傳統人工，
社會各界越來越多的人表達了
對「AI取代人類」的擔憂。
而我們知道，
人類相比AI最大的優勢就在於
會思考、會創造。
那麼隨著AI的迅猛發展，
未來AI能做到像人一樣「思考」嗎？
作為中國神經管理學創始人，
國際歐亞科學院院士、
原浙大管院神經管理學實驗室主任馬慶國教授
日前在接受《中國科學報》記者採訪時
結合其多年研究與相關實例，
生動形象地對人工智慧的「工作原理」
與未來發展前景展開了深入剖析，
並對「人工智慧未來能否像人一樣思考」
給出了回應。
原浙江大學管理學院神經管理學實驗室主任馬慶國教授
報導原文
（《中國科學報》2020年7月23日發布，作者：胡珉琦 ）
新一屆世界人工智慧大會剛剛過去，在人工智慧最前沿技術、產品、應用和理念的展示之下，「超級智能時代能何時才會到來」的問題始終縈繞在人們心裡。
如今的人工智慧系統已經在不少具體問題的解決能力上超過了人類，那麼，我們究竟能否製造出像人一樣「思考」的機器？人工智慧會有一天超越人類智能嗎？
計算型智能只是人類智能的一種類型
下圍棋是人類的高級智能活動之一，過去人們認為計算機不可能超越人類的這種智能。因此，下圍棋也被視為人工智慧的「聖杯」。
直到DeepMind 推出的人工智慧圍棋程序 AlphaGo戰勝了人類。
原浙江大學管理學院神經管理學實驗室主任、國際歐亞科學院院士馬慶國解釋，AlphaGo大放異彩，得益於蒙特卡洛樹搜索框架，加上深度學習和強化學習。
他說，假設計算機的計算速度「無限」快，計算機就可以用「窮舉法」為圍棋棋手瞬間找到「最優解（最優落子位置）」。
但事實是，每一步落子的計算量太大了，當前最快的計算機速度也根本無法完成「窮舉」這樣的大的計算量，所以要從當前的可能的落子方案中選一些，交由不同計算機（群）去做並行計算。
如何在當前的可能的落子位置選出一組落子點（試算點）交給不同計算機（群）做並行計算？
他表示，除了利用計算機越來越快的存取速度和越來越大的存儲容量，可以從過去「對弈」的成果（不僅僅是「定式」）產生「試算點」之外，還需要藉助很多「節省計算但儘可能選優」的技術。蒙特卡洛樹搜索框架，深度學習和強化學習就是其中三種重要的技術（算法）。
蒙特卡洛樹搜索是基於概率的通過計算、模擬、採樣、優化等一系列數學方法，進行搜索決定走法。
馬慶國認為，近10餘年來，人工智慧最顯著的進步之一發生在深度學習的領域（主要是深度神經網絡領域），神經網絡深度化（多層化）的最大難題之一，是迭代計算超多參數時的損失函數的梯度退化問題，辛頓等科學家在這方面做了很好的工作，使得基於深度神經網絡的深度學習得以發展。
基於深度神經網絡的深度學習，沒有對所研究問題的環境作明確表徵，也不探求因果關係（本質上是「黑箱」模型）。在基於巨量數據、完成了對一個網絡的訓練後，程式設計師就用這個訓練的結果模型，運行新的數據，選擇落子的走法。
AlphaGo的核心技術是強化學習，強化學習強調智能體和環境之間的互動，通過讓智能體尋求期望獎勵的最大化來習得從狀態空間到行動空間的策略函數。
強化學習的本質是實現「自動決策」。機器會在沒有任何指導、標籤的情況下，嘗試行為，得到一個結果，再判斷是對還是錯，由此調整之前的行為，通過不斷地調整，算法持續優化。
有人認為，強化學習的本質正在接近人類的學習，但它是否能夠實現人類大腦的智能？馬慶國的回答是否定的。
圖片來源：Unsplash
「目前，我們還沒有製造出能像人一樣思維的機器，我們只能在一些狹義領域，製造出比人類某些智能更出色的機器。這並不奇怪，因為這些領域關注的是計算機更擅長的事——基於數學的邏輯的算法和對以往事實的快速存取。」
在馬慶國看來，計算型的智能只是人類智能的一部分。在這種類型的智能方面，人造的機器超過了人。但在「理解」（如，理解語言、理解社會）方面，人工智慧與人類智能有質的差異。
馬慶國介紹說，英國數學家和物理學家羅傑·彭羅斯曾在他著名的人工智慧科普讀物《皇帝新腦——有關電腦、人腦及物理定律》一書中，引用了美國哲學家約翰·西爾勒的思想實驗 ——「中文屋子」來論證計算機及算法實際上並不是「理解」智能。
「中文房間」實驗假設一位只說英語的人身處一個密閉房間。假設房間裡有一本回答所有問題的中文書，以及足夠的稿紙、鉛筆和櫥櫃。寫著中文問題的紙片通過小窗口被送入房間中。房間中的人可以通過比對，在這本書上找到這個問題的中文答案。然後抄寫這個答案從窗口遞出去。雖然他根本不懂中文，但房間外的人卻以為他理解了中文問題，並用中文思考。
「計算機就是這樣工作的。它無法理解接收到的信息，但它可以運行一個程序，處理信息，然後給出一個正確的回答，好像理解了接收到的信息一樣。」馬慶國說，這個思想實驗證明，「計算機及其算法」事實上並不像人類一樣「理解」其所執行的任務。
人類是如何思考的？
人工智慧要想真正實現人類智能，需要具備什麼能力？
馬慶國認為，人類智能的最大特點之一，就是能夠創造性地解決從未遇到過的新問題。
他常舉的一個例子是：當一個人在過一座獨木橋時，突然之間橋斷裂了，人依然可以想出很多點子來解決過河的問題，找木頭搭建簡易橋或者抱著浮木遊到河對岸等等。
「計算機就沒有這樣的能力，除非人事先給它設定了『在需要過沒有橋的河時，應找木頭搭建簡易橋』。可是，如果周圍沒有可以搭建簡易橋的木頭呢？人類可以想其他辦法，計算機就無能為力了。」
在他看來，問題的癥結在於，計算機是遵守規則的機器。在現實世界中，規則總是不可能窮盡的。現在的人工智慧本身並沒有創造性，當遇到舊規則不能可決的新問題時，它不能像人類一樣完全根據面對的問題想出從未有過的解決辦法。
圖片來源：Pixabay
人類的理解力又是從何而來？
馬慶國說，以語言為例，一個孩子學會理解語言，其實也是來源於對應關係。
當他第一次面對一個全新的詞彙時並不能理解，直到一種情景反覆出現，並在這個情境中與他人互動，他就可以將這個詞彙和情景對應起來。越長大，可以跟這個詞彙對應的東西越來越多，關於這個詞彙的理解，也就形成了。再經過不同個體的互動和交流，關於這個詞彙的共同理解，也就形成了。
計算機只能做到有限的對應，因為真實環境太過複雜，現在它對語言的「理解」可謂捉襟見肘。
「但這也帶來了一個問題：計算機總是在不斷進步和發展的，理論上它的對應也會越來越豐富，越來越複雜。那麼在哲學上，這一量變是否可能帶來質變？計算機也進步到可以理解詞彙了？」
馬慶國認為，這個問題還沒有答案。不過，他對人工智慧完全實現人類智能的前景並不樂觀。
人腦真實的智能和人工智慧最大的區別的來源，可能在於腦的工作方式。
「儘管計算機也叫電腦，但它和人腦的工作方式完全是兩回事。」馬慶國說，無論是存儲、計算，還是創造，大腦都是靠神經元、樹突、軸突以及突觸等相互銜接的結構和多種神經介質，來實現工作的：從神經元前面來的信號，到這個神經元後面出去，成百上千個甚至更多的連接。而不同的連接方式，就可能在工作中形成了不同的意識。
對此，人們又開始對模擬人腦的人工智慧報以希望。
他表示，這就需要破解哲學上的一個難題：思維是彼岸的，現實存在是此岸的，兩者之間是有鴻溝的，哲學上認為這是不能跨越的。現在，我們希望通過腦神經研究，使彼岸的思維能夠用此岸的神經元活動來解釋。
圖片來源：網絡
「人類的意識本身最終能夠在神經元活動的水平上被解讀，可能需要上千年的時間。即便解讀了，機器能能夠完全模擬神經元的工作方式嗎？」
作為首個提出神經管理學的學者，馬慶國坦言，按照AI現有的技術路徑是難以實現的，除非未來我們能夠創造出一種完全顛覆性的理論技術體系。從這個角度來看，擔憂人工智慧會超越甚至取代人類，根本無從談起。
信息來源：中國科學報
編輯整理/排版：段婷
歡迎關注浙江大學管理學院官方公眾號
原標題：《AI會像人一樣「思考」、取代人類？專家馬慶國這樣回應...》
閱讀原文