關注風雲之聲
提升思維層次
導讀
對於人工智慧研究者來說,真正的問題是還沒有辦法達到人的智能,所以根本談不上去擔心機器產生意識、機器統治人類、意識上傳到雲端之類的問題。
自從人工智慧火爆以來,經常聽到的一個話題就是把意識上傳到雲端,離開身體獲得永生。我看過一部電影《超驗駭客》(Transcendence),講的就是這樣的故事。人們往往會感慨一番:啊,脫離身體的意識還能叫人嗎?
《超驗駭客》
與此相伴,還有一些常見的話題是:人工智慧產生自我意識,機器統治人類,人類通過腦機接口與機器融合成為超級智能,等等。例如庫茲韋爾(Raymond Kurzweil)認為2045年人工智慧會超過人的「奇點理論」,以及馬斯克(Elon Musk)創立的腦機接口公司Neuralink。
奇點理論
Neuralink
如果你問我,對這些問題怎麼看?
回答就是:我對人工智慧了解很少的時候,對這些理論感到很震撼。隨著我對人工智慧逐漸增加了解,對這些理論反而越來越不當回事了。
實際上,這在很多學科都是普遍現象。往往越是外行,越容易對某些問題大驚小怪,而越是內行,就越是淡定。
就人工智慧而言,內行會告訴大家(淺談人工智慧:現狀、任務、構架與統一 | 朱松純):現在的人工智慧都遠遠談不上智能,因為它們都是用大量的數據訓練出來的,專門針對少數特定的問題。比如看了幾百萬張圖片之後,計算機終於能認識貓了。
真正的智能是什麼樣?是從少量的數據就能理解本質。例如人認識貓,肯定不需要幾百萬張圖片來訓練。這個差別,是因為人是基於一些常識來理解世界的,包括物理的常識和社會的常識,而機器缺少這些常識。
實際上,在人工智慧研究者看來,烏鴉很聰明。因為它通過少量的觀察,就能想到把堅果拋到斑馬線上,讓汽車壓過去,然後等到紅燈的時候,下去吃掉其中的果肉。這比AlphaGo之類的不知高到哪裡去了。
烏鴉的學習歷程
由此可見,人工智慧離烏鴉的智能還相差很遠,更不用說超過人的智能了。對於人工智慧研究者來說,真正的問題是還沒有辦法達到人的智能,所以根本談不上去擔心機器產生意識、機器統治人類、意識上傳到雲端之類的問題。
最近,我的微信公眾號風雲之聲轉發了一篇文章(欲駕馭AI,先與AI共生:馬斯克的「超人」計劃能成功嗎?| 返樸),作者是復旦大學生命科學學院退休教授顧凡及老師。此文指出:
SpaceX和Tesla的遠期目標雖然宏大,但基本上是純粹工程技術性的,都有堅實的理論基礎作為後盾。相比之下,Neuralink的遠期目標是「建立全腦接口和腦機融合」——而我們對人腦的認識還非常膚淺,至今都還沒有任何有關腦功能機制的理論框架,可預見的未來也難以發現。
……
筆者觀察到一個有趣的現象,那就是在關於揭開腦的奧秘方面,神經科學家往往非常謹慎,而技術專家則往往心雄萬夫、氣沖斗牛。這可能是技術專家對腦不夠了解的緣故,「無知者無畏」。
……
人工智慧並不是一個主體,它並沒有主觀性或自我觀,既沒有意識,更沒有意志。而這些到目前為止,這些特質都還只是腦所獨有。然而,腦為什麼會具有這些特質,科學家現在還毫無所知,更談不上讓人造物具備這些特質。所以在可預見的未來,人工智慧只能是一種工具,其為善或為惡都只取決於使用它的人。筆者同意一些人工智慧專家的觀點,根本不應該發展有自我意識的人工智慧,何況根本還談不上存在發展的可能性。
退一萬步講,即使人工智慧有了自我和意志,馬斯克開的藥方也解決不了問題。他一廂情願地認為,只要人和人工智慧融合起來,人工智慧再強大也是人的一部分,受到人的控制。實際上,如果兩者聯合,一強一弱,極有可能是強者佔主導地位。馬斯克既然擔心人工智慧超過人類,那麼兩者融合的結果未必不能是人工智慧成為聯合體的靈魂,人則成了傀儡,成了人工智慧的工具。其他沒有和人工智慧融合的人,則淪為這種聯合體的奴隸或寵物,這種命運與成為人的奴隸並沒有多大區別。至於馬斯克說到,只要讓所有人都和人工智慧融合就可以避免這種危險,也純粹是痴人說夢。同一時間實現所有人的人工智慧融合是不可能的。考慮到一開始時植入全腦接口必定價格昂貴,必定是少數像馬斯克這樣的富人才能負擔,這樣催生出的優勢集團將有能力統治芸芸眾生,這種前景和馬斯克所恐懼的人工智慧專制同樣可怕。
筆者認為,在可預見的將來並不存在馬斯克所描述的危險,他開的藥方對一般人也不解決任何問題。至於在這個問題上,馬斯克究竟是拯救人類的先知,還是又一個危言聳聽的鍊金術士,請讀者自己判斷吧!
擴展閱讀:
如何深入地淺談人工智慧 |科技袁人
淺談人工智慧:現狀、任務、構架與統一 | 朱松純
欲駕馭AI,先與AI共生:馬斯克的「超人」計劃能成功嗎?| 返樸
背景簡介:袁嵐峰,中國科學技術大學化學博士,中國科學技術大學合肥微尺度物質科學國家研究中心副研究員,科技與戰略風雲學會會長,「科技袁人」節目主講人,安徽省科學技術協會常務委員,中國青少年新媒體協會常務理事,入選「典贊·2018科普中國」十大科學傳播人物,微博@中科大胡不歸,知乎@袁嵐峰(https://www.zhihu.com/people/yuan-lan-feng-8)。
責任編輯:祝陽