生命3.0何時出現 | 每周一本書

在總裁讀書會精品課上，易寶支付聯合創始人兼總裁餘晨為我們推薦了《生命3.0》這本書，這周小書僮陪你一起來精讀這本書。

您如果希望收聽完整音頻，請下載總裁讀書會APP，或者關注跟大咖一起讀服務號，加入我們的會員，更多精彩內容等著您。

總裁讀書會，分享大智慧！

每周一本書，跟大咖一起讀。以書會友，遇見更好的自己。

識別二維碼，加入總裁讀書會☟☟☟

生命3.0何時出現?

這個問題極富爭議，而且爭議得十分精彩。

全球頂尖的人工智慧研究者不僅在做出預測時眾說紛紜，他們的情緒反應也截然不同：

有的是充滿信心的樂觀主義者，有的則懷有嚴肅的擔憂；甚至於，對於人工智慧會在短期內對經濟、法律和軍事方面造成什麼影響，他們也都難以達成共識。

如果我們將討論的時間範圍擴大一些，把通用人工智慧，特別是達到或超過人類智能水平、使得生命3.0成為可能的通用人工智慧涵蓋進討論的話題，那麼他們的分歧就更大了。與包括下棋軟體等狹義人工智慧不同的是，通用人工智慧幾乎可以完成任何目標，包括學習。

有趣的是，關於生命3.0的爭議圍繞著兩個而不是一個問題展開，這兩個問題分別是「何時」和「什麼」，即如果生命3.0真的會出現，那何時會發生？這對人類意味著什麼？我認為，存在三個截然不同的學派。

這三個學派都值得我們認真對待，因為它們之中都包括一些世界頂尖的專家。

它們分別是：數字烏託邦主義者（Digital Utopians）、技術懷疑主義者（Techno-Skeptics）和人工智慧有益運動支持者（Members of The Beneficial-AI Movement）。

三個學派關於強人工智慧的爭議

註：大多數關於強人工智慧(7)的爭議都圍繞著兩個問題：如果真的會發生，何時會發生？它對人類是一件好事嗎？技術懷疑主義者和數字烏託邦主義者都認為，我們不需要擔心，但二者不擔心的原因卻很不同：前者相信，人類水平的通用人工智慧在可預見的未來不會發生，而後者則認為，它當然會發生，但可以肯定地說，這絕對是一件好事。人工智慧有益運動支持者則覺得，擔憂是有必要和有用的，因為人工智慧安全方面的研究和討論會提高「結果是好事」的可能性。盧德主義者則相信，結果一定是壞的，所以反對人工智慧。

關於超級智能的常見誤區

一個流行的錯誤觀點是，超人類水平的通用人工智慧一定會在21世紀內實現。實際上，歷史上充滿了天花亂墜的技術宣言。核聚變發電廠和飛天汽車在哪兒呢？照某些人的承諾，這些東西應該早就實現了。同樣地，人工智慧在過去也被一次又一次地吹捧上天，始作俑者甚至包括一些人工智慧的奠基者，比如，提出了「AI」這個概念的約翰·麥卡錫、馬文·明斯基、納撒尼爾·羅切斯特和克勞德·香農一起寫出了下面這段過於樂觀的預言，當時，他們打算用「石器時代」的計算機大幹兩個月，來實現一些目標：

1956年夏天，我們將在達特茅斯學院進行一項由10個人組成的為期兩個月的人工智慧研究……研究的主題是：如何讓機器使用語言、進行抽象思考和形成概念，讓它們解決目前只能由人類解決的問題，並自我改善。我們認為，如果仔細甄選一些科學家，組成一個團隊，在一起工作一個夏天，就能在一個或多個問題上取得重大進展。

然而，與此相反的另一個流行的錯誤觀點是，超人類水平的通用人工智慧在21世紀內一定不會實現。關於我們離實現它還有多遠，研究者的評估範圍很廣泛，但我們並不能信誓旦旦地肯定21世紀內實現它的可能性為零。技術懷疑主義者曾做出過許多令人沮喪的消極預測，後來也被證明不符合事實。

歐內斯特·盧瑟福（Ernest Rutherford）可能是他那個年代最偉大的原子核物理學家，他在1933年說，核能就是一派空談，而不到24小時，美國原子核物理學家利奧·西拉德（Leo Szilard）就創造了核鏈式反應；1956年，英國皇家天文學家理察·伍利（Richard Woolley）認為，太空旅行「完全是一派胡言」。

這個誤區最極端的觀點是認為超人類水平的通用人工智慧永遠不會到來，因為在物理學上不可能實現。然而，物理學家知道，大腦中的夸克和電子組合起來不正像一臺超級計算機嗎？並且，沒有哪個物理定律說我們不能建造出比大腦更智能的夸克團。

有人對人工智慧研究者進行了一些調查，請他們預測多少年之後，人類水平的通用人工智慧實現的可能性將達到至少50%。所有這些調查的結果都一樣：世界頂級專家各執一詞，因此我們根本不知道答案。在波多黎各會議上，我們也進行了一次這樣的調研，答案的平均數是2055年，但有些研究者認為需要幾百年，甚至更久。

還有一個相關的誤區是，認為擔憂人工智慧的人總以為它不出幾年就會降臨。實際上，有記錄顯示，大多數擔憂超人類水平的通用人工智慧的人都認為，它至少還有幾十年才會實現。不過，他們認為，只要我們並不是百分之百肯定，它一定不會發生在21世紀內，那麼最好儘快開展人工智慧安全性研究，防患於未然。

我們在本書中會讀到，許多安全問題的解決是非常困難的，可能需要幾十年的時間才能解決。因此，好從現在就開始進行研究，才是明智之舉，而不是等到某些猛灌紅牛的程式設計師決定開啟一個人類水平的通用人工智慧的前夜才開始亡羊補牢。