奇點時代:未來會屬於超人類嗎?

steemit

利維坦按：和其他科研領域一樣，人工智慧方面的研究也無時無刻不在發展。或是前沿理論預測，或是基礎實驗應用，這一領域自一誕生就未曾停滯。但和其他領域不同的是，人工智慧研究似乎充斥著危險的氣息。這一領域的發展觸動了許許多多人關於自身存在的擔憂。

與傳統的危險研究課題（比如大規模殺傷性武器）不同的是，人工智慧的研究人員甚至還沒法完全弄清楚自己研究的東西究竟是什麼。科技向善是美好期望（事實上科研人員也在朝這個方向努力），但大多數研究人員認為，強人工智慧將會在50年內出現，人類的未來將會無可避免因此而發生劇烈演化。邁入不朽還是走向滅亡，恐怕只有到那時才會有答案。

1956年6月，幾十個科學家、數學家聚集在美國的達特茅斯學院開會。

期間，大多數參會者在紅磚砌成的漢諾瓦酒店安頓了下來，他們漫步穿過這個比美國獨立歷史還要年長的古老校園，走到數學樓的頂層。會議上常見斬釘截鐵的斷言或難以駁倒的假設，充斥著天真與浪漫。而這些特徵，日後也成了整個領域的特徵。

這個領域很奇怪，奇怪到開會的時候都還沒有名字。控制論、自動機理論、複雜信息處理……當時的人們對於如此一個全新的世界有著各種不同的名稱，但每個名稱都有概念取向的偏重性。

參會人員合照。 medium

在這片密布參天大樹、森林般的校園裡，他們所討論的是如何建造一臺會思考的機器，一臺可能會觸發全人類生存恐懼的機器。

他們決定用「人工智慧」為其命名。

— · —

達特茅斯會議的參會者大多來來往往，算法資訊理論的發明者雷·所羅門諾夫（Ray Solomonoff） 卻在那裡呆了整整一禮拜。

作為人工智慧研究的先驅，此人一直關注著人工智慧的潛在利益和危險，並在1985年首次闡述了他有關「無限點」（infinity point）的概念：

假設按照目前的人類研究能力水平，四年內可以將人工智慧的能力提高一倍，接下來再翻一倍只需兩年，再接下來只需一年……在有限的時間裡，人工智慧的能力將會被無限放大。

這個概念被未來主義者雷·庫茲韋爾（Ray Kurzweil）取用並發展成為了他那飽受爭議的「奇點理論」。包括庫茲韋爾在內的大量奇點主義者認為：未來技術發展不可逆轉且不可控制，將會帶領人類文明走向一個難以估測的境遇。

雷·庫茲韋爾，今年已有71歲高齡。 Pinterest

一旦人工智慧學會如何進行遞歸的自我改進，每一次改進都會使其更快發展，就像在滾雪球。

這樣的猜測被庫茲韋爾用加速回報定律進行了描述，他在論文中是這樣解釋的：

在科技的早期階段，輪子、火、石器——費時數萬年慢慢演進才普及開來。1000年前，諸如印刷術等典範轉移，也用了百餘年才被廣泛採用。而今天，重大的範式轉換，例如行動電話及全球網際網路，則只消數年的時間就大行其道了。20世紀100年來的進步，以2000年的速度只需要20年就能完成——因為當年的發展速度是20世紀平均值的5倍，而人類在21世紀的進步將是20世紀的1000倍。

（www.kurzweilai.net/the-law-of-accelerating-returns）

pinterest

如果我們按人工智慧的能力來給他們分級的話，現在被我們廣泛應用到各行各業的人工智慧仍處於弱人工智慧階段，而強人工智慧將會在各方面都達到人類的水平，與人相當。我們仍處於由弱到強的進步階段。

什麼是智力？20世紀初為公立學校的低能兒童發明智商測試的心理學家阿爾弗雷德·比奈（Alfred Binet）的回答非常謹慎——智力就是「我的測試所測量的東西」。在優生學盛行的時代，智力被迫具有了標尺化的實際數值。但這一狹隘的標準顯然不適用於強人工智慧時代。

弱人工智慧怎樣才能變強？基礎條件是硬體水平的進步，但更重要的是策略。

目前讓人工智慧變強的主要策略大致有三種。首先是讓人工智慧學習人腦，模擬人腦進行架構，組成人工精神網絡。我國清華大學類腦計算研究中心施路平團隊研發的「天機芯」人工智慧晶片，結合了基於神經科學的類腦計算和基於計算機科學的人工智慧。今年8月，第三代「天機芯」登上了《自然》（Nature）封面。

第二種策略是指模仿生物的進化。如果人腦太難模擬，就模擬人腦的演化過程。這種策略將人工模擬一個演化環境，使得人工智慧自己想辦法進化。

第三種策略，就是讓人工智慧自我改進。與其思索如何製造更強大的人工智慧，不如製造一個研究人工智慧的智能，讓它代為研究。

而根據加速回報定律，人工智慧自我改進的幅度最終將會迎來指數式的爆發，以難以理解的失控速度進步（即所謂的「智能爆炸」，既是加速回報定律的最終表現，又會是超人工智慧出現的必要條件），最終成為超級智能。

按照他的計算，電腦將在2029年成為強人工智慧，而等到2045年，超級智能會帶領人類進入一個全新的歷史篇章——奇點時代。

— · —

奇點一詞出自宇宙學，意味著一條明確的分界，邁過去之後原有規則將會徹底消失，最早是被馮·諾伊曼用到對人類進化的描述中的。而庫茲韋爾的理論，無疑將奇點從一個有趣的理論推測轉變為一場席捲全球的社會活動。

steemit

在他看來，超級智能的能力將不再是人類所能理解的，就像一隻螞蟻無法理解人類一樣。憑藉著指數爆炸後的智能水平與全球互聯，它甚至能夠準確回答幾乎所有問題，比如如何打造一個時間機器。

它還能延長人類壽命。想像一下經wifi控制的納米機器人在你的血管裡前行，修復受損部位，摧毀癌症細胞，屆時疾病和衰老都不再是問題。

liveletlearn

或者是意識上傳，全人類共聯，進化成單獨的群體意識，在雲端實現永生。

總有一天，超級智能將徹底改變「人類是什麼」的答案，就好像自然進化的目標是終極智能，而智人只是通往目標之路上的一個必經階段。

正如科幻作家維諾·溫格（Vernor Vinge）所說：我們正站在變革的邊緣，而這次變革將和人類的出現一般意義重大。

聽上去既緊張又興奮。但庫茲韋爾說的話靠譜嗎？

此人有點一言難盡。一方面他年少有成，發明工作碩果纍纍，在多個領域被各所頂尖名校授予了21個名譽博士學位，應邀在谷歌當過工程總監，創辦奇點大學，是《華爾街日報》筆下「永不停歇的天才」，《福布斯》口中的「終極思想機器」，還被比爾·蓋茨稱為「我認識的人裡對人工智慧預測最準確的人」。

但另一方面，此人又被CBS（哥倫比亞廣播公司）稱為「垃圾科學的銷售員」，一個招搖撞騙的欺詐者，90年代創立的公司還曾被美國證監會起訴證券詐騙。認知科學家侯世達認為，庫茲韋爾的觀點就像是徹底攪和在一起的好想法和廢話，讓你分不清是好是壞。（www.sec.gov/litigation/litreleases/lr15187.txt）

他成功預測了蘇聯解體，計算機在2000年之前擊敗人類最佳棋手，還預測到了上世紀90年代的全球網際網路的爆炸性普及。

IBM開發的深藍計算機在1997年戰勝了當時的西洋棋世界冠軍卡斯帕羅夫（Kasparov）。 wiki

事實上在他2010年發布的報告《我的預測是如何實現的》中，庫茲韋爾聲稱自己對未來一共做了147個語言。其中115個完全正確，12個基本正確，17個部分正確，只有3個是錯誤的。準確率達到了86%。

但在另一番事實上，批評者認為庫茲韋爾有著不止3個完全錯誤的預測，並指責即便是他那些成功的預測，都是大概率自然就會發生的事件。

為了能夠親眼見證奇點時代的到來，庫茲韋爾希望自己能活得更久一些，因此堅持每天服用150-210種維生素和礦物質補充劑，每周到醫院接受一次「出於長壽治療目的」的靜脈注射。

假若死於奇點到來之前，在他看來將會是一場悲劇，就像一個在停戰協議宣布的前一秒壯烈犧牲的士兵。因此，作為奇點主義者的他同時又是一個超人類主義者（關於超人類主義和永生的話題，我們後天再詳細討論）。

雷·庫茲韋爾。 returnofkings

至於他的奇點理論，支持者認為他是在機器中尋找上帝，宗教保守主義者則認為他是在褻瀆上帝——儘管在某種觀點上，他所描述的「超級智能世界」非常契合基督教末世論中描述的「天國大收割，新世紀開始」。

但其他研究者怎麼想？未來真會那麼美好嗎？

— · —

牛津大學哲學系教授尼克·博斯特倫（Nick Bostrom）曾提出這樣一種可能：當我們創造出第一個超級智能的時候，我們可能會犯一個錯誤——給它設定的目標將引導它消滅人類。（www.nickbostrom.com/existential/risks.html）

尼克·博斯特倫個人主頁的封面（是本人）。 Nick Bostrom

比如說我們讓超級智能去計算圓周率，結果為了獲得更多存儲介質，它利用納米機器人分解掉了包括我們人類在內的所有物質，最後把整個地球轉化成了一個巨大的硬碟。

它對人類並沒有惡意，就像你剪頭髮時也不會對頭髮有惡意。

很顯然，這樣的人工智慧會比人類友好型人工智慧更容易製造。一個友好的人工智慧需要保持自己某一部分的目標結構保持不變，以使其與人類價值觀保持一致，這才是最難的。

博斯特倫教授認為，未來我們將會面臨兩種可能的結果——永生和滅絕。而包括庫茲韋爾自己也承認，快速發展的技術可能會帶來嚴峻的後果，但他更傾向於樂觀地思考。「技術進化是生物進化的延續，」他說，「這是一個非常自然的過程。」

但在2015年的國際人工智慧聯合會議上，包括霍金、比爾·蓋茨、埃隆·馬斯克等上千名行業大拿聯名籤署公開信，敦促次聯合國禁止開發自主化武器。

霍金警告說：人工智慧要麼在瘋狂追求自身目標的過程中毀滅地球，要麼意外地消滅人類，要麼不是意外。馬斯克則認為，我們很有可能會「意外地」製造出一些邪惡的東西。科技向善在此時就顯得尤為重要。

hatdot

與此同時，還有大量科學家對超級智能是否會與人為善表達了高度懷疑——這並不是一件意料之外的事。

超級智能的正邪爭辯暫擱不表。只是，我們離這些事還有多遠？

— · —

就在去年，作家詹姆斯·巴特（James Barrat）在一場強人工智慧大會上做了次調查。他詢問受試者認為強人工智慧會在哪一年前出現，並給出四個選項：2030年、2050年、2100年、永遠不會。

結果42%的回答者認為強人工智慧會在2030年之前出現，25%認為是2030-2050年，20%認為2050-2100年，10%認為要等到2100年以後，而只有2%認為永遠不會出現。（aiimpacts.org/agi-11-survey/）

exdez via Getty images

類似的調查博斯特倫在2013年也做過。他在一系列會議上向數百名人工智慧領域的專家提出問題：假設人類科學活動繼續，不會出現重大的負面幹擾。你們覺得什麼時候有10%的可能出現強人工智慧，什麼時候機率是50%，什麼時候是90%？

取各自答案的平均值，博斯特倫得出結論：

人們認為10%可能出現強人工智慧的年份是：2022年

人們認為50%可能出現強人工智慧的年份是：2040年

人們認為90%可能出現強人工智慧的年份是：2075年

（www.nickbostrom.com/superintelligence.html）

這意味著只要你足夠年輕，超過一半的專家都認為：你將在有生之年看到強人工智慧的出現。

那麼超級智能呢？博斯特倫的問卷同樣涉及了這一點。調查結果顯示：平均意見認為兩年內強人工智慧發展成超級智能的可能性只有10%，但30年內發生的概率高達75%。

clue

不過博斯特倫認為，目前來看無論誰所猜的時間都沒有任何準確性可言，我們還沒到能猜中答案的那個階段（如果存在的話），要麼即將發生，要麼需要更久，要麼不發生，都有可能。

近幾年來，研究者都在刻意避免「奇點」的說法，以免引起不必要的聯想。人工智慧也一直在成長，似乎非常有可能成為人類誕生以來最有力的工具——不遜於火和語言。

去年早些時候，人工智慧在史丹福大學的閱讀理解測試中擊敗了一組人類對手。他們都需要先「閱讀」維基上一系列關於成吉思汗和阿波羅太空計劃的條目，然後比賽誰能更準確地回答相關問題。這次勝利被視作一個「裡程碑」。

而就在幾天前，谷歌開發的量子計算機Sycamore在200秒內完成了世界上最快的超級計算機Summit 1萬年才能完成的特定問題計算。谷歌聲稱通過Sycamore已經實現了「量子霸權」。（www.nature.com/articles/s41586-019-1666-5）

變化一直在發生。不管我們關心或不關心，參與或不參與，前沿科技無時無刻不在改變我們的生活。如何引導科技向善發展，是所有科研人員需要思考的問題。

毫無疑問，哥倫比亞的霍徳·利普森（Hod Lipson）是這一方面的專家。早在2007年，利普森教授就曾和他的「自我感知」機器人共同席捲了全球科技媒體。與當時其他機器人不同的是，利普森製作的機器人將脫離人為灌輸的物理、幾何或自身結構程序，而是完全通過實驗來學習如何操作。

在經歷一段時間的手舞足蹈和密集計算之後，它成功開始學習處理複雜情況，包括自我修復和用記號筆書寫文本。

roboticgizmos

通過模擬人類的學習過程探究人工智慧的意識水平，利普森這項工作的成功有如一劑強心劑，打到了每個研究前沿科技的工作者心坎裡。

而在12年後的今天，利普森教授又帶來了新玩意。

由其團隊研發的仿生群體「粒子機器人」可以像活細胞一樣實現自主運動，其仿生系統比傳統機器人有著更高的可擴展性。最關鍵的是：在意識研究與智能控制之外，利普森的研發同時也意味著環境、醫療等多方面的巨大應用潛力。

正如其他科技研究一樣，利普森希望他的工作能更好地造福人類。當被問及機器人最後是否會統治宇宙，利普森回答說：「科技是一面鏡子，反映了我們的意圖和作為，同時也放大了我們的心思和舉動。它的發展方向，取決於開發者的意圖。」

而他本人，也會在後天北京的騰訊科學WE大會上與各路同行一起分享自己的成果。

11月3日全球7位權威科學家·齊聚騰訊科學WE大會

潛入顱內宇宙、捕捉幽靈粒子解碼癌細胞免疫、展開星塵與弦

騰訊將帶你去到很多個小宇宙邀你一同探索前沿科技，建設基礎科學

科學研究理應被更好地應用。比如賓夕法尼亞大學的卡爾·瓊（Carl June）教授（與會嘉賓之一），他帶領團隊開創的CAR-T細胞療法成功治癒了一名急性白血病復發的小女孩，使其成為世界首例通過該療法治癒癌症的臨床病人。這項強大的醫療手段，則完全得益於基因工程技術的更迭。

除了能在短期內實現應用的基礎研究建設，前沿理論研究同樣必不可少。同樣會到現場的Brian Greene，他的研究領域則是超弦理論。但美劇《生活大爆炸》中有個場景，謝耳朵帶著Amy去聽一個學界大牛的報告，這個學界大牛就是布萊恩。

此外還有我國的高能物理學家王貽芳（帶領團隊測出「幽靈粒子」中微子振蕩模式，被譽為「中國本土迄今為止最重要的物理學成果」），探究地心內部兩個巨大「腫瘤」的地質物理學家珍妮弗·傑克遜（Jennifer Jackson），《Nature》雜誌創刊150年以來的首位女性總編輯馬格達萊納·斯基博（Magdalena Skipper），以及前文提到的」天機芯「研發團隊成員施路平，都會到場進行交流。

...

從宇宙到地心

從免疫細胞到類腦晶片

密集又刺激的燒腦旅程即將開始

沒法親臨現場？

點擊閱讀原文，大會直播間就在那裡

始於2013年的騰訊科學WE大會，七年間邀請超過60位世界頂尖科學研究者登臺，希望連接最具突破性的科學發現，和最有前瞻性的技術思想，探索人類改變未來的可能性，已成為國內最有影響力的科技盛會之一。

除了騰訊科學WE大會，今年騰訊還將整合旗下另外兩大科學類活動：騰訊醫學ME大會和科學探索獎頒獎典禮，發起「騰訊科學周」，舉辦全球性科學探索盛事。

11月4日，騰訊將攜手旗下騰訊醫典，聯合《NEJM醫學前沿》共同打造首屆騰訊醫學ME大會。邀請全球頂尖醫學科學家共同探索生命奧秘。

而明天晚上的騰訊「科學探索獎「頒獎典禮也會在北京舉行。這是由騰訊基金會攜手眾多科學家共同發起設立的獎項，旨在激勵青年科技工作者。騰訊基金會將投入10億元人民幣資助該獎項。

觀宏於精微，微塵見大千

2019騰訊科學WE大會

帶你在「小宇宙」裡看見大宇宙的輪廓