【專訪】《技術奇點》作者默裡·沙納漢:人類水平的人工智慧註定會...

近年來，關於「人工智慧即將取代人類工作」的討論不絕於耳。隨著語音助手系統、無人駕駛汽車等人工智慧技術的日益成熟、BAT等中國科技巨頭對該領域不斷加碼投入，我們對人工智慧未來的應用場景也愈發清晰起來。

然而有一位業內人士認為，公眾和媒體對人工智慧的理解依然不足，其中最大的謬誤是把科幻電影和現實生活混為一談。

默裡·沙納漢（Murray Shanahan）是倫敦帝國理工學院認知機器人學系教授，負責指導動力學組的研究。他畢業於帝國理工學院、劍橋大學，從2006年其擔任帝國理工學院教授至今。沙納漢是奧斯卡獲獎影片《機械姬》的科學顧問，研究跨越人工智慧、機器人學、邏輯學、動力系統、計算神經科學和哲學思想等諸多領域。或許正是因為親身介入了科幻電影的製作，他對時下人工智慧在普通大眾心目中的形象有更準確的認識：

「外行人，尤其是媒體，在討論人工智慧時常常會犯兩個相互對立的錯誤。第一個錯誤就是產生『人工智慧已經存在或馬上到來』這一錯覺。一些專門的人工智慧技術確實不斷滲透到我們的日常生活中，但人類水平強人工智慧擁有常識和創造力，遠非現在的人工智慧技術可比。……同一批懷疑者也可能會犯另一個錯誤，就是認為人類水平人工智慧永遠不會出現。」

為了糾正這些謬誤——更重要的是向公眾傳播人工智慧這一即將在未來發揮巨大作用的領域相關知識——沙納漢撰寫了《技術奇點》一書。他在書中提出，顛覆性的人工智慧將會有兩次浪潮，一次是一系列具有互補性通用認知能力的專門人工智慧技術逐漸開始改變人們的生活和工作形態，另一次則是人類水平人工智慧，即超級智能的出現。「第一次浪潮很可能會發生：今天已經出現了無人駕駛汽車和智能數字個人助理，從中可以清楚地感受到第一次浪潮的悸動，它很可能在21世紀20年代全面展開。第二次浪潮距離我們更遙遠，也很難準確預測其出現的時間，但它肯定會產生更大的潛在影響。」

人工智慧會搶走人類的工作機會嗎？沙納漢的答案是肯定的，但他不像尤瓦爾·赫拉利在《未來簡史》中展現得那般悲觀。事實上，他認為我們現在還對未來人工智慧對人類社會的潛在影響一無所知。但重要的是，我們需要為所有可能會出現的情況做好相應的準備。「如果人類水平人工智慧註定會發生——也許在十年、二十年、三十年之後——那麼重要的是我們要如何負責地去開發。」他說。

倫敦帝國理工學院認知機器人學系教授默裡·沙納漢（Murray Shanahan）。

界面新聞：是什麼促使你寫了《技術奇點》這本書？

默裡·沙納漢：《技術奇點》是一本面向大眾讀者的書。讀者也許接受過一些科學教育，但並不精通科學、計算機之類的知識。所以這本書的目的是向大眾讀者傳播人工智慧這一我認為非常重要的領域的相關知識，它在當下的發展程度，未來又將朝哪個方向發展。

這本書的標題本可以是「人工智慧的未來」，這可能是更好的一個標題，因為「技術奇點」這個概念是有一點背景知識需要了解的。你也許知道雷·庫茲韋爾（Ray Kurzweil）的《奇點臨近》（The Singularity Is Near）這本書。在那本書裡庫茲韋爾指出，由於指數級快速發展的科技力量，特別是人工智慧和神經科學，我們即將面臨劇烈的社會變動，進入史無前例的大變革時代，社會面貌將無從想像。這就是《技術奇點》想要表達的意思。

界面新聞：鑑於目前市面上存在的人工智慧仍然較為原始，你在書中的很多描述看起來像是一種思維實驗。你的論點的事實基礎在哪裡，想像未來的困難之處是什麼？

默裡·沙納漢：你說得很對，這也是很重要的一點。我認為公眾太容易混淆這一點了。特別是看了科幻電影和諸多媒體文章後，人們很容易將科幻和現實混為一談。在這本書裡的確有很多思維實驗，而且我對哲學問題非常感興趣，這些當然是建立在我們目前已開發出來的能力的基礎之上的，然後我們根據這些來設想未來的諸多場景

我不認為我們能預測未來將會怎樣，所以我想像了一系列未來可能出現的場景。然而有一件事是我們現在就確認無疑的：我們不知道如何開發出人類水平人工智慧，但這正是我們常常在科幻電影裡看到的東西，也是令媒體感到興奮的東西。這也是《技術奇點》的論述前提。但說真的，我們不知道如何實現，也不知道我們何時能夠知道如何實現。

我認為懷有不同目的的人對想像未來的困難之處有不同的理解。科幻小說家或電影製作人的主要目的是娛樂大眾，他們並不一定需要提供令人信服的答案，只要能夠給讀者或觀者提供感官刺激就好了。但如果你真的想要預測未來、如果你想通過看清未來幾年的趨勢來了解自己應該投資那些公司，那你就要儘量避免投機猜測，你會希望自己的預測是有事實依據的。

另外這也取決於你在看多遠的未來。想像五年以後的世界會容易很多，我們對五年以後的科技會變成怎樣還是有些值得說道的東西的。比如說，我認為在五年的時間裡會變得越來越重要的一項技術是無人汽車。要將在路上看到完全自動駕駛的汽車也許還需要再等等，它們還沒有能夠像人類那樣處理複雜路況的能力，但如果面對的是比較標準統一的路況，比如說高速公路，我認為我們會看到越來越多完全自動駕駛的汽車和卡車。

另外一個領域是語音助手系統。當然我們現在有了蘋果Siri和亞馬遜的Alexa。它們現在的表現已經令人印象深刻了，但你還不能和它們進行真正意義上的對話。如果你問這些語音助手系統，我需要買一些麵包，它們是不知道你在說什麼的。它們也許可以告訴你附近售賣食物的超市或商店的地址，但他們並不明白麵包是一種你拿來吃的食物，因為它們本身沒有食物或飢餓的概念，而只是把一些單詞關聯在一起。那些系統對世界沒有自己的理解。所以如果你要求他們把一些截然不同的事情聯繫在一起，比如說』今天晚上我要外出三個小時，我會餓的，所以需要現在吃點麵包』，當下的語音系統是缺乏這種常識的。但我認為隨著時間推移，我們將看到語音系統越來越有常識感，我們越來越能夠與它們展開真實的對話。

默裡·沙納漢：我的書裡討論了好幾種不同的時間段。我實際上在書中談到了人工智慧技術顛覆的兩次浪潮。我們可以充滿自信地說第一次浪潮是肯定會出現的，而且現在已經開始了。在這個浪潮裡我們能看到無人汽車以及當今產業裡人工智慧與機器學習的各種應用。這已經在發生了，而且即將取得爆發式發展。但除此之外我還談到了第二次顛覆浪潮。那將取決於如果——注意這裡有個大大的「如果」——我們真的能夠創造出人類水平人工智慧，就像我們在電影裡看到的那樣。當人工智慧強大如斯，真的很難語言未來世界會變成怎樣。

界面新聞：人工智慧、大數據、雲計算、區塊鏈這些詞在當下被熱議。你覺得它們將在何時徹底改變我們的生活？

默裡·沙納漢：大數據對於人工智慧來說非常重要。當下人工智慧取得成功以及人工智慧的未來發展——特別是未來五年的商業化應用——都是基於大數據的，因為人工智慧需要依靠機器學習用大量數據去訓練。計算能力也或不可缺。你需要足夠多的計算能力去消化如此龐大的數據。所以大量數據促成了機器學習革命，這些東西都是環環相扣的。

就雲計算來說，對計算能力的需求是和機器學習綁定在一起的。雲計算意味著一家實驗室或一家公司無需擁有所有的計算能力，只需要向別人購買就行了。你也許有一個需要機器學習的艱巨任務，需要很多計算機來分析數據，也許需要訓練三天你的新系統，但你的公司不想在計算機設備上投入百萬美元，僅僅只是為了那三天的訓練。你只想要購買三天的計算能力。這就是雲計算的存在意義。這能夠讓一家創業公司在三天的時間裡擁有價值千萬或一億的計算能力。

界面新聞：在書中你就人類水平人工智慧甚至超人類水平人工智慧對社會的影響做出了若干種可能性分析。你個人是如何看待科技進步的？這是好事還是壞事，或者爭議過大無法下判斷？

默裡·沙納漢：我非常希望這會是件好事。我認為人工智慧具有巨大的潛力，能夠幫助我們解決許多世界性難題。醫療是一個例子。我認為人工智慧變革醫療領域的潛力是巨大的。我們可以使用機器學習技術來為病人量身定製治療方案，這很有可能會實現。我們也能加快診斷速度。如今只有經驗豐富的專家經過諸多診斷流程才能在掃描中發現腫瘤，但通過人工智慧和機器學習我們能大大加快這一速度。在這個方面人類的受益將會是巨大的。

另外一個例子是谷歌數據中心正在使用DeepMind的技術來提高能源使用效率。他們已經做到了將谷歌數據中心的能源消耗降低15%。這是很大的一個進步。這對環境有好處。如果我們能夠廣泛應用這個技術，這對全人類都是有好處的。這個技術就是利用機器學習來搞明白如何關閉排風扇，什麼時間開啟什麼時間關閉。這是一套複雜的控制系統，能夠使用許多額外信息（比如天氣預報）來確保降溫措施儘可能地節省能源。

界面新聞：你認為現在媒體對人工智慧的宣傳言過其實，因為現在的人工智慧的能力遠低於預期。但一個無可爭辯的事實是人們已經開始對自動化感到焦慮了。我們在害怕什麼呢，我們是否有理由感到害怕？

默裡·沙納漢：人們現在都在談論「顛覆」，這真是時下的一個熱詞。行業顛覆的犧牲者就是那些失去工作的人。有人失去工作和生計當然是個悲劇，我認為每一個在科學技術工程領域工作的人都應該想一想自己在做的事可能會引起的道德後果。當你創造了一個技術，卻因此造成了大量人員失業，這是非常悲哀的，所以我們當然應該慎重考慮。

我們應該如何解決這個問題？現在很難知曉，因為經濟發展的步伐不會停下。如果你能夠通過顛覆行業來賺錢，肯定會有人去做的。現在我們很難去講具體對策是什麼，但科學家們是否就應該放棄研究了呢？我的答案是否定的。我認為我們都應該去盡力推動人工智慧的發展，但要確保我們研發出來的技術能夠令人類受益。對我來說，我偏好那些優化能源利用和促進醫療發展的技術應用。

界面新聞：你是否認為美國和中國將引領人工智慧的發展？

默裡·沙納漢：我認為美國和中國已經在引領人工智慧的發展了。美國從一開始就在人工智慧領域獨領風騷。但毫無疑問，中國正在迎頭趕上。這裡對人工智慧的投入非常大，很多中國作者在相關刊物上發表論文。

界面新聞：你提出人工智慧技術將會出現兩次浪潮，但很顯然的是即使是在第一次浪潮裡人類社會就會經歷巨大的變革了。很多研究指出，許多工作將被自動化，而這種變革的深度和廣度將會是前所未有的。你認為未來的職場將會變成怎樣？

默裡·沙納漢：雖然我們現在還無法回答，但我們應該為那些我們能夠想像得到的場景做好準備。我們可以確定的是人工智慧很快就將取代很多工作，通常這是人工智慧和其他機器的結合。這將很快對職場帶來很大的衝擊。想想未來的社會將如何應對這一情況吧。

我們會有一些不同的發展方向。其中一種方向是類似工業革命，許許多多我們現在無法想像的新工作將被創造出來。比如說，未來可能會有需要人類深入運用人工智慧的工作。也許一位知識工作者將在人工智慧助手的幫助下更高效地工作。這樣就不是人類被人工智慧取代了，而是人工智慧助手讓人類專注於更有創造力和創新性的工作。我們就不會在短時間內被人工智慧取代。這是看待問題的其中一種方式：許許多多的新工作機會將出現，只不過我們現在仍然無法想像。

另外一種情況是，創造出來的新工作機會不足以彌補我們失去的工作機會。在這種情況下，我們就會面臨更多困難。也許我們就應該考慮社會要如何應對工作崗位不足。所以現在有很多人討論全民基本收入（universal basic income），另外一個概念是全民基本供養（universal basic provision），意思是說能源、食物、公共運輸等一切生活所需將全部免費。當然這都不會是五年內發生的事，也許在十年內我們真的需要更嚴肅地討論諸如此類的問題。

默裡·沙納漢：這一點上我改變過想法，這取決於我在和誰交談。所以我保留之後改變想法的權利。當下我對人工智慧是否會顛覆社會秩序保持謹慎樂觀的態度。我認為這不太會發生。當然在西方和在中國事情的發展可能會不太一樣。這很難講。我認為將會有足夠多的新工作機會出現，人類社會不會有事的。

界面新聞：所以你是反對尤瓦爾·赫拉利在《未來簡史》中做出的判斷了？他認為人工智慧將奪取人類的工作，99%的人將墮入「無用階級」。

默裡·沙納漢：他的確對未來有種更悲觀的態度，他也許是對的。人們，特別是媒體，喜歡有人能夠堅定不移地給出確切答案。這就像你投硬幣，有兩個人站在面前。有一個人認為將會是硬幣的正面，另一個認為是反面。但實際上沒有人真的知道答案。你投了硬幣，最後是正面朝上，然後其中一個人就說，「看吧我早就說過！我知道我是對的！」我認為我們就在一個類似的情形中。媒體不喜歡聽到別人說我們不知道答案，但我的確認為我們就是不知道。當然你可以去和專家討論，經濟學家也許會有更好的論據來支持觀點。儘管如此，我認為我們面臨著太多不確定性。我不像赫拉利那樣悲觀，但我也許是錯的。

很多人擔心社會不公。人工智慧這樣的新技術將會帶來巨大的經濟增長，但問題是誰將從中獲益？創造出來的多餘財富是能夠普惠大眾還是集中在少數人手裡？我不認為是前者。受益的將會是科技富豪們，但我不認為他們會認為這是一種光明的前景，他們也不希望社會貧富差距過大。所以現在在矽谷有很多人在討論全民基本收入，這可是實實在在地在談把自己賺到的錢捐出去啊，不是嗎？因為他們不想看到未來社會比當下社會更加不公平。

默裡·沙納漢：我常常以水管工為例，這樣的工作很難被自動化取代真的令人感到有些驚訝。事實上，如果你家裡漏水，水管工需要上門來查看找到問題根源。他們每次工作都要去從未去過的家庭，拆除一些東西，找到有問題的水管。這需要掌握一些常識——你需要了解家庭中使用的物件來找到漏水的地方在哪裡，如何拆除問題水管。要做到這些，你既需要靈巧的手工活，也需要處理新狀況的能力，還需要掌握常識，這一些都讓水管工成為最不容易被自動化的工作之一。

另外一方面，如果你能夠從頭改造環境，讓它易於打理，這就是另外一回事了。如果你能夠從頭設計並建造房屋，讓每一座房子裡的水管布局都完全相同，讓某一種特定形狀的機器人能夠接觸到水管，那人工智慧就會有用武之地。農業也是同樣的道理，如果你有很大的一片地，所有的小麥都在規矩平整的地裡生長，那麼收割小麥也可以被自動化。人們就是這樣改造工廠的。幾十年來汽車製造都是流水作業。但棘手的是那些無法精確設計的、機器和電腦還無法應對的地方。

另外一種類型當然就是那些需要創造力的工作。我認為我們需要很長一段時間才能讓人工智慧取代建築師或室內設計師的工作，這些領域需要人類的智慧。當然，我們可以想像創造出人工智慧室內設計師，但它們的設計會比較千篇一律。如果你想要一些獨特的、原創的、有趣的設計，在很長的一段時間裡我們仍然需要人類設計師。

還有一種類型是需要人際交流的工作。比如說醫療。很多病人和老人不想被機器人照顧。當然每個人或每個社會情況會不同，比如說日本人似乎就更能接受機器人，但在英國老人們對機器人護工會非常抗拒。在很多情況下我們希望得到人的陪伴，如果你是一個老人，你更希望跟人說話。

界面新聞：我們對未來人工智慧的討論實際上也是對人類價值觀和道德觀念的重新思考。如果我們想在今後充分利用人工智慧技術，有哪些問題是迫切需要解決的？

默裡·沙納漢：我認為最迫切需要解決的道德問題是未來就業率的問題。那些對未來有更多洞察的專家應該就此展開更多討論，在政治領域也應該有更多人開始探討如果大規模的技術失業出現了應該如何應對。這絕對是一個重大問題。我還認為如果你所在的公司有計劃顛覆行業，應該想一想那些將為此失業的人，而不是不計後果地盲目向前。「負責地顛覆」，這是我的信條。

另外是關於隱私的問題。在大數據時代，企業通常在獲取消費者大量數據的同時很少取得消費者的同意。我們所說的「同意」基本上就是沒有仔細閱讀條款就點擊「同意」按鈕。你向企業交出了大量信息，但與此同時你也犧牲了許多隱私。就某種程度而言，你幾乎不可能不那麼做，因為如果你是一個不玩Facebook的年輕人，基本意味著你脫離了美國和歐洲社會，所以沒有哪個年輕人會仔細去思考那些條款意味著什麼並拒絕點擊「同意」。Facebook只是其中一個例子，還有很多其他公司都在做同樣的事。

這樣你就交出了大量的數據。當大量數據和機器學習結合起來，就能將個人分析做到細緻入微的程度。我認為個人數據應該被妥善運用，謹防被濫用或操縱。當然，企業並不只是想要濫用數據，他們想做的是操縱你去點擊某些網站連結，購買某些產品。好吧，這樣聽起來好像沒什麼害處，你可以忽略廣告，但如果他們能夠操縱你的思考方式，這就更加危險了。

界面新聞：那麼，你本人為了這個充滿不確定性的未來做了什麼準備呢？

默裡·沙納漢：我做了什麼？我寫了這本書呀！我之所以會寫《技術奇點》，很大的一個原因是想要教育公眾，傳播這些觀點，特別是釐清即將對我們的生活帶來巨大改變的專門人工智慧技術和我們在科幻電影裡看到的人工智慧技術之間的差別。單單是說明這一點就非常重要了。人類水平的人工智慧還不存在，但我發現很多人認為它已經在我們的生活中了，他們高估了我們日常生活中使用的很多東西，而這種想法是危險的。

界面新聞：你是否認為我們應該滿足於專門人工智慧技術帶來的便利，不去開發人類水平人工智慧技術？

默裡·沙納漢：如果我是世界之王，我的面前有一個按鈕，那個按鈕上寫著「阻止世界上一切開發人類水平人工智慧的行為」，我會不會按呢？我也許會，因為我認為那條道路上充滿了不確定性。在很多科幻電影裡有那種人類水平人工智慧，你就好像和真正的人那樣和計算機展開真實的對話。它也許會是一種非常實用的技術，在各個方面幫助到我們。這是我期待的發展方向，如果它足夠強大，是能夠幫助人類解決我們之前討論過的那些問題的。

但我們真的不知道前景會是怎樣的。如果我們開發出了人類水平人工智慧，我們真的不知道會發生什麼，而這種不確定性可能會導致我們想要按下暫停鍵。但我們也要知道這是完全不現實的。在英國有一個關於克努特國王和海潮（King Canute and the waves）的故事，講的是很多個世紀以前有一位叫做克努特的國王，他想要向臣民說明雖然他是國王，享有天賦神權，他也不是全知全能的。他將王座面向大海，向海潮下令停止前進，但海潮當然還是來到了海岸上。我認為試圖阻止人工智慧的發展就好像克努特國王試圖阻止註定會發生的事。如果人類水平人工智慧註定會發生——也許在十年、二十年、三十年之後——那麼重要的是我們要如何負責地去開發。

《技術奇點：當機器擁有人性，我們將面對怎樣的世界？》
【英】默裡·沙納漢著 霍思亮譯
中信出版集團 2016年5月