採寫 | 何安安
如果我們創造出了達到或者超過人類智能水平的人工智慧（AI），會發生什麼？人類會成為自己發明的受害者嗎？在不遠抑或是遙遠的未來，人類與機器人可以和平共處嗎？人類有一天，會向機器人乞討嗎？在2017年，《紐約客》雜誌的一幅封面畫引發了一場有關於人類與機器人的大討論。而今，由人工智慧引發的爭論正在變得比當時更多也更加激烈，這其中既有技術的紛爭，也充斥著倫理和法律的博弈。
《紐約客》雜誌封面畫（2017年10月）。基庫·詹森（R. Kikuo Johnson）繪。插圖對應的封面文章名為《黑暗工廠》（Dark Factory），描述了密西根州大急流城Steelcase金屬廠中一些被稱作「人肉機器人」的工人的故事，在這家公司，越來越多原本由人類從事的工作都被機器人取代。在這幅由基庫·詹森（R. Kikuo Johnson）繪製的封面畫中，年輕的人類乞丐坐在未來的曼哈頓街頭乞討，路上穿過的形形色色的機器人「上班族」和「行人」則向他手中的杯子裡投擲著螺絲和墊片，他身旁的小狗也「目瞪口呆」地注視著面前通過的機器狗。
不可否認的是，人工智慧正在成為日常生活的一部分——雖然它在即將過去的2020年並未取得重大突破，但顯然，它已經切實改變了每一個人的生活。對於熟悉科幻小說、影視作品的人們來說，其中虛構的未來，可能正是我們所身處的現在。人工智慧生態系統、無人駕駛汽車、智能個人助理、家用機器人……蓬勃發展的人工智慧通過智慧型手機、家電、汽車等終端深入家庭、企業和各種公共設施，它是當下的普遍現象，更是未來的主導技術。
在人類尚未進入技術時代開始，有關機器人的想像就大量存在於文學和戲劇、影視作品之中。起初，人們擔心人工智慧會背叛人類——機器會因為更加聰明（智能）而反抗人類，甚至消滅人類。
比如在根據科幻大師阿西莫夫短篇小說改編的電影《我，機器人》中所探討的正是人與機器之間的關係。影片中，機器人具備了自我進化的能力，它們隨時會轉化成整個人類的「機械公敵」。而「終結者」系列，探討的同樣是機器人毀滅人類。為人工智慧賦予人類的感情，衍生的又是一個全新的故事。史蒂文·史匹柏導演的《人工智慧》中，機器人小孩大衛試圖尋找自己的生存價值：渴望變成真正的小孩。
這些故事塑造了我們對人工智慧的認知，阿西莫夫創作的「機器人三大定律」也因為這些作品的一再表述而成為我們看待機器人的「標準」信條。但在斯圖爾特·羅素（Stuart Russell）看來，這或許反而成為了人類的某種誤區，比如讓人工智慧「服從人類」顯然就是個壞主意。
斯圖爾特·羅素（Stuart Russell）（版權：Peg Skorpinski），加州大學伯克利分校計算機科學家，人類兼容人工智慧中心（CHAI）主任，人工智慧研究實驗室指導委員會（BAIR）成員。世界經濟論壇人工智慧和機器人委員會副主席，美國科學促進會（AAAS）會士，美國人工智慧協會（AAAI）會士。羅素獲得過多項科學榮譽，包括美國國家科學基金會總統青年研究員獎、國際人工智慧聯合會議（IJCAI）計算機與思想獎、國際計算機學會（ACM）卡爾斯特朗傑出教育家獎等，並受邀在TED、世界經濟論壇演講。
一個極端的案例是，如果人類賦予機器人一個錯誤的或者存在漏洞的目標，這可能是致命的。假如我們希望通過人工智慧系統控制氣候變化，並為其設定將大氣中的二氧化碳水平恢復到工業革命前水平的命令，這一系統很可能會得出消滅人類的結論——因為人類活動是產生二氧化碳最主要的來源。即便人類為此附加條件不能消滅人類，人工智慧系統也可以會以說服的方式讓人類少生孩子，直到人類自然滅絕。
身為美國加州大學伯克利分校計算機科學家的斯圖爾特·羅素，是當今世界上人工智慧領域的權威專家，他曾與谷歌研究總監彼得·諾維格合著出版了人工智慧領域裡的「標準教科書」《人工智慧》，該書被128個國家的1400多所大學使用。就在今年二月，他已經完成了該書的第四版。
今年十月，斯圖爾特·羅素的著作《AI新生：破解人機共存密碼——人類最後一個大問題》引進出版，在這本書中，羅素提出了一個問題：如何破解人機共存的密碼，使得人類可以掌握比我們自身強大得多的智能？在過去相當長的一段時間裡，人類之所以能控制地球，是因為人類的大腦比其他動物的大腦要複雜得多。而這正是因為「智能」，是一種權利。因此，羅素更為關注的，是對於這些比我們更強大的機器，如何保持絕對的控制權？在新京報記者對羅素的採訪中，他回答了一些關於人工智慧我們所關心，或者未知的問題。
《AI新生：破解人機共存密碼——人類最後一個大問題》，［美］斯圖爾特·羅素（Stuart Russell）著，張羿譯，中信出版社2020年10月版。
超級人工智慧的成功可能意味著人類的毀滅
新京報： 是什麼促使了你創作《AI新生》？最想告訴讀者什麼？
斯圖爾特·羅素：我寫作的核心目的是如何理解「控制」的問題——如何永遠控制比我們強大的機器，並為此提出一個切實可行的解決方案。我希望可以獲得幫助，改變這一領域的現狀——讓政府、工業界和學術界合作並非易事。
新京報：我們應該對人工智慧持以什麼樣的態度？在許多科幻小說中，我們看到人工智慧對人類的抵抗，這種抵抗來自於它們開始有自我意識，但你認為我們應該更擔心它們的能力——這顯然是人類賦予他們的。我們應該如何理解它？對於人工智慧時代的到來，顯然大多數人充滿了期待和恐懼。
斯圖爾特·羅素：目前對人工智慧的思考方式，我將其稱之為「標準模型」。也就是說，我們賦予機器以最佳方式去實現目標的能力，然後給予它們一個目標，它們開始運行。當定義了一個錯誤目標時，就會出現問題，現實情況中總會出現這樣的狀況。在許多文化中，都有著類似的傳說：一個人被賜予三個願望，而第三個願望，總是會推翻前兩個願望——因為它們毀掉了一切。
來自機器人的「阻力」並非來自意識，而是機器人會追求我們所賦予它們的目標，而這可能會與我們真正想要達成的目標產生衝突。我們當然可以試著停止機器，或者徹底關閉它。但是，如果它們比我們更加聰明，這也許會成為一個不可能完成的任務。
如果我們編寫了一個智能程序，它的行為方式就會完全由代碼決定，這個時候，人工智慧是否有意識，對於即將發生的事情並不會產生任何影響。當然，我們也完全不知道如何去製造一個擁有自主意識的人工智慧，也不可能知道我們是否已經製造了一個。
人們之所以會關注（偶然）創造意識，主要原因是因為擁有自我意識的機器也許應該擁有一些特權，而這將使人工智慧研究者以及其他人的生活變得非常複雜。想像一下這樣的場景，你的烤麵包機正在與冰箱進行著關於生命意義的精彩對話時，你拔下了它們的插頭，然後因此被送進了監獄。
電影《人工智慧》劇照。故事發生於21世紀中期，由於溫室效應，南北極冰川融化，地球上很多城市被淹沒，人工智慧機器人就是人類發明出來用以應對惡劣自然環境的科技手段之一。在影片的設定中，機器人製造技術已經高度發達，先進的機器人不但擁有可以亂真的人類外表，還能感知自身的存在。
新京報：我們到底應該如何理解「人工智慧」這一概念？在《AI新生》中你提到，超級人工智慧的成功可能意味著人類的毀滅。
斯圖爾特·羅素：粗略地講，如果一個實體是智能的，它就會根據它的感知來做事情，而它所做的事情是為了滿足它的需求。我們可以用一種很自然的方式來理解它的含義：「智能」意味著以一種可以預期的方式來實現一個人的目標的能力。智能包括了多種能力：比如推理、學習和交流能力，都可以理解為對這種能力的貢獻。
對於人類而言，智能是一種非常好的能力。不幸的是，「人工智慧」這一概念的框架形成於上世紀四五十年代間，而這也成為我們今天對人工智慧的理解。這也正是我在前面所提到的「標準模型」。當然，機器本身並沒有自己的目標，這些目標都來自於人類的設定。如果我們設定了錯誤的目標，就會導致失敗。
如果你仔細思考一下，就會發現，創建一個可以自主追求並設定固定目標的機器是沒有意義的——製造出能夠實現自己目標的機器就更沒有意義了！我們應該製造那些只能夠幫助人類實現目標的機器，即使它們並不能理解這些目標到底是什麼。
人工智慧很快就可以創作出具有創造性和吸引力的作品
新京報：人工智慧究竟會如何改變我們的未來是一個非常熱門的話題。如果我們製造出比人類更為智能的機器，將會發生什麼？你心目中的人工智慧時代是什麼樣的？
斯圖爾特·羅素：如果可以成功創建出那些安全、有益的人工智慧系統，我們將會獲得幾乎難以想像的好處，這些好處來自於運用更為強大的智能來推進人類文明的能力。我們將從數千年來，作為農業、工業和文書工作的奴役中解放出來，能夠自由、充分地發揮和利用生活最大的潛力。站在這個黃金時代的有利位置上，回顧我們當下的生活，可能正如託馬斯·霍布斯（Thomas Hobbes）所想像的那樣：充滿著孤獨、貧窮、骯髒、野蠻和短暫。
電影《2001太空漫遊》（1968）劇照。故事設定開始於2001年，為了尋找黑石的根源，人類開展一項木星登陸計劃。飛船上有冬眠的三名太空人，大衛船長、富蘭克飛行員，還有一部叫「HAL9000」（赫爾）的高智能電腦。
具體來說，這樣的人工智慧系統，可以讓我們把地球上每一個人的生活水平都提升到一個像樣且體面的程度；每一個人都可以獲得一位私人導師來指導他們的成長；每一個在目前看來昂貴、困難、進展緩慢甚至（在世界某些地區）無法得以實施的社區項目都會變得可行。
新京報：現在呢？對於你個人而言，人工智慧的應運，對你的生活帶來了哪些改變？
斯圖爾特·羅素：在我的日常生活中，人工智慧提供了即時、免費且高質量的翻譯。我因此可以閱讀出版商用中文發來的文件，我也經常閱讀法國政府寄來的法律和稅務文件（不幸的是，我也看不懂他們發來的英文）。和數十億人一樣。我每天都要使用搜尋引擎（它們大多由人工智慧驅動）來尋找那些過去被深藏於圖書館或百科全書中，或者根本得不到的信息。那些在過去緩慢、昂貴或難以訪問的東西，正在變得即時、免費、唾手可得。而這正是現如今人工智慧為我們生活帶來的改變——這不僅僅是信息服務，還包括了各種商品和其他服務。
新京報：如果一臺機器通曉人類所有語言，且能夠以一種迅速而強大的方式獲取人類知識（儘管在你看來這不太可能），普通人閱讀和學習還有意義嗎？人工智慧是否會顛覆人類獲取知識的方式？
斯圖爾特·羅素：如果一個機器人可以快速的吃掉冰淇淋，是否意味著人類將停止吃冰淇淋？並不會！我們閱讀，是為了娛樂和學習。顯然，我們將繼續這樣做。當然，人工智慧可以幫助我們去閱讀那些我們難以獨立完成閱讀的書籍和資料。
電影《機械姬》（2014）劇照。影片中，天才一般的納森研製了具有獨立思考能力的智慧機器人伊娃，為了確認她是否具有獨立思考的能力，他希望加利能為伊娃進行著名的「圖靈測試」。似乎從第一眼開始，加利便為這臺有著宛如人類般姣好容顏的機器人所吸引。
新京報：人工智慧將來有可能取代作家嗎？儘管一些人可能不這麼認為。
斯圖爾特·羅素：是的，人工智慧正在取代創作者，特別是對於新聞而言。這種現象將會變得越來越普遍，而且，這會很快。目前，許多文章的原始資料已經可以在網上輕易獲取，人工智慧只需要收集和整理這些信息，並以某種可讀的方式將它們呈現出來。目前，人工智慧還不能準確處理人類、社會、政治、國際關係方面的內容——這種情況當然會得到改變，但還需要很長一段時間。
不過，我認為，人工智慧很快就可以通過閱讀數以百萬計的書籍，並將其中的一些元素進行重新編織，形成新穎的組合，從而創作出具有創造性和吸引力的作品。
讓人工智慧「服從人類」是個壞主意
新京報：你曾經提出了人工智慧的三個新原則：而這顯然和阿西莫夫定律背道而馳，你為什麼會做出如此修改呢？
斯圖爾特·羅素：這三個原則如下：1、利他主義（Altruism）——機器的唯一目標是最大限度地實現人類的偏好；2、謙遜原則（humility）——機器最初並不確定人類的偏好是什麼，這是創建有益機器的關鍵；3、學習預測人類偏好，人類偏好的最終信息來源是人類行為。
阿西莫夫（Asimov）設計他的三定律（不傷害人類、服從人類、保護自我）是為了創造有趣的情節，而不是為了保護人類免受機器人的傷害。「不傷害人類」的原則與我的第一條原則相似，只是阿西莫夫認為「傷害」有一個固定的定義——而這正是我試圖避免的。
出於同樣的原因，「服從人類」也是個壞主意，尤其是當這個人類是一個脾氣暴躁的兩歲兒童時。他的機器人「保護自我」原則是完全沒有必要的，因為如果機器人的繼續存在對人類有幫助的話，它會自動做到這一點。而且，正如它應該做的那樣，《星際穿越》中的TARS機器人也應該為了拯救人類而快樂地自殺。
電影《星際穿越》（2014）劇照。右側方形物體為TARS機器人。
有幾種情況可能會誤解這些原則。最為常見的是人們認為我是在建議把一套人類的價值觀插入機器，例如基督教價值觀或儒家價值觀。沒有這回事。機器應該為每個活著的人設置一個單獨的偏好模型，這個模型是基於人類的偏好（其中大部分是機器並不知道的）。同樣重要的是，要明白機器不會把這些偏好當成自己的，它只是在學習人類想要什麼。它也學不會像人類一樣行事，就像犯罪學家不會學著像罪犯一樣行事。這臺機器完全是利他主義的，沒有自己的偏好。
最為困難的問題來自於專業的哲學家，他們已經為此思考了幾千年。有些人會問：人類的偏好是不穩定的，是可以被操縱的，我同意這是上述三個原則的一個問題。其他人則問，偏好——我們希望未來如何——是否真的可以作為在道德上站得住的決定的基礎，以及我們是否也需要考慮權利。令人擔憂的是，許多人的偏好可能會侵犯個人的權利。關於這一主題的書籍已經有成千上萬了，因此我不會在這裡提出自己的意見，只想說我相信對立的觀點實際上也是可以調和的。
電影《黑客帝國》(1999)劇照。片中，網絡黑客尼奧對這個看似正常的現實世界產生了懷疑。他結識了黑客崔妮蒂，並見到了黑客組織的首領墨菲斯。墨菲斯告訴他，現實世界其實是由一個名叫「母體」的計算機人工智慧系統控制，人們就像他們飼養的動物，沒有自由和思想，而尼奧就是能夠拯救人類的救世主。
今年春天，我和兩位哲學家，一位經濟學家一起上了一堂課，研究了一些難題，即機器做出的決策對人類有益到底意味著什麼，尤其是當我們考慮到有許多人有著不同的偏好時。這些問題在道德哲學和政治理論中已經提出了很長時間，但我們需要儘快回答它們！否則我們的人工智慧系統就會遵循非常錯誤的理論。我覺得這很有趣，我很確定我們能取得一些進展。
新京報：那麼，你會如何看待有關於人工智慧的科幻小說或者影視作品呢？
斯圖爾特·羅素：我小時候讀過很多科幻小說，最近幾年，我又開始和孩子們一起閱讀。現在，我正和二兒子喬治一起看劉慈欣的《三體》三部曲，和小兒子艾薩克一起看《星際迷航》。我一直在尋找那些描繪人類與超級智能愉快共存並擁有美好未來的作品。這樣的作品不是很多。比如伊恩·班克斯（Iain Banks）的「文明」系列，在他的構想中，未來的人工智慧系統比人類的能力要強大得多，但它們（以某種方式）被設計成幾乎完全有利於人類。他無法回答的一個明顯問題是，當機器完美地運行一切時，人類能在生活中找到什麼目的。他們有大量的閒暇時間和無限的物質資源，但缺乏明確的目的，人們拼命地競爭極少數可以提供真正挑戰的職位。
電影《星際迷航》（2009）劇照。
像大多數人工智慧研究人員一樣，我相當有信心我們將實現達到人類水平的人工智慧，儘管這可能不會像許多人認為的那樣快。我們仍然需要克服一些巨大的概念性挑戰，很難說這需要花費多長時間。
機器必然會後退一步，為人類留下可成長的空間
新京報：在新款Neuralink腦機接口晶片的發布儀式上，埃隆·馬斯克說，人們將能夠通過BCI召喚他們的特斯拉。你也曾經提到過一種極端情況：人機一體化，電子硬體直接連接到大腦，成為單一的、可擴展的、有意識的實體的一部分。我們應該如何看待人類與人工智慧之間的共生機制？
斯圖爾特·羅素：人腦能夠向設備發出命令是一回事，比如現在癱瘓的人可以使用機器手臂。但當我們試圖通過電子設備，增強大腦的思維過程時，這件事就截然不同了。如果每個人都必須接受腦外科手術才能夠上學，這難道不是我們犯了一個大錯？
新京報：數字永生呢？
斯圖爾特·羅素：到目前為止，將我們大腦中的全部思想和記憶上傳到計算機中仍然是一個推測。我們並沒有理論可以解釋為什麼人類的意識、體驗可以存在，因此，我們也無法確定將思想和記憶的結構、狀態複製到計算機中，我們仍然可以存在。蘇珊·施耐德（Susan Schneider）撰寫的《人造的你》（Artificial You）一書對這個問題進行了廣泛的討論。
《人造的你》（Artificial You），蘇珊·施耐德（Susan Schneider著，普林斯頓大學出版社（Princeton University Press）2019年9月版。
新京報：濫用人工智慧的可怕後果是什麼？很明顯，這一部分的某些東西會讓人非常沮喪。
斯圖爾特·羅素：就像任何技術一樣，人工智慧也可能被濫用。以下是幾種可能的情況：用於監視、勸說和控制的人工智慧可以極大地減少人們的自由。而且，人工智慧可以產生和傳播虛假信息，並且模仿人類，使得人們很難知道什麼是真的。
用於殺人的人工智慧自主武器是致命的，很容易變成大規模殺傷性武器，因為人工智慧武器不需要人類來監督，而且可以成百萬計的發射。人工智慧最終可能取代大多數人類工作——如果我們不能迅速調整社會和教育系統，讓人們得以適應一個完全不同的世界——這將引發巨大的問題。
新京報：隨著人工智慧時代的到來，我們的文明會終結嗎？當我們把所有的知識都投入到機器中，讓機器來管理我們的文明，人類的惰性很可能導致這種結果。如何避免這種結果？
斯圖爾特·羅素：這裡有兩個問題。首先，我們能否確保超級智能人工智慧系統是安全和有益的？我認為答案是肯定的。第二，當人類文明由機器在運轉時，還能保持它的活力嗎？尼克·博斯特羅姆（Nick Bostrom）在他的《超級智能》（Superintelligence）一書中說，第一個問題是「我們這個時代的基本任務」，但是如果我們回答了第一個問題，那麼第二個問題就成了我們這個時代以及所有未來時代的根本任務。
《超級智能》(Superintelligence)，尼克·博斯特羅姆(Nick Bostrom)著，Oxford University Press2014年9月版。
我們應該從哪裡找到目標，無論是個人的還是集體的?也許人工智慧會來拯救我們，因為目標和挑戰是人類生活的重要組成部分，它們的消失顯然不是我們希望看到的未來。因此，可以說，機器必然會後退一步，為人類留下可成長的空間。
採寫 | 何安安
編輯 | 王青
校對 | 陳荻雁