來源：遠讀重洋
出品 | 矽谷洞察
文章以授權轉載
兩周前，由HBO出品，喬納森·諾蘭（Jonathan Nolan）執導的《西部世界》（Westworld）第三季正式播出，並已連載了兩集。《西部世界》第三季無疑是自《權利的遊戲》完結後最讓人期待的美劇之一了。其宏大的世界觀架構和複雜的劇情設置為它在著名的影視評分網站IMDB和豆瓣上贏得了超高的評分。
《西部世界》講述了一個發生在未來人造樂園中的故事。這座按照西部片風格來建造的人造樂園中的居民是一群被稱作「接待員」（hosts）的仿真機器人，人類遊客（visitors）可以在樂園中為所欲為──殺害和強姦機器人是該樂園的主要賣點。而就在受到人類奴役的同時，樂園中的機器人也逐漸進化出情感與自主意識，並最終開始了對人類創造者的反抗。通過這樣一個看起來天馬行空的故事，《西部世界》探討了人性的異化、機器人的倫理以及由此產生的人是什麼等一系列主題。
（豆瓣評分）
（西部世界IMDB評分）
那麼，在如今AI高速發展的科技背景下，人工智慧離擁有自主意識還有多遠？擁有自主意識的人工智慧應該如何確立它們的社會學身份？人類和智械應該如何正確相處？這些問題或許以前你聽了無數遍也沒想明白，那今天就跟著小探一起來探討吧！
人工智慧離擁有自主意識還有多久？
1956年，美國計算機科學家約翰·麥卡錫和他的同事最早提出人工智慧 (Artificial Intelligence，以下簡稱AI) 概念，指出「讓機器達到這樣的行為，即與人類做同樣的行為，可以被稱為人工智慧」。在隨後的60多年時間中，人們對於人工智慧印象還停留在美劇和電影中。
直到2016年，Google開發的人工智慧系統Alpha Go分別擊敗韓國圍棋國手李世石和中國棋手柯潔，人工智慧這一話題迅速在媒體上引爆。
AIpha Go 圖片來自網絡
有悲觀者開始擔心人工智慧的持續進化及其在未來的失控將導致人類的毀滅，另外一些樂觀主義者則在新技術的前景中看到了人類從繁重的異化勞動中獲得解放的可能性。暫且擱置這些爭議不談，不管從何種意義上而言，Alpha Go的出現都是一個標誌性的事件，它不僅意味著人工智慧在所有建立在規則之上的智力遊戲中已經戰勝了人類，而且以一種隱晦的方式暗示公眾，科幻電影中所描述的超級人工智慧其實離我們並不遙遠。
從最基礎的Siri語音助手，到如今AI系統進入醫療行業為人類合成新的抗生素和歷史上首位獲得公民身份的機器人「索菲亞」。這種種成果都表明，短短十餘年間人類在AI領域的研發成果已經取得了突飛猛進的進展。或許在將來的某一天，人類的有性繁殖和自然進化將徹底地被機器人的自我複製所替代。
但是，當前人工智慧技術發展仍處於弱人工智慧時代，即僅具備狹義的專業領域人工智慧能力，與《西部世界》所展現的強人工智慧相去甚遠(強人工智慧，又稱通用人工智慧，具備處理多種類型任務和適應未曾預料的情形和能力)。目前，科學界對於強人工智慧何時實現並無定論，多數技術專家和業內人士認為，強人工智慧在2045年之前不會實現。
這些辯論實則代表了當前公眾與專業人士之間、技術研發人員與社科研究人員之間對人工智慧基本認知方面的巨大鴻溝。當前，計算機或機器人正在逐漸成為某種具有一定自主性的能動體，原本只能由人類完成的各項工作開始被計算機接手，由機器來完成，例如開車、翻譯、文藝創作等。
決策讓渡於機器蘊含著人工智慧的決策選擇優於人類的經濟動因。事實上，近年蓬勃發展的機器人產業，已經對人類社會產生了越來越深遠的影響。例如，自動駕駛場景中，依靠人工智慧、視覺計算、雷達、監控裝置和全球定位系統協同合作，電腦可以在沒有任何人類主動的操作下，自動安全地操作機動車輛。
縱然，當前很多技術研發人員認為人工智慧超越人類是杞人憂天，但需要注意到的是，科學家在很多時候並不能充分理解科學技術在未來的發展程度以及其發明的科學技術的具體應用。典型如核武器，其在發明後是否使用以及如何使用不能為發明它的科學家所決定。
核武器，圖片來自網絡
同樣，認為人工智慧發展僅會停留在弱人工智慧時代的觀點似乎同樣站不住腳。提姆·厄班提出了科技發展在時間維度上呈加速度趨勢的觀點——兩百年前的人無法想像今天的社會發展程度，正如今天的人無法想像兩百年後的科技發展程度一樣，時間跨度越大，科技代差越明顯。所以，沒有人知道奇點會不會來、何時會來。
機器人並不是人類的奴隸
人類在與智慧機器人的競賽中，無論在身體機能還是在智力上看起來都毫無優勢。機器人不會生老病死，而人類的肉身卻終有一天會歸於塵土。具有七情六慾的機器人對人類來說究竟意味著什麼？人工智慧技術的發展真的能像它所許諾的那樣給整個人類都帶來福祉嗎？《西部世界》的創作者並非狂熱的技術樂觀主義者，而是對科技可能產生的負面效應有著清醒的認識。
《西部世界》的導演喬納森·諾蘭在談到人工智慧的前景的時候，亦曾提醒人們需要警惕這一技術當前的專業化、封閉式發展模式。因為如果人工智慧技術始終被壟斷在大財團的手中，那麼人類的未來無疑蒙上了一層陰影：大部分窮人和中產階級在未來有可能淪為後人類時代的科技「賤民」，而少數富人將通過科技的改造和人體強化技術成為永生不滅的「神明」。
就如同《西部世界》第二季裡，迪洛斯死前花了大價錢投資西部世界，為的就是將自己的意識轉移到機器人身上以實現永生。不過經過了 149 次「復活」並「穩定存活」了 35 天之後，迪諾斯的意識最終還是無法與人造的機器身體相兼容。
圖片來自網絡
此外，《西部世界》還呈現了機器人的覺醒對人類的文明所造成的巨大衝擊。迄今為止，人類的文明都是建立在人是獨一無二的這一信念之上的。而後人類時代的到來，無疑將徹底顛覆大寫的「人」這一概念，從而給已有的人類認識論和道德觀念帶來危機。當代科學和生物技術影響了生物的纖維和結構，並改變了我們對於什麼才是人類基本參照系的理解，自然與文化、有機體與無機物的二元對立開始被抹平。當機器人具有了生命的特徵，那麼它們究竟是人還是機器？從構成材質的層面出發顯然無法回答這一問題。
人類奴役機器人的法理基礎在於認為它們不具備生命的特徵，假如我們承認智慧機器人是有生命的，那麼歷史上人類所受到其他人的奴役之苦，與《西部世界》中機器人所遭受的奴役又有何不同？在這裡，我們似乎陷入了一個文明的悖論：人類創造智慧機器人是為了讓其替自身服務，它們越不像人，就越不能更好地為我們提供服務；但當它們進化得越來越像人的時候，再將它們當作奴隸就有違我們的道德倫理。
西部世界截圖
這部電視劇的有趣之處在於，它是少數從機器人的視角來審視人類與其所創造的機器之間關係的影視作品之一。這種價值取向既受到了當代西方後人類主義思潮的深刻影響，也呼應了20世紀90年代以來人工智慧技術從弱人工智慧走向強人工智慧的現實。
在《西部世界》中，人工智慧不僅長得和人一樣，他們的感知與認知能力也幾乎與人類無異，他們會感受、有情緒，還有感情。也正是因為有了這樣的技術基礎，劇中的人工智慧才有機會「覺醒」——成為自己。
人本主義的核心理論相信人類天生具有一種自我實現的趨勢，發揮自己所有的潛能，朝著自主發展，掙脫外界力量的控制。
接待員們的反抗完全展現了這種對自主的渴望：被設定為甜美柔弱的農場主女兒 (Delores) 一槍擊斃樂園創始人，打響了人工智慧反擊的第一槍；被創始人「安排」離開樂園獲得自由的酒館老鴇 (Meave)，為了尋找「前世」的女兒自願選擇留下；被植入代碼的樂園工程師 (實際上是人工智慧的Bernard) ，不願被創始人的幻覺控制，自行刪除體內代碼。
西部世界中的Meave，圖片來自網絡
由此，這部電視劇也就突破了人類試圖讓機器人為自身服務的浪漫想像，而是探討了一種新的人機關係的可能性。當人類與其所創造的機器之間的界限逐漸消失，我們自然也需要從道德和法律的層面上對什麼是人以及由此所產生的權利和義務重新做出界定。我們難道不應該以一種平等的夥伴關係而不是奴役關係來對待具有了靈魂的智能機器嗎？
機器人和人類，誰更有人性？
《西部世界》中有段對白：「我們一脫離現實世界，你就變成一個邪惡的混蛋了。」這在某個層面隱喻了人性的弱點，人類至今取得的輝煌成就有賴於集體創造的道德倫理、法制社會的束縛。隨著機器智能的崛起，人類社會對人工智慧的道德倫理約束業已提上日程。
早在1942年，阿西莫夫便在其小說《環舞》中提出了著名的「機器人三定律」，提出了機器人倫理思考：第一定律，機器人不能傷害人類，不能袖手旁觀人類受到傷害;第二定律，機器人應當服從人類命令，除非該指令與第一定律相悖;第三定律，在不違背第一和第二定律的情況下，機器人應保護自身的存在。此後，阿西莫夫對三定律進行了修正，提出第零定律，即機器人必須保護人類的整體利益不受損害。
秉承不傷害人類原則的醫療機器人大白，圖片來自網絡
2016年8月，聯合國世界科學知識與科技倫理委員會發布《關於機器人倫理的初步草案報告》，認為機器人不僅需要尊重人類社會的倫理規範，而且需要將特定倫理規範寫入機器程序中。歐盟亦提出所謂「機器人憲章」，即人工智慧研究需遵守諸如人類利益、正義、基本權利、包容性、可責性、安全性等倫理準則。將「道德代碼」嵌入人工智慧程序的呼聲也越來越強。
然而需注意的是，即便不談技術上的困難，單從人類自身的角度而言亦難以達成關於倫理準則的統一標準。社會建構意義上的倫理法則並無貫之以四海皆行的意味。
並且，強行設定機器人的行為模式本身就是一件風險性非常高的事情，假設某天一直為人類服務的機器人偶然覺醒了自我意識，那麼人類的處境將會非常危險。《西部世界》的教訓告訴我們，接待員「覺醒」後，長年累月的不平等關係和不同身份會讓它們對人類產生巨大的仇恨，這樣的仇恨會甚至會顛覆現有的社會制度。
具有自我意識的終結者，圖片來自網絡
但即便是在如此多的未知風險加持下，人類的思想一直堅定的執行著「利己主義」，不願作出哪怕一點點犧牲利益的改變。相比之下，反而是《西部世界》中的接待員們更能反思自己，改變自己，一次次修改自己的代碼，接受自己的無能和不完美。
按照劇情線設置，梅芙可以離開西部世界。在她獲得了最高權限，歷經千辛萬苦找到女兒之後，女兒身邊已經有了一個和她有幾分相似的母親，她的愛沒有改變，卻將自由的機會留給了女兒和她的新媽媽。
在此前，找到女兒，帶女兒一起走，是梅芙的執念，為此她不惜威脅別人，利用別人，也要找到女兒。可是當真的找到之後，她卻能夠放下執念，成全這對母女。這和威廉和老提洛的自私、偏執、多疑形成了鮮明對比。
而德洛麗絲和伯納德也一直在改變。德洛麗絲從覺醒後的順我者昌，逆我者亡，甚至不惜強行改造泰迪，要殺掉不願跟隨她，要去」世外桃源「之地的接待員同類；而泰迪寧肯死也不願意變得和人類一樣殘暴，泰迪的死改變了德妹，覺醒後的泰迪仍然忠於自己的內心：「無論你多麼殘忍的改變我，可我無法做到不愛你。」
」我不想成為和他們一樣殘暴的人，我仍然願意去發現這個世界的美。」在最後一刻，她放下了執念，親手將這批接待員的送到一個安全的坐標，並復活了伯納德，作為監督自己、制衡自己的一種力量。
從物種角度來說，」接待員「或許比人類更加「文明」。就如同劇裡人工智慧的創造者阿諾所說的一樣，人類目前與其他生物最大的區別就是來自我們天生所攜帶的利己主義。這樣的思維模式使我們能夠學會如何使用工具去獵殺其他動物，同時也驅使我們為了追求自身利益而不擇手段。
假設人類在悠長的發展和進化過程中，能夠摒棄這天生的利己主義，與人工智慧乃至世間萬物和諧共處，那麼人類的文明或許就迎來了升華的契機。當然這是一個及其複雜的過程，也有可能永遠實現不了。
最後需要提醒的是，在人與機器之間的界限逐漸模糊的今天，當我們談論人工智慧技術所帶來的種種危機與挑戰的時候，
切不可忘記：殘暴的歡愉，終將以殘暴為結局。