兩性關係視角看機器人倫理,應該給機器人植入什麼戒律?

2020-12-23 第一財經

麥克尤恩(Ian McEwan)已經有至少18種小說有中譯本了,最新的這本《我這樣的機器》(Machines Like Me)被認為是他第一次嘗試科幻題材,所以有點引人注目。

其實《我這樣的機器》和麥克尤恩之前的小說在風格上並無太大不同,他喜歡將注意力集中在男女關係上,比如他著名的短篇小說集《床笫之間》(In Between the Sheets)就是這樣。《我這樣的機器》中的故事,基本上就只有三個人物:一對合租一套小公寓單元的青年男女(男主人公「我」和正在被「我」追求的女主人公米蘭達),以及一個由男主人公買來的機器人亞當。故事在他們的三角關係中展開。

為了營造科幻的氛圍,麥克尤恩讓故事發生在某種架空的歷史中:馬爾維納斯群島之戰剛剛結束,但遭到失敗的是英國而不是現實中的阿根廷;圖靈(Alan Turing)沒有在1954年死於服毒自殺,而是作為一個大人物安富尊榮獲享高壽,而且和一個得了諾貝爾獎的同性戀人高調同居著。此外的社會場景和常見的反烏託邦科幻小說大同小異:社會動蕩(首相被恐怖活動炸死),民生凋敝,經濟下行,街頭抗議和騷亂……

但是,所有這些並非罕見的內容,其實完全可以從《我這樣的機器》這部小說的故事中剝離出去。這樣操作之後,剩下的就是麥克尤恩對機器人倫理的一些算不上特別高明,但也還不是完全乏善可陳的思考了。

《我這樣的機器人》

伊恩·麥克尤恩 著 周小進 譯

上海譯文出版社 2020年7月

 

她出軌了嗎?

小說中,機器人亞當被買來不久,就和米蘭達上了床。男主人公很猥瑣地在樓下旁聽了他們的全過程,米蘭達高潮時的叫聲讓他感到深深的挫敗,痛感自己「是第一個被人造生命戴綠帽子的人」,搞得他徹夜無眠。

第二天男女主人公面對昨晚的事情,米蘭達試圖大事化小,說你只要將它看成一次自慰就行了,亞當在此事中只是相當於一件高級的情趣用品;而男主人公則將此事視為出軌。當然,在實際上,他此時雖然和米蘭達已經有了性愛關係,但米蘭達甚至還沒有成為他的正式女友,只是他追求的對象,因此哪怕從道德上來說,出軌的指控也難以成立。

這種「和機器人上床是自慰還是出軌」的詰問,在此前關於機器人的科幻作品中已經出現過,比如劇集《真實的人類》(Humans,2015~2018),答案顯然取決於是否認可機器人的人權。而是否認可機器人的人權,又和它有沒有自由意識直接相關。

在《我這樣的機器》中,男主人公警告亞當以後不準和米蘭達上床,亞當承諾了,但又宣稱自己已經「愛上了」米蘭達。亞當此後雖不再和米蘭達上床,卻經常將「愛米蘭達」當成口頭禪,而且為米蘭達寫了無數情詩,還經常當著男主人公的面對米蘭達朗誦這些情詩,男主人公對此也只能徒喚奈何。從這些情節看,男主人公,乃至麥克尤恩,看來是已經認可機器人的人權了——只要機器人已經有了自由意志。

機器人們為何紛紛自殺?

麥克尤恩在《我這樣的機器》中的第二個思考,比較有新意。

男主人公買的這款機器人,總共只生產了25個,12個亞當,13個夏娃。在故事逐漸推進的過程中,不斷傳來這些亞當、夏娃機器人自殺的消息。不過這些自殺都是虛寫,唯一實寫的當然就是和男女主人公一起生活的這個亞當。

在故事情節中,這個亞當也已經不想活了,所以已經安排了「後事」。這些「後事」中最讓人印象深刻的是兩件:一是將米蘭達尚未得到司法審判的罪行及有關證據告知了警方,二是將自己幫助男主人公炒股炒匯所賺來的錢都捐給了慈善機構。這兩件事都讓男女主人公無法接受。

米蘭達的罪行是誣陷了一個男青年,讓他因強姦罪坐了幾年牢。而實際情況是,該男青年強姦了米蘭達的閨蜜,導致閨蜜自殺,米蘭達為了替閨蜜復仇,就主動委身於該男青年再事後誣陷他強姦自己。

男主人公從小說故事一開始就是沒有正式工作的,他靠在網上炒股炒匯維持生活,有時候甚至連交房租都成問題。自從有了亞當以後,他讓亞當幫他操盤炒股炒匯,沒想到亞當有如神助,賺錢輕而易舉,很快讓男主人公家財萬貫,他已經準備買入豪宅,甚至開始打起遊艇的注意了。

現在亞當將「後事」這麼一安排,米蘭達將面臨牢獄之災,而男主人公則「一夜回到解放前」,巨額財富即刻清零。他向亞當抗議,說「這些錢是我的」,但亞當告訴他們「後事」安排時,米蘭達的誣陷罪證已經被交給警方,而向慈善機構的捐款也已經完成,亞當其實只是將結果通知男女主人公而已。

在恐懼和怨恨交織的情緒下,男主人公用錘子砸死了亞當。其實不用他如此加害,亞當本來也已經打算「告別人世」了。

麥克尤恩自始至終沒有在小說中告訴讀者那些亞當夏娃機器人為何要自殺,但是從男女主人公身邊的亞當安排的「後事」來看,原因是可以推測的:

出廠之前,這些機器人被植入了某些最「底層」的道德戒律(表層的性格特徵可以由用戶在開始啟用時自行設定——男主人公和米蘭達共同設定了身邊亞當的參數),這些道德戒律的內容一定是關於「誠實」、「公正」、「守法」等的「好孩子」戒律,而當機器人目睹社會上的爾虞我詐人慾橫流無窮暗黑,始則難以理解,最終難以接受,於是一朵朵「白蓮花」紛紛決定結束自己的「生命」,讓自己從這個濁世的淤泥中解脫出來。

其實上面這個故事,只要剝離了機器人這層科幻包裝,就是現實社會中可以見到的「好孩子」因幻滅而自殺逃避的故事。

我們應該給機器人植入什麼戒律?

到了這裡,麥克尤恩的思考開始有一點深度了。

小說中的亞當夏娃被植入了好孩子白蓮花的道德戒律,當然會認為米蘭達為替閨蜜復仇而誣陷那個男青年是妨礙了司法公正,誣陷成功則破壞了「程序正義」;而亞當替男主人公賺的那些錢,很可能是不義之財(鬼知道亞當是用什麼方法賺到錢的,會不會是黑進別人帳戶了?)。要是我們覺得這樣的道德戒律太迂腐了,太不近人情了,那我們能不能質疑植入這樣的道德戒律的合理性?

一個「鏡像」的選項顯然是:出廠時植入「人不為己天誅地滅」、「寧教我負天下人不教天下人負我」這樣的戒律,這樣的「惡之花」倒是肯定不會為見到現實社會中的醜陋而難過,相反會過得如魚得水,最終惡貫滿盈。但這樣的機器人誰敢買呢?

另一個選項,是植入「絕對服從主人」的戒律,這樣的機器人,聖人買了則成聖徒,惡人買了則成幫兇,最後必「成長」為大奸大惡禍害人間而後已。

三種選項都無萬全,問題顯然沒有標準答案。麥克尤恩將小說取名《我這樣的機器》,初看似乎不甚確切,但想到這裡卻感覺還是有深意的。

相關焦點

  • 《我的女友是機器人》:兩性關係中,再完美的另一半都會被嫌棄
    與其說現代人關心的是機器人發展問題,不如說更加關心自己是否擁有的問題。在包貝爾、辛芷蕾主演的這部電影中,對現代年輕人感情現狀的影射要比機器人倫理本身更加吸引人。首先,男性為什麼想要一個機器人女友?是社會上女性人數減少麼?顯然事實並不僅僅如此。
  • 疫情下的倫理與人文之思③|機器人抗疫的得與失
    本組稿件出於人文與技術融合的原則,從記憶哲學、數據倫理和機器人學等角度討論與疫情有關的問題,顯示當代學人面對疫情的倫理與人文關懷。《疫情之中的情緒與記憶》主要討論如何理性對待疫情下的諸多情緒及後果;《「信息疫情」的數據倫理學應對》主要探討如何從數據倫理學的角度應對信息疫情的不良後果;《機器人抗疫的得與失》主要通過總結和反思機器人抗疫使用中的問題以便更好地發揮機器人抗疫的優勢。
  • 如果sex機器人有了意識會怎麼樣?電影《太空兩性指南》告訴你
    2019年上映了不少大片,包括國內的,國際的,最近塞爾維亞上映了一部藝術片《太空兩性指南》,為什麼稱他為藝術片,是因為這是對藝術的一種升華,對人類情感意識的一種詮釋,但是片中有大量全裸鏡頭,並伴隨有sex行為,當然重點部位是模糊處理,因此很多人認為這是一部色情片,其實不然,很多電影藝術中都會有兩性鏡頭,但並非出現這樣的情節就會打上色情標籤,這與色情實質上是兩個完全不同的概念。
  • 科技與倫理的衝突,法律跟不上伴侶機器人的道德和隱私問題!
    伴侶機器人正迅速成為關於性和兩性關係未來的全球性討論的一部分。在這些故事背後,有多家公司正在研發能陪伴人類並能獲得心理疏導的機器人,其中一些甚至已經上市。與情趣玩具和玩偶通常在隱蔽的店鋪或是網上出售不同,伴侶機器人可能成為一種平日可見的事物。
  • 吳天嶽 | 那些絕望的機器人——讀麥克尤恩《我這樣的機器》
    2019-2020博古睿學者、北京大學哲學系長聘副教授吳天嶽評論說,當機器人成為具有自我意識、能夠清醒地決定自己的行為、並經歷痛苦與快樂的存在者,就理應享有自己的尊嚴。這不僅促使我們反思習以為常的對人機關係的主奴想像,更將一幅充滿張力的圖景擺在我們面前:植入理想道德原則的機器人面對充滿醜陋與不和諧的現實社會,不免陷入虛無與痛苦之中,走向絕望甚至毀滅。本文系全網獨家授權文章。
  • 未來智慧機器人與人類是什麼關係
    縱觀現代社會,隨著人工智慧技術的迅速提升,智慧機器人已經擁有了更多的功能,甚至有了部分「人性」,就如一位日本富豪所說的,「人們把無情、冷漠的人形容為機器人,但現在人們給了機器人感情和內心」。從工業機器人,到家庭保姆機器人,再到服務行業的美女機器人,都已經具備了一定的「人類心智」,可以與人類產生簡單的互動,對話,甚至感情交流。
  • 包貝爾電影《我的女友是機器人》正在熱映
    內核依舊是男屌絲與強勢女神的愛情故事,加入科幻元素之後將女神升級為機器人,野蠻程度上了一個新臺階,既在一定程度上滿足了廣大宅男的幻想,又將愛情關卡的難度大大提升。在兩性關係的基礎上加入了人機關係的探討,將愛情、科幻、喜劇元素融合在一起。
  • 我的機器人女友,開始慢慢佔領我的生活
    和機器人保持親密關係的戀機器人癖( Robophilia )很早就出現過,曾是指只對機器人產生欲望的人群。這種癖好還算是罕見的,很少有聽到和機器人結婚或談戀愛的新聞,但在近幾年,隨著性愛機器人變得越來越普遍,和機器人戀愛可能會變成流行趨勢。
  • 電影《我,機器人》深度解析,機器人和人類的關係,誰對誰錯?
    《我,機器人》深度解析,機器人和人類的關係,誰對誰錯?《我,機器人》是由亞歷克斯 普羅亞斯指導的現代科幻電影,與其說是一部科幻片,個人感覺更準確一點說法應該是現代科幻恐怖片。隨著科技的迅猛發展,我們的生活發生了巨大的改變。現在流行的手機行動支付已經成為主流的支付方式,我們的日常生活由於科技的發展日益便捷。
  • 另一伴和機器人do愛,算出軌嗎?
    但如果那個機器人和Angelababy一樣漂亮,我就接受不了。 B君(帥氣boy):如果你是純粹為了生理需求跟機器人發生什麼關係,這個時候機器人=充氣娃娃=灰機杯,當然如果未來真的有X愛機器人,然後這個機器人在顏值、技巧等方面已經遠超了你的伴侶所能帶給你的感受的話,從而導致你只想跟機器人發生X關係,而不找你的伴侶的話,這個話題感覺也是可以討論的。
  • 倫理電影中性關係的解析 正確對待兩性生活
    倫理電影中性關係的解析 正確對待兩性生活亂倫行為的出現都有必定的片面和客觀要素。
  • 一部機器人沒把人類玩死的動漫...
    這部作品最主要最核心的討論就是人和機器人能否在建立感情的情況下共存。在篇中有三個派別,一個是堅決反對機器人和人共存的機器人倫理委員會。一個是持中立態度的機器人研發者,如盧森博士等人。為了掩飾真相,委員會動用媒體說是機器人暴走打傷小女孩,導致人們對機器人產生反感,戀機人被其他人反感,但實際上很多人對於機器人的歧視只是跟風,並不是真正的在了解機器人之後下的定論,只是單純的因為倫理委員會的廣告宣傳和大家都厭惡機器人的風向,覺得對機器人好是一件丟臉的事情。
  • 十部主演是機器人的電影,應該有你喜歡的那一部,都是經典喲
    NO1:《我,機器人》04年在美國上映,豆瓣評分8.0的片子,通過這部電影可以了解到科幻史和機器人三定律等問題。真正是一部非常有深度的科幻片,不過觀眾一直詬病的廣告植入就有點尷尬了。NO2:《機器戰警》系列這個系列拍過很多部,87年上映的是最早的一部。
  • siri合體百度百科,能否讓聊天機器人智能起來?
    機器智慧進化的三個階段   在諸多關於人工智慧的電影中,《超能查派》裡提供了一種最為有趣的視角:智慧機器人並不是一開始就什麼都懂,在人類為其創造出智能化系統後,他們也需要像人類一樣通過學習,才能了解如何面對這個世界。   剛「出生」的查派,膽怯又蠢萌,似乎什麼事情都做不好,但又有趣且善良,如同一個人的童年。
  • 什麼是「PCLC」戰略?跟華數機器人什麼關係?
    「PCLC」戰略出自華數機器人,自成立之初,其即以自主創新,打造民族品牌工業機器人為己任,以質量為生命,以產品創新為核心,以市場應用為導向,以核心功能部件國產化為宗旨,以全面提高企業產業升級和生產效率為目標的總體發展思路,依託武漢華中數控股份有限公司,制定了「PCLC」工業機器人發展戰略:即以通用多關節工業機器人產品(P)為主攻方向,以國產機器人核心基礎部件
  • 與機器人合法啪啪啪?不愧是評分9.1的神劇
    沒有看起來遙不可及的未來科技,沒有整個人類都被改變的科幻既視感,《真實的人類》中,甚至根本看不出未來世界的影子。這就很容易從心理上拉進觀眾,不會有科幻片的距離感。根據故事設定,這確實是未來世界。在劇中時間線上,人類的科技達到了能生產出一種叫合成人的人工智慧機器人。
  • 和機器人戀愛、性愛是什麼樣的?那感覺...
    此前,無論是用在工業軍事用途或是災難救援服務,無論是擔任老師或助理的角色,還是成為手術室的幫手,人類和機器人的關係經常被看作是主人和奴隸、肉體和機械的關係。那時候,「機器人完成的任務很少和人類情感有關,人類也並不要求機器人有任何情感上的回應」。但隨著心理學和認知科學的介入,利維意識到,必須重新考慮人類與機器人的關係,去思考雙方在私人層面而不是在實用功能上的理性交流。
  • 麥克尤恩讓圖靈因人工智慧發了財,機器人還有什麼不可能
    「麥克尤恩的這一部關於機器人的小說,我想如果僅僅就文學來談小說,因為這個小說裡關於機器人的部分還挺專業的,麥克尤恩也是做了不少功課的。我就想來個比較特別的,有點跨界的形式,來看看文科生怎麼看這個小說,理科生又是怎麼看這個小說的。」黃昱寧口中的麥克尤恩,似乎成了一個不一樣的「新人」。
  • 《你也是人類嗎》只是我愛上的,剛好是個機器人
    其實科幻影視作品並不在少數,但這部劇以韓劇擅長的細膩情感筆觸,燃爆一票少女心,有這樣完美的機器人小奶狗,還交什麼人類男朋友,趕緊攢錢買人工智慧啊!他害怕被機器人取代,對幫他堅守地位的南信3非但不感激,反而想毀滅他。 這個故事看似是普通的權欲之爭,實則是在不斷拷問:人,到底因何為人?南信3具備人類所有美好的品質。他是高度智能的情感型機器人,儘管感受不到,但他能讀懂人類的情緒。南信3嚴格遵守機器人三大定律,所有的行為規則都是以人為本。
  • 《寶萊塢機器人之戀》:七弟的瘋狂虐戀,機器人也過不了美人關?
    從外表看這款智慧機器人和正常人沒有什麼區別(三哥家的科技趕超全世界)。它具備了人類很多沒有的優點。不僅具有超強的學習能力和記憶力,還會說各國語言和格鬥技術。 但它也有致命的缺點——沒有感情,不懂得喜怒哀樂和禮義廉恥。