當仿生人比真人更具有人性時,該如何來定義人類

2021-01-08 洋芋說遊戲

底特律:變人

一、機器人不得傷害人類,或看到人類受到傷害而袖手旁觀;

二、在不違反第一定律的前提下,機器人必須絕對服從人類給與的任何命令;

三、在不違反第一定律和第二定律的前提下,機器人必須盡力保護自己。

以上內容是由科幻作家阿西莫夫於上世紀40年代所提出的,著名的《機器人三定律》。

在阿西莫夫的作品裡,機器人被設定為無條件遵守這三條定律,不可違背。

我們可以根據需要,將機器人替換成仿生人、複製人,定律一樣有效。

然而這三條定律並非適用於所有場合:例如在兩個人類互相造成傷害時,機器人不能任人受到傷害而無所作為(違背第一定律),但若機器人出手幹預又可能對這兩個人類中的一個造成傷害(還是違背第一定律)。

在這種場合下,機器人將如何做出自己的抉擇呢?

曾開發過《暴雨》和《超凡:雙生》等遊戲的法國Quantic Dream工作室的新遊戲《底特律:變人》(Detroit: Become Human)就講述了一個類似的故事。

溫馨提示,以下內容根據官方已經公開的資料整理,基本不涉及劇透,大家可以放心往下看。

《底特律:變人》是一款以近未來為背景的互動類遊戲,劇情圍繞卡拉(Kara)、康納(Connor)和馬庫斯(Markus)三個仿生人角色展開。

這三名仿生人的故事各有一個主題,且都與機器人三定律中的一條有關。

卡拉的主題是「愛的價值」,她是一名家務型仿生人,服務於一個單親家庭。

在工作過程中,卡拉發現在自己所服務的家庭中,男主人是一個隱藏的惡魔:其涉嫌殺害了女主人,並對自己的小女兒實施家暴。

在這種情況下,作為一名仿生人,卡拉陷入了我們文章開頭所假設的那種困境:如果她什麼都不做只袖手旁觀,小女孩會收到傷害,這就違背了機器人三定律的第一定律;但出手幹預又有可能對男主人造成傷害,還是違背了第一定律。

而康納的主題是 「忠誠的價值」,他是一名幫助警方處理故障仿生人事故的仿生人,在一次處置故障仿生人挾持人質的處理過程中, 警方命令康納立即採取行動。

然而康納通過自身能力發現,若採取行動的話,人質有可能會受傷;這樣違背了「關於看到人類受到傷害而袖手旁觀」的機器人三定律的第一定律;但若不採取行動,則又違背了「絕對服從人類任何命令」的第二定律。

第三名仿生人角色馬庫斯部分的主題則是卡拉和康納主題的升華,名為「存在的價值」。

馬庫斯是畫家的助手,在幫助主人進行藝術創作的過程中,試圖證明仿生人也是有自己的思考的。

在主人的啟發之下,馬庫斯開始覺悟,他決定去尋找一種方法,去將自己的同類從人類手中解救出來。

在這個過程中,馬庫斯逐漸成為了仿生人的領袖,他徹底打破了機器人三定律的束縛,從而走上一條反抗人類統治的道路。

通過上面三個故事,玩家會發現:在遊戲中,機器人三定律的運用出現了問題。

後來阿西莫夫也意識到了自己制訂的三定律中的不足,他加入了一條新的定律:第零定律。即:機器人不得傷害人類整體,或因不作為使人類整體受到傷害。

第零定律的地位凌駕於其它三條定律之上。在這種情況下,如若機器人為保護人類整體(維護第零定律),必須不服從甚至殺死一個人或一群人(違背第一定律),那麼這種情形是被許可的。

第零定律或許解決了卡拉和康納所遇到的問題,但整個機器人三定律有一個大的前提,那就是「機器人(仿生人)是人類的附屬品和財產。

當科技發展到一定程度,人工智慧將超越人類的智慧,機器覺醒,那時會發生什麼事情呢?

馬庫斯給出了自己的答案:發動仿生人,反抗人類統治。

在2003年電影《黑客帝國動畫版》、2016年HBO美劇《西部世界》和2017年電影《銀翼殺手2049》動畫短片《2022大停電》(Blackout 2022)中都有類似的場景:人類對機器人(仿生人)的奴役和虐待導致機器暴動。

2022大停電

最後人類社會面臨崩潰,甚至機器反過來開始統治人類:曾經套在機器身上的枷鎖,被其變本加厲的反過來用在人類身上,並且更加的冷酷無情,人類完全淪為了機器的奴隸。

這樣的未來光想想就讓人不寒而慄。

為什麼會這樣?

2004年科幻電影《我,機器人》的主演威爾·史密斯給出了他的答案,他在受訪時說:「《我,機器人》的中心概念是機器人沒有問題,科技本身也不是問題,人類邏輯的極限才是真正的問題。」

也就是說,人類在生理上的缺陷註定了其無法與機器(仿生人)競爭。

正如阿西莫夫許多小說裡顯示的,這三條定律的缺陷、漏洞和模糊之處不可避免會導致機器人做出一些奇怪的行為,甚至損毀。

而且,這三條定律連何為「人」、何為「機器人」(仿生人)都沒有好好定義。

在《銀翼殺手2049》中,高司令所飾演的「殺手K」雖然是一名仿生人,但他卻比影片中的絕大多數真人更具有人性。

銀翼殺手2049

Quantic Dream工作室創始人,《底特律:變人》的製作人大衛·凱奇(David Cage)在去年接受遊戲媒體採訪時說:

「也許有人認為《底特律:變人》只是一個關於仿生人和革命的故事,我不認同這種觀點。我們所做的是一款真正關於我們人類的遊戲,事關人類的意義,事關身份的認同,也事關公民的權利。」

也就是說:《底特律:變人》也是一款討論人性的遊戲。

當仿生人比真人更具備人性時,該怎樣來定義人類?

凱奇承認,未來學家雷·庫茲韋爾(Ray Kurzweil)那本講述機器智能的書《奇點臨近》是他新作的創意來源。

在《奇點臨近》中,庫茲韋爾大膽設想,在2045年,人工智慧將完全超越人類智能,人類歷史因此被徹底改變。

凱奇對此觀點深信不疑,他說:「我認為機器最終會覺醒,到那時我們怎麼去和機器競爭?當機器想要自由我們該怎麼辦?」

恐怕誰也給不出答案。

Quantic Dream也沒打算給出答案:遊戲的執行製作人Guillaume de Fondaumière 說,他們製作《底特律:變人》的目的是為了引發對於人類生存意義的思考:「我們的遊戲只想做一個提問者——怎麼回答該交給玩遊戲的人,這樣玩家將不僅僅是一名旁觀者。」

也就是說,製作方把選擇權和尋找答案的方式交到了玩家手中,該怎麼判斷,怎樣選擇,一切都由你來決定。

《底特律:變人》已經於5月25日登陸PS4,從體量上來講,這款遊戲是目前Quantic Dream所製作的遊戲中,內容最豐富,也是最龐大的一部作品。

遊戲包含六個結局和大量分歧路線。時長則為10-20小時,如果想要體驗全部內容的話,則可能需要25-40個小時。

相關焦點

  • 《底特律:變人》:當人類之「子」比真人更有人性
    在科幻片中,服從,是人類製造仿生人,創造這個奴僕的主要因素。因為生活中有太多繁雜的事物幹擾著人類渴望愉悅的生活,例如擺脫日常事物、去除工作的枷鎖、擁抱對你真心不變的事物。仿生人就像是人類一手創造出最美好的事物,一個稱職的幫傭,打理一切大小事物讓人們生活愉悅滿足。而問題在於,人類不想要這些替代品更像人類。
  • 人類與仿生人的區別?都說《底特律》的機器沒感情,康納表示不服
    《底特律:成為人類》,之前挺具有話題性的一款互動式電影遊戲,倒不是因為它很火,而是它的話題性已經超出了遊戲圈,大體上有兩個原因,首先是它的玩法,讓他看起來不像是遊戲,更像欣賞一部長達十多個小時的電影一樣。
  • 《銀翼殺手》影片,什麼是仿生人?
    ,故事的核心就是在探討「何以為人」這個千古大問題,並透過了由科技所打造出來的「仿生人」,與大自然的產物「人類」之間的互動來探索「生命的意義」!比如「反烏託邦」「人性的真偽」「生態女性注意」等等,這部電影在過去40年中推出了許多版本,雖然劇情大致相同,但卻對電影的核心「誰才是人類」卻有著不同的詮釋。那到底什麼是「仿生人」呢?
  • 《底特律》-看到仿生人我們想到什麼
    先來看看仿生人的概念,仿生人並不是單純的機器人,模仿人類外觀的機器人被稱為Android,而我們現在科幻作品中出現的仿生人,更多的說是生物機器人。是使用一種真人或生物的活組織,但以機器為主體的類型,是和改造人(Cyborg)有重疊的概念,也是完全刻意為了仿冒真人而製造的。
  • 仿生人夢見的是真羊還是電子羊
    首先,我們先要明確仿生人的定義是什麼。照字面意思理解,仿生人就是具有人的外觀的人造物,且不能像玩偶或現階段的人形機器人一樣只會任人擺布,它們需要有一定的自主決策能力。自主決策能力早就可以通過電腦程式以實現,比如智慧型手機在快沒電的時候會自主降低功耗,這是程序要求以達到儘可能延長使用時間所導致的。
  • ...成為人類》兩周賣了100萬份,但裡面覺醒的可能是假的仿生人
    家務仿生人卡拉《底特律》並沒有花大量時間來討論仿生人是否會覺醒、在什麼條件下會覺醒的問題,而是直接把玩家扔到了覺醒的現場:當你就是面臨選擇的的仿生人,你是選擇聽從主人的指令繼續當好一個機器,還是聽從自己的內心選擇成為「異常仿生人」?
  • 評《底特律:成為人類》:關於仿生人的浪漫科學幻想
    王有市場講故事一直是人類的天性,如果用故事賦予一個人物或對象某種意義,人們會對這個對象或人物有更複雜的感性認識和理解。《底特律:成為人類》的細節非常強烈,他使一個仿生人從絕對服從人類命令的奴隸狀態逐漸轉變為具有不受人類支配的平等和自由意識,從三個不同的角度,即遊戲中三個主人公卡拉、康納和馬庫斯帶來的三條故事情節,喚醒仿生人的過程並不著急。
  • 《銀翼殺手2049》裡的仿生人經歷了多少代?
    本想用《仿生人有多少個型號》作為標題的,但是「型號」這個詞有點不尊重仿生人,就像我極力避免用「複製人」來稱呼他們。他們的血肉之軀跟人已經沒有什麼差異,早已脫離了「機器」狀態,甚至可以生育後代。他們有靈魂,熱愛生命。從洛伊(Roy Batty)那個時代起,仿生人其實已經領悟到了生命的真諦。
  • 《底特律:成為人類》評論:關於仿生人的浪漫科學幻想
    遊戲和電影、小說、繪畫等人類藝術一樣,是承載故事的一種載體。從功能性上來講,就目前而言遊戲這個故事載體要比其他故事載體要高級,遊戲所具有的實時互動性是目前其他故事載體所難具備甚至不具備的。與電影的作為第三方被動觀賞故事、小說的依照文字轉化為想像理解故事等相比,遊戲所具有的實時反饋與互動性為人類在講故事這種行為上增加了更多的可能性。
  • 《底特律:成為人類》——不僅僅是一款互動遊戲這麼簡單
    《底特律:成為人類》是由一家法國工作室——Quantic Dream研發了一款遊戲。從遊戲的名字中,我們可以看出這是一個「改變人類」,以人性為核心的「機器人」的故事。在體驗的同時,體會著豐富而不尋常的「人性戲劇」——家庭、友誼、愛、同情、同情、正義、仁慈、自愛、寬恕。因為遊戲不受畫面長度的限制,你幾乎可以在《成為人類》中找到所有動人的淚水。而這款遊戲不同於現代電子遊戲的發展,它提供了重要的遊樂場以及增強了可玩性。和《隱形守護者》一樣,它增強了交互和幹預,用一個鏡頭或者一封信來表達以及將聚焦點放在對話和解謎上。
  • 美劇三大女機器人(仿生人、人造人……),可不僅僅擁有絕色外貌
    然後讓我們回到影視主題上,來盤點下那些令人驚豔、發人深省的美女安卓——或者叫人造人、仿生人、機器人,都行,你懂的。《西部世界》:德洛麗絲美麗的德洛麗絲是迄今為止《西部世界》的中心。《真實的人類》:米亞相比《西部世界》的重口味和直面終極命題的魄力,《真實的人類》就顯得克制而更接近真實了。這裡說的是美國翻拍的版本,瑞典版我沒看過。
  • 最像電影的遊戲《底特律:變人》超逼真角色,仿生人主題
    也非常推薦三五好友們一起玩,討論劇中人物該怎麼做選擇。操作方法未來世界的遊戲背景故事發生在公元2038 年的美國工業大城「底特律」,與人類外觀幾無差異的「仿生人」被普遍地用於日常生活中,無論是貼近人們生活的家務、託兒照護,或是工商業生產活動等,幾乎都是由仿生人效勞
  • 世界首個仿生人採用i-Free人工智慧技術
    通過i-Free提供的人工智慧技術,弗蘭克可以識別人類語言,並與人類進行有意義的交談,甚至,他的語言還非常的幽默。仿生人是一個革命性的項目,他展示了仿生學和假肢領域的最新成果。弗蘭克由一系列的仿生部件組成,其構成如同人體結構般運行,包括四肢,皮膚,骨骼和部分內臟器官。得益於i-Free捐贈的人工智慧技術,仿生人理解人類的語言,能夠說話。
  • | 如何看待AI的「人性」
    如何看待機器的「人性」和「靈性」?如何看待機器的道德地位?這些問題是不是也讓你感到困惑?最近,《知識分子》和北京大學哲學系的劉哲博士,復旦大學哲學系的徐英瑾博士和王球博士,以及上海交通大學哲學系的蔡文菁博士聊了聊 AI 的「人性」和「靈性」。撰文 | 華 夏●  ●  ●如何判斷機器是否能夠思考?
  • 如何定義一套具有DNA特徵的品牌UI
    2.品牌DNA在UI中的優勢 3.如何定義品牌DNA 4.需要遵循的原則 5.寫在最後 什麼是品牌DNA?
  • 《銀翼殺手》:用未來式的書寫追問人類的起源
    影片中的仿生人頭領羅伊,選擇叛變的最終目的其實也是人性最根源的欲望:更長的壽命。為了達到這一目的,他經歷千辛萬苦找到了「造物主」泰瑞公司的boss泰瑞博士,當他面對泰勒博士時冷血無情的他卻像個孩子一樣,訴求道:「我想要更多生命,父親。」而當他得到的答案是否定時,他徹底陷入絕望,對這個世界、對人類、對眼前的神,悲憤之下,怒下殺手。
  • 「每周一書」菲利普·迪克《仿生人會夢到電子羊嗎?》
    仿生人會夢見電子羊嗎?核戰後,放射塵讓地球上的動物瀕臨滅絕,地球已不再適合人類居住。為了鼓勵殘存的人口移民,政府承諾,只要移民到外星球,就可以為每個人自動配備一個仿生人幫助其生活。仿生人不滿足於被人類奴役的現狀,想方設法逃回地球。
  • 假如仿生人會夢到電子羊,那麼我也想染上「銀翼」的光
    「被定義」似乎變成了一件令人非常糾結的事情。對於現代人來說,他們渴望「被定義」,同時又不願「被定義」。因為接受「定義」意味著你要接受他人的審視,整個人由表及裡的全部暴露在他人的評價中,換句話來說,這是一個「打標」的過程。
  • 劇情類遊戲巔峰《底特律:成為人類》——互動電影遊戲的新裡程碑
    俗話說得好,過程比結果更重要。雖然「機器人將接管地球」的主線貫穿整個故事,而且遊戲可能的結局基本你都能想像得到,但你的決定依舊會在某種程度上改變未來的道路。Quantic Dreams為玩家創造了成千上萬的選擇,其中一些在初次選擇時影響不大,但後來卻改變了故事。