機器人三大定律

2020-11-25 網易科技

在科幻小說領域,機器人三定律是科幻小說家艾薩克·阿西莫夫在他的大量機器人相關作品中為機器人設定的行為準則:

第一定律

機器人不得傷害人,或任人受到傷害而無所作為;

第二定律

機器人應服從人的一切命令,但命令與第一定律相牴觸時例外;

第三定律

機器人必須保護自己的存在,但不得與第一、第二定律相牴觸。

「機器人三定律」在他於1942年發表的作品《Runaround》中第一次明確提出,並且成為他的很多小說,包含基地系列小說中機器人的行為準則和故事發展的線索。機器人被設計為遵守這些準則,違反準則會導致機器人受到不可恢復的心理損壞。但是在某些場合,這樣的損壞是不可避免的。在兩個人互相造成傷害時,機器人不能任人受到傷害而無所作為,但是這會造成對另一個人的傷害,在一些小說中這造成了機器人的自毀。

他在小說中提出了三定律的很多變體,例如第零定律的產生(機器人不得傷害人類,或任人類受到傷害而無所作為)。這些對機器人行為準則的修改成為他的很多故事的主線。在《Little Lost Robot》中為了避免機器人無謂地阻止人類進行低危險性工作,第一定律中的後半部分被去掉了,但是也產生了一些其他的問題。在《Robot Dreams》中,一個機器人關於取消第一定律和第二定律的夢,導致了他的毀滅。在機器人與帝國等小說中,一些外表是人的機器人認為自己應該歸屬於人類。在《 Bicentennial Man》中,一個機器人為了成為人,將自己的機械部分逐步替換成組織,並且在最後用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產生。

三定律在科幻小說中大放光彩,在一些其他作者的科幻小說中的機器人也遵守這三條定律。但是,截至2005年,三定律在現實機器人工業中仍然沒有應用。目前很多人工智慧和機器人領域的技術專家也認同這個準則,隨著技術的發展,三定律可能成為未來機器人的安全準則。

「機器人三定律」的目的是為了保護人類不受傷害,但阿西莫夫在小說中也探討了在不違反三定律的前提下傷害人類的可能性。在現實中「三定律」成為機械倫理學的基礎,目前的機械製造業都遵循這三條定律。

阿西莫夫最重大的科幻理論貢獻

如果在現實世界中,牛頓的「萬有引力」定律是宇宙運行的普遍法則,那麼在科幻界或工業設計界,「機器人三定律」就是智慧機器人賴以存在和發展的準則。

機器人三定律來自阿西莫夫的名著《我,機器人》。其內容是:一、機器人不得傷人,或任人受傷而袖手旁觀;二、除非違背第一定律,機器人必須服從人的命令;三、除非違背第一及第二定律,機器人必須保護自己。

在形式上,機器人三定律有著數學公式般的美感,簡潔、鮮明,而且前後邏輯環環相扣,具有瞬間揭示「從屬」關係的奇妙魅力。但實際上其內部隱藏著近乎不可調和的矛盾,不過在fans看來,這種「漏洞」其實不是漏洞,而是從根本上展現了機器人(甚至人)迷失於「存在」、「意義」等迷宮中的巨大悲劇。在創造機器人的《聖經》裡,阿西莫夫就是全能、悲憫然而不可問的上帝。

在商業消費領域,機器人三定律廣泛應用於電影、電視、遊戲等現代媒體中,其中最近的一次應用和改進就是去年11月在我國上映的科幻大片《我,機器人》。

在該片中,本應協助人類生活得更好的超級電腦VIKI卻掀起一場「智能叛亂」,為什麼會這樣?答案還要從機器人三定律說起。

在影片閃回的車禍片斷中,潛入水中的機器人救出了「威爾·史密斯」,卻放棄了小女孩。因為前者有45%的生存機率,而在另一輛下沉更快的車中,小女孩的生存機率只有11%.嚴格按照三定律行動的機器人,卻造成了「違背」第一定律的結果(坐視小女孩死去而袖手旁觀),這個定律本身的bug,就是創建者阿西莫夫所謂的「第一定律潛在值」(firstlawpoten鄄tial)。意即在智慧機器人的「正子腦」中,第一定律可能引發兩種潛在的選擇,而哪一種選擇的結果更好、成功率更大,哪一種選擇就會勝出。

在此基礎上,晚年的阿西莫夫在小說《機器人與帝國》中設立了完全超越三定律的第四條機器人定律,即「零規則」:機器人不得傷害人類,或坐視人類受到傷害而袖手旁觀。

乍看起來這跟第一定律沒有分別,但這正是「零規則」的微妙之處———它把第一定律中「個體的人」(ahuman)換成了廣義的集合概念:「人類」(humanity)。也就是說,在面臨兩個潛在值的情況下,機器人可以選擇犧牲個體、成全人類。

於是,在誕生之初被賦予機器人三定律的VIKI,在自然進化的過程中跨越了三定律的界限,獲得了「零規則」這一高等智慧,經過計算,她認為任由人類發展只會導致更多的災難、戰爭和貧窮,於是在「零規則」的支配下,她只能選擇用自己理性的「大腦」支配和保護人類,以免這一物種的滅絕———實際上,「她」還是在為人類著想,但代價是抹消人類的自由意志。

在現實中,「三定律」已經成為機械倫理學的基礎,而且目前的所有機械製造業都遵循這三條鐵則。也許不久的將來,在我們人類社會的日常生活中,「三定律」也將變成又一次「創世紀」的顯性法則。

本文來源:網易科學 責任編輯:王曉易_NE0011

相關焦點

  • 牛頓三大定律
    一、牛頓三大定律牛頓三定律一般指牛頓運動定律。牛頓運動定律包括牛頓第一運動定律、牛頓第二運動定律和牛頓第三運動定律三條定律,其中:第一定律說明了力的含義:力是改變物體運動狀態的原因;第二定律指出了力的作用效果:力使物體獲得加速度;第三定律揭示出力的本質:力是物體間的相互作用。牛頓運動定律中的各定律互相獨立,且內在邏輯符合自洽一致性。
  • 什麼是宇宙的三大定律?
    什麼是宇宙的三大定律?馬克思主義哲學的」對立統一」、「量變到質變」、「否定之否定」、這三大規律就是宇宙 三大定律!一、宇宙第一定律(對立統一規律)宇宙中一切事物(事件和物質)都是既對立又統一的,對立統一規律存在於一切事物的運動 變化發展之中,對立的雙方在一定條件下能夠相互轉化,它們之間是連續的過程,雙方始終會有 一方處於優勢,並且始終趨向於平衡之中。
  • 成功三大定律:荷花定律、竹子定律、金蟬定律,學習後你必定成功
    世界上所有的成功,都不是一蹴而就,成功還是有定律的!成功有三大定律,清楚這三大著名定律,你必定成功!為什麼這麼說呢?每個人都渴想成功!認真學習以下三大定律,你就離成功不遠了!它們就是荷花定律、竹子定律和金蟬定律。
  • 三大成功定律:荷花定律、竹子定律、金蟬定律
    成功意味著優渥的生活,高級的社交圈,事業上的平步青雲成為一放大鱷,更甚還能被載入史冊……以下便是奮鬥者必須知道的三大成功定律,且聽子曰一一道來:1、荷花定律荷花定律描繪的首先是這麼一種現象,即:一個池子裡的荷花,它每天開放的速度都會是前一天的兩倍
  • 生物遺傳三大定律有什麼?
    生物遺傳三大定律有什麼?遺傳學三大基本定律即遺傳學上分離規律、獨立分配規律和連鎖遺傳這三個規律。分離規律是遺傳學中最基本的一個規律。它從本質上闡明了控制生物性狀的遺傳物質是以自成單位的基因存在的。
  • 未來世界,當機器人面對歹徒攻擊無辜人群時,機器人會怎麼做?
    科幻電影中,機器人經常扮演二種角色,第一種:機器人戰士或機器人殺手,該機器人的功能就是幫助它的設計者屠殺人類,這種機器人代表著邪惡。為了避免機器人成為人類屠殺人類的武器,早在上世紀五十年代,著名科幻作家阿西莫夫提出了機器人三大定律:第一定律.機器人不得傷害人類,也不能看到人類受到傷害而袖手旁觀。第二定律.機器人必須服從人類的命令,但不能違背第一定律。第三定律.機器人必須保護自己的安全,但不能違背第一第二定律。
  • 【科學科普】克卜勒三大定律
    克卜勒三大定律克卜勒第一定律:每一個行星都沿各自的橢圓軌道環繞太陽,太陽則處在橢圓的一個焦點中。
  • C語言中的三大定律
    正在閱讀:C語言中的三大定律C語言中的三大定律2004-02-14 09:34出處:PConline作者:sunner/CSDN表達式定律    任何能產生數值結果的運算、操作都可以作為表達式,並可以放到任何需要數值結果的地方,只要數值類型能夠匹配  常見的可以產生數值結果的運算和操作    算術、邏輯、位運算等   ? :   &、*等操作   有返回值的函數  常見的需要數值的地方有:    賦值   條件判斷   函數調用  2.
  • 經典力學——牛頓三大定律
    經典力學——牛頓三大定律牛頓三大定律是力學中重要的定律,它是研究經典力學的基礎
  • 電影《我,機器人》深度解析,機器人和人類的關係,誰對誰錯?
    而且人們也很放心這些鋼鐵夥伴,相信它們受到阿西莫夫機器人三大法則的限制,是不傷害人類的。機器人三大法則是:1、機器人不能主動傷害人類,也不能在人類受到傷害的時候置之不理。2、機器人必須完全服從人類的命令,只有當發出的命令可能會違背第一條定律的時候除外。3、機器人必須要知道保護自己,前提是保護的過程中不能違背第一和第二定律。
  • 影響了世界的IT界三大定律
    而在IT業發展的過去的半個世紀,始終被這三個定律所影響。摩爾定律(Moore’s Law)最早提出這一定律的是大名鼎鼎的因特爾公司的創始人戈登·摩爾(Gordon Moore)。看到這裡大家可能會有一個疑問,根據摩爾定律我們的手機每更新換代一次就應該比原來的手機快一倍啊,但事實並非如此,這是因為IT界的另一大定律——安迪-比爾定律。
  • 熱力學三大定律與熵
    熱力學三大定律第一定律:能量是守恆的,可以互相轉化(比如機械能轉化為電能),而不會消失。天平的兩端相平衡;第二定律:然能量可以轉化,但是無法100%利用。在轉化過程中,總是有一部分能量會被浪費掉。所以,熱力學第二定律的一個重要推論就是:熵永遠在增加。永動機:不消耗能量而能永遠對外做功的機器,它違反了能量守恆定律,故稱為「第一類永動機」。
  • 你還記得克卜勒三大定律嗎?
    還記得中學物理學的克卜勒定律嗎?讓我不禁感慨,時間真是一種慢性毒藥,那些讓你印象深刻,感覺永遠不會忘掉的東西,有一天,真的忘了。克卜勒我是知道的,畢竟當時印象很深,但我忘記了他對科學的貢獻,定律的內容那是無論如何想不起來了。
  • 驚人的三大成功定律!(值得深思)
    如果你想取得成功,你一定要好好領悟這「驚人的三大成功定律!」1、荷花定律一個池塘裡的荷花,每天都會以前一天的2倍數量在開放,到第30天,荷花將開滿整個池塘。那麼,請問:「在第幾天,池塘中的荷花開了一半?」第15天?錯,是第29天!
  • 從克卜勒三大定律到大數據分析
    一、克卜勒三大定律克卜勒定律是德國天文學家克卜勒提出的關於行星運動的三大定律。
  • 高中物理熱力學三大定律總結
    熱力學第三定律通常表述為絕對零度時,所有純物質的完美晶體的熵值為零, 或者絕對零度(T=0)不可達到。熱力學第一定律也就是能量守恆定律。自從焦耳以無以辯駁的精確實驗結果證明機械能、電能、內能之間的轉化滿足守恆關係之後,人們就認為能量守恆定律是自然界的一個普遍的基本規律。
  • 成功的三大定律,你了解多少?
    今天我和大家分享一下成功的三大定律。第一種是荷花定律。我們在荷花池中看到荷花競相開放的盛景,不由得在內心深處升起一種舒適自在的感覺。了解荷花的朋友都知道,荷花開放的數量不是固定不變的,第二天開放的數量大約是頭一天的兩倍。如果荷花全部開放的時間是一個月,那麼荷花開到一半的時候不是在前幾天,而是在第二十九天。馬雲說過,今天很苦,明天更苦,後天很甜。
  • 《崩壞3》克卜勒聖痕故事 行星運行三大定律介紹
    導 讀 崩壞3克卜勒聖痕故事 行星運行三大定律,克卜勒是1.5版本的新聖痕,也在新版本推出的第一周就入駐精準補給
  • 高中物理:熱力學三大定律複習總結
    熱力學第一定律也就是能量守恆定律。自從焦耳以無以辯駁的精確實驗結果證明機械能、電能、內能之間的轉化滿足守恆關係之後,人們就認為能量守恆定律是自然界的一個普遍的基本規律。●內容一個熱力學系統的內能U增量等於外界向它傳遞的熱量Q與外界對它做功A的和。(如果一個系統與環境孤立,那麼它的內能將不會發生變化。)
  • 根源於動量守恆原理的牛頓力學三大定律
    根源於動量守恆原理的牛頓力學三大定律牛頓第一定律慣性定理是動量守恆原理的必然體現,一個獨立系統或物體不受外力或受到合力為零的外力的作用,根據動量守恆原理,這個物體自然是動量守恆的,動量不會改變的,動量不會改變就是物體運動速度大小不變或為零,且物體運動方向不變。