在科幻小說領域,機器人三定律是科幻小說家艾薩克·阿西莫夫在他的大量機器人相關作品中為機器人設定的行為準則:
第一定律
機器人不得傷害人,或任人受到傷害而無所作為;
第二定律
機器人應服從人的一切命令,但命令與第一定律相牴觸時例外;
第三定律
機器人必須保護自己的存在,但不得與第一、第二定律相牴觸。
「機器人三定律」在他於1942年發表的作品《Runaround》中第一次明確提出,並且成為他的很多小說,包含基地系列小說中機器人的行為準則和故事發展的線索。機器人被設計為遵守這些準則,違反準則會導致機器人受到不可恢復的心理損壞。但是在某些場合,這樣的損壞是不可避免的。在兩個人互相造成傷害時,機器人不能任人受到傷害而無所作為,但是這會造成對另一個人的傷害,在一些小說中這造成了機器人的自毀。
他在小說中提出了三定律的很多變體,例如第零定律的產生(機器人不得傷害人類,或任人類受到傷害而無所作為)。這些對機器人行為準則的修改成為他的很多故事的主線。在《Little Lost Robot》中為了避免機器人無謂地阻止人類進行低危險性工作,第一定律中的後半部分被去掉了,但是也產生了一些其他的問題。在《Robot Dreams》中,一個機器人關於取消第一定律和第二定律的夢,導致了他的毀滅。在機器人與帝國等小說中,一些外表是人的機器人認為自己應該歸屬於人類。在《 Bicentennial Man》中,一個機器人為了成為人,將自己的機械部分逐步替換成組織,並且在最後用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產生。
三定律在科幻小說中大放光彩,在一些其他作者的科幻小說中的機器人也遵守這三條定律。但是,截至2005年,三定律在現實機器人工業中仍然沒有應用。目前很多人工智慧和機器人領域的技術專家也認同這個準則,隨著技術的發展,三定律可能成為未來機器人的安全準則。
「機器人三定律」的目的是為了保護人類不受傷害,但阿西莫夫在小說中也探討了在不違反三定律的前提下傷害人類的可能性。在現實中「三定律」成為機械倫理學的基礎,目前的機械製造業都遵循這三條定律。
阿西莫夫最重大的科幻理論貢獻
如果在現實世界中,牛頓的「萬有引力」定律是宇宙運行的普遍法則,那麼在科幻界或工業設計界,「機器人三定律」就是智慧機器人賴以存在和發展的準則。
機器人三定律來自阿西莫夫的名著《我,機器人》。其內容是:一、機器人不得傷人,或任人受傷而袖手旁觀;二、除非違背第一定律,機器人必須服從人的命令;三、除非違背第一及第二定律,機器人必須保護自己。
在形式上,機器人三定律有著數學公式般的美感,簡潔、鮮明,而且前後邏輯環環相扣,具有瞬間揭示「從屬」關係的奇妙魅力。但實際上其內部隱藏著近乎不可調和的矛盾,不過在fans看來,這種「漏洞」其實不是漏洞,而是從根本上展現了機器人(甚至人)迷失於「存在」、「意義」等迷宮中的巨大悲劇。在創造機器人的《聖經》裡,阿西莫夫就是全能、悲憫然而不可問的上帝。
在商業消費領域,機器人三定律廣泛應用於電影、電視、遊戲等現代媒體中,其中最近的一次應用和改進就是去年11月在我國上映的科幻大片《我,機器人》。
在該片中,本應協助人類生活得更好的超級電腦VIKI卻掀起一場「智能叛亂」,為什麼會這樣?答案還要從機器人三定律說起。
在影片閃回的車禍片斷中,潛入水中的機器人救出了「威爾·史密斯」,卻放棄了小女孩。因為前者有45%的生存機率,而在另一輛下沉更快的車中,小女孩的生存機率只有11%.嚴格按照三定律行動的機器人,卻造成了「違背」第一定律的結果(坐視小女孩死去而袖手旁觀),這個定律本身的bug,就是創建者阿西莫夫所謂的「第一定律潛在值」(firstlawpoten鄄tial)。意即在智慧機器人的「正子腦」中,第一定律可能引發兩種潛在的選擇,而哪一種選擇的結果更好、成功率更大,哪一種選擇就會勝出。
在此基礎上,晚年的阿西莫夫在小說《機器人與帝國》中設立了完全超越三定律的第四條機器人定律,即「零規則」:機器人不得傷害人類,或坐視人類受到傷害而袖手旁觀。
乍看起來這跟第一定律沒有分別,但這正是「零規則」的微妙之處———它把第一定律中「個體的人」(ahuman)換成了廣義的集合概念:「人類」(humanity)。也就是說,在面臨兩個潛在值的情況下,機器人可以選擇犧牲個體、成全人類。
於是,在誕生之初被賦予機器人三定律的VIKI,在自然進化的過程中跨越了三定律的界限,獲得了「零規則」這一高等智慧,經過計算,她認為任由人類發展只會導致更多的災難、戰爭和貧窮,於是在「零規則」的支配下,她只能選擇用自己理性的「大腦」支配和保護人類,以免這一物種的滅絕———實際上,「她」還是在為人類著想,但代價是抹消人類的自由意志。
在現實中,「三定律」已經成為機械倫理學的基礎,而且目前的所有機械製造業都遵循這三條鐵則。也許不久的將來,在我們人類社會的日常生活中,「三定律」也將變成又一次「創世紀」的顯性法則。