來源：Knowridge
作者：Mark Robert Anderson
譯者：張易
2017 新智元開源·生態 AI 技術峰會 【倒計時 7 天，點擊「閱讀原文」搶票】新智元和行業領袖英特爾聯合舉辦，中國 AI 2017 開年盛典啟幕在即，三大亮點不容錯過：① BAT 領銜，英特爾支持各路人工智慧技術領袖齊聚，洞察中國 AI 軍團布局；② 引爆 AI 原力，現場參與 AI 技術論壇頂牛對撞；③人工智慧創業家巨星璀璨，看投資領袖預測誰將成為中國 AI 獨角獸。【新智元導讀】75年前，阿西莫夫在短篇小說《環舞》中首次提出了三定律，這成為人機關係互動中人類的保護傘。然而，三定律本身就存在著矛盾和模糊。同時，鑑於機器人領域已經發生了重大變化，且將繼續變化，我們確實需要更新這三定律，來適應21世紀的人工智慧發展。
75年了，阿西莫夫的機器人三定律也該更新了
在卡西莫夫的科幻世界裡，機器人扮演著僕人的角色。需要給他們制定一套規則，防止他們傷害人類。
而今距阿西莫夫第一部小說出版已經75年了。人類科技取得了重大進步，我們對機器人的認識也發生了很大改變。阿西莫夫在故事裡給機器人制定的倫理守則需要更新了。
從掃地機器人到軍事無人機，再到整個生產流水線，自動化設備大量湧現。
與此同時，人工智慧和機器學習長足發展，滲入到我們生活的方方面面。無論是個人在網絡上搜索信息還是政府部門優化配置公共服務，背後都有AI技術在發揮作用。
這些發展很快就會導向一個機器人大爆發的時代。社會的各個領域幾乎都會有機器人參與其中。人和機器人的交互將會顯著增加。
而當我們想為這種交互制定一些規則時，我們仍會想起阿西莫夫三定律。韓國政府甚至在2007年提案了機器人倫理憲章，其內核正是阿西莫夫三定律。不過鑑於機器人領域已經發生了重大變化，且將繼續變化，我們確實需要更新這三定律，來適應21世紀的人工智慧發展。
作為用於保護人類在和機器人互動時免受其傷害的規則，阿西莫夫三定律如下：
一 機器人不得傷害人類，或因不作為使人類受到傷害。
（A robot may not injure a human being or, through inaction, allowa human being to come to harm）
二 除非違背第一定律，機器人必須服從人類的命令。
（A robot must obey the orders givenit by human beings except where such orders would conflict with the First Law）
三 除非違背第一及第二定律，機器人必須保護自己。
• （A robotmust protect its own existence as long as such protection does not conflictwith the First or Second Laws）
如上文所述，一個明顯的問題在於今天的機器人的種類遠比阿西莫夫故事中機器人的種類要多。所以我們首先需要考慮是不是該設置一條標準線，低於這條線根本就不需要使用這三定律。
很難相信一個掃地機器人能傷害到人類，或者會具備遵循命令的能力。它畢竟只是執行單任務，按下開關按鈕前，一切就都決定好了。
另一個極端則是軍事戰鬥環境下的機器人。這些設備就是設計用來偵察、爆破或者運輸軍用物資的。它們似乎和阿西莫夫定律不違背，尤其是想到它們的用途就是代替人類進入到高危環境中。
但再往前走一小步，比如創造出能上戰場的武裝機器人，就和第一定律——不傷害人類——嚴重違背了。
戰爭就是通過傷害敵人來保護本方的公民和戰士。這種情況下，需要從不同的立場和角度來思考機器人守則。
三定律的模糊性激發了很多科幻作家，包括阿西莫夫本人，來探索它們會如何被誤讀或錯誤地使用。問題之一在於定律沒有準確定義什麼是機器人。科學技術的發展造就了分子結構層面的自動化設備。舉例來說，由DNA和蛋白質構成的「機器人」可以被用於糾正基因混亂的手術。理論上，這些設備的確應該遵守阿西莫夫定律。但它們為了完成工作，需要融合進入它們為之工作的人體，成為人體的一部分。
這種融合使得界定這種機器人是否還具備足夠的獨立性來遵循定律變得很困難。從實踐層面上來說，它不可能再確定收到的命令是否對它融入的人體有害。
對於什麼是對人類的傷害，這一點也有疑義。比如日本有一種機器嬰兒，如果人類領養它們，確實可能對人類造成情感或心理的傷害。
但這種傷害並不直接來自這個機器人的行動，甚至在這次人機互動結束後的若干年之內都不顯現。同樣的問題在簡單得多的AI上也會出現，比如用機器學習的方法來創造打動人心的音樂。
定律的另一個大問題在於AI還需要更顯著的進步，機器人才能理解這些定律。AI研究的目標有時被描述為研發像人一樣行動和思考的機器。然而迄今為止，關於模仿人類行為的研究在AI領域並不多，對於理性行為發展的研究也只局限在有限的領域中。
所以，機器人的行動範圍非常有限，被高度限制。一個能基於三定律進行推理和決策的系統需要相當巨大的計算能力，目前科技還遠未達到。
有鑑於上述這些問題，阿西莫夫定律只是為機器人守則的建立建立了一些原則。我們需要補充一整套全面的守則。換句話說，沒有AI的進一步長足發展，定律的實施還是不可能的任務。而我們甚至還沒考慮人類和機器人墜入愛河後可能遭受的傷害呢。
原文地址：https://knowridge.com/2017/03/after-75-years-isaac-asimovs-three-laws-of-robotics-need-updating/
新智元「3·27」AI 技術峰會購票二維碼：