《自然》雜誌:面對「電車難題」,不同國家的人有不同的道德選擇

編者按：電車難題原本只是一個思想實驗。但是無人車的發展卻繞不開這個問題。因為機器在無論如何都會撞死人的情況下必須靠預先植入的道德代碼做出判斷：該犧牲誰，該保誰。但是一項有全球230萬人參與的調查表明：這個問題並不存在普適性的道德選擇。這個問題的解決也許需要進行一場全球性的公開討論才能達成共識——或者永遠也無法達成共識。《自然》雜誌的一篇文章對此進行了綜述。

目前好幾家主流技術公司和汽車製造商都在開發著無人車。

當一位司機猛踩剎車以避免撞上非法穿過馬路的行人時，其實他正在做出一個道德決定，這個決定會把風險從行人轉嫁到車內的乘客身上。無人車可能很快也要自行做出類似的道德判斷——但是給汽車設定通行的道德代碼也許是一項棘手的任務，這是對全球230萬人進行調查後得出的結論。

這項有史以來有關機器倫理的最大型調查已經在《自然》雜誌上發布。調查發現，許多知道司機做出決定的道德原則往往因國家而異。比方說，有一種場景下行人和乘客的某種組合都會因衝撞而死亡，相對繁榮、體系較為完善的國家的人對放過非法穿越馬路的行人的態度會沒那麼友好。

Iyad Rahwan 是MIT的計算機科學家，也是本項研究的聯合作者之一。他說：「說到機器倫理，有些人以為好像可以通過想出一套完美的規則指導機器人來實現，但我們的數據表明普遍規則並不存在。」

這項調查的名字叫做道德機器，裡面列舉了13種不可避免會有人死的場景。受訪者被要求在各種情況下做出賦予誰生存權的選擇，這些情況涉及到不同的變量組合：年輕或者年老，有錢或者沒錢，更多人或者更少人。

大家極少會遇到如此突出的道德困境，部分批評者則質疑調查中提出的那些場景是否與無人車的道德與實際問題相關。但研究作者成這些場景代表了司機每天都要做出的微妙的道德決定。他們提出，這些發現揭示了政府和無人車製造商必須考慮的文化上的微妙之處，如果他們希望這種車能獲得大眾接受的話。

至少有一家攻關無人車的公司——德國汽車製造商奧迪說這項調查可以幫助他們推動有關這些問題的重要套了（其他有著無人車研發計劃的公司，包括汽車製造商豐田和技術公司Waymo與Uber，拒絕對該發現置評。）耶魯大學的社會學家Nicholas Christakis則對這些發現感到著迷。

「這是一份引人矚目的論文，」他說。關於道德是否具有普遍性或者因文化而異的爭論由來已久，Christakis說，而現在這個有關如何對無人車進行編程的「21世紀問題」讓這個問題重新又被點燃。

未選之路

一些全世界最大型的技術公司，包括Google的母公司Alphabet、Uber和Tesla，以及汽車製造商現在都有自己的無人車計劃。很多這些公司都認為這種車能夠改善道路安全性，促進交通並且提高燃料效率。社會學家則稱這種車會引起道德問題，而且可能會對公共安全和環境造成意外後果。

2016年，Rahwan的團隊無意中發現了一個無人車的道德悖論：在調查中，大家說自己希望無人車能保護行人，哪怕這意味著要犧牲乘客——但同時他們又不想購買被按照這種規則編程好的無人車。

出於好奇無人車將來會不會引發其他的道德難題，Rahwan聚攏了一支由心理學家、人類學家以及經濟學家組成的團隊，發起了道德機器項目。在18個月內，這項在線調查記錄了來自233個國家和地區的人做出的4000萬項決定。

其發現是，無論年齡、性別或者居住過差異如何，大多數人都決定首先拯救人而不是寵物的生命，先拯救一群人而不是一個人的生命。這些回應跟也許是目前有關無人車的唯一政府性指南（2017年德國道德委員會關於自動化及聯網駕駛的報告）建議的規則是一致的。

但是共識也就到此為止了。當論文作者分析了受訪者至少超過100人的130個國家的人的回答之後，他們發現那些國家可以分為3個組。一個包括北美和若干歐洲國家，其共同特點是在這些地方歷史上基督教曾經是統治性的宗教；另一個組說日本、印度尼西亞和巴基斯坦，有著深厚的儒教或者伊斯蘭教傳統。第三組是中美洲和南美洲，以及法國和前法國殖民地。不同組之間的回答差別很大，比如說第一組相對於第二組對於犧牲老人拯救年輕人表現出更強烈的傾向。

道德羅盤：對全球230萬人進行的調查發現有不同的道德原則來指導司機做出決定。受訪者需要面對13種場景，在這些場景裡面，行人和乘客的某種組合會因為碰撞而死亡是不可避免的。受訪者需要決定應該拯救誰的生命。科學家利用這些數據對國家和地區進行分組，最後基於其道德態度分出了三組（西方、東方、南方）。

研究人員還識別出一個國家內其居民的一般觀點與社會與經濟因素的相關性。該團隊發現，有著強有力政府體系的國家，比如芬蘭和日本，相對於與政府體系較弱的國家，如奈及利亞和巴基斯坦，會更傾向於選擇撞非法穿過馬路的行人。

有的場景則迫使受訪者在一頭的無家可歸者以及另一頭的企業主管之間做出抉擇，這方面的選擇又揭示了另一個背離點。大家所做選擇往往跟其所處文化的經濟不平等程度相關。來自貧富差距相對較小的芬蘭對於拯救誰並沒有表現出明顯的傾向性。但是經濟差異性很大的哥倫比亞的一般受訪者則選擇撞死地位低的人。

溫哥華英屬哥倫比亞大學心理學家Azim Shariff發現這個結果很有趣，因為這說明這項調查真實反映了大家的道德偏好。「如果你假設收入不平等程度較低的地方有著偏好平等主義政策的話，這項調查表明支持這些政策的道德規範在大家玩這些遊戲時就已經表現出來了。」

前面有坑？

儘管無人車尚未面向公眾開始銷售，但測試版的無人車已經在若干美國城市巡遊了。到2021年，至少有5家製造商希望有無人車或者無人卡車得到廣泛使用。

南卡羅來納大學的法學教授Bryant Walker Smith對道德機器調查是否具備任何實際價值表示懷疑。他說這項研究不切實際，因為在現實生活中很少有這樣的情況發生，也就是車輛要面臨在碰撞兩種不同類型的人的選擇。Walker Smith說：「我也很想知道無人車會如何處置面臨小行星撞擊的情況。」

但研究作者說他們的場景代表了人類司機日常做出的不怎麼重要的道德判斷，而這些判斷有時候會是十分致命的。在崎嶇山路為了躲避騎自行車的人而打方向盤的司機會增加撞上來車的機會。如果道路上無人車的數量增加，那麼它們牽涉到此類事故的可能性也會增加。

一些汽車公司正在傾聽。奧迪負責領導研究無人車倫理的Barbara Wege說此類研究很有局愛之。Wege認為無人車會減少事故發生，事故率將比人類司機要低——但那些牽涉到機器人的事件會引起更多的注意。

像道德機器這樣的調查可以幫助開啟關於這些不可避免的事故的公共討論，從而培養大家對無人車的信任。她說：「我們需要就我們願意承受哪些風險達成社會共識。」

原文連結：https://www.nature.com/articles/d41586-018-07135-0

編譯組出品。編輯：郝鵬程。