自動駕駛汽車的「電車難題」:缺少通用道德準則

2020-12-04 環球網

自動駕駛的支持者和批評者,都喜歡拋出一個問題 —— 當碰撞不可避免的時候,誰應該接管車輛的駕駛操作、誰又該被撞死?為了解公眾對此事的態度,麻省理工學院決定對來自不同國家、地區、文化、社會團隊的 230 萬人進行採訪。結果發現,他們對回答不盡相同。論文合著者、MIT 計算機科學家 Iyad Rahwan 表示:「從機器倫理上考慮,一些人認為能夠對機器制定一套完善的規則。然而研究表明,其沒有通用的規則」。

(配圖來自:Ford)

除了公布研究成果,MIT 還發布了一份名為《機器道德》(The Morol Machine)在線調查問卷。來自世界各地的受訪者,被要求在各種情況下作出兩種選擇,類似於著名的「電車難題」(Trolley Problem)。

在緊急情況下,自動駕駛汽車應該撞到一群兒童(或老人)、還是一名流浪漢(或企業高管)?

在周三的新聞發布會上,MIT 研究人員對某些原則達成了一致意見。總的來說,自動駕駛汽車應該視人類的生命權高於動物、拯救更多人(而不是少數)和年輕的生命(而不是老年人)。

有趣的是,研究還發現,受訪者所處的地區和文化氛圍,對其偏好有著更大的影響。

在芬蘭和日本等相對發達的國家和地區,受訪者普遍認為應該撞向違反交通規則的那幫人。但在經濟發展極不平衡的哥倫比亞,旁觀者又覺得應該撞死一個流浪漢、而不是一位企業高管。

研究配圖

研究作者將受訪者大致分成了三個地理和文化區域,分別是東部、西部和南部,並且理出了其中的差異:

與北美和西歐相比,包括亞洲在內的東方區域,受訪者更傾向於犧牲年輕人、而不是老年人。

與東西方區域的受訪者相比,南方地區(包括南美洲等地)的人們,更傾向於挽救婦女的生命。

對開發商來說,其底線是為自動駕駛汽車編制一套明確的道德準則。但從這項研究來說,全球並沒有一個簡單而統一的道德選擇方案。

論文一作、MIT 博士後 Edmond Awad 在一份聲明中稱 —— 研究試圖了解自動駕駛汽車在不得已的情況下必須作出的道德決策,但我們還不知道它們到底應該怎麼做。

Moral Machines - How culture changes values(via)

有關這項研究的詳情,已經發表在近日出版的《自然》(Nature)期刊上。原標題為:

《Self-driving car dilemmas reveal that moral choices are not universal》

《自動駕駛汽車的困境:道德選擇並非普遍存在》

[編譯自:Cnet]

相關焦點

  • 電車難題:自動駕駛汽車的道德難題
    1、智能汽車的道德難題著名的科幻作家阿西莫夫,在他的《機器人系列》裡面,提出了影響力極大的機器人三定律。第一定律,機器人不得傷害人類,或者因不作為而使人類受到傷害。第二定律,除非違背第一定律,否則機器人必須服從人類的命令。
  • 當自動駕駛遇上「電車難題」
    汽車自主行為是一系列複雜的評估和決策過程的自然結果,無法為我們作出正確的道德選擇,人們也無法對自動駕駛汽車完全信任。 讓自動駕駛汽車製造商擔責,鼓勵人們了解其運行機制,才能慢慢找到解決自動駕駛汽車式「電車難題」的方案。
  • 現代社會的「電車難題」:自動駕駛系統在意外來臨時會撞向誰?
    聞名於哲學界的「電車難題(Trolley Problem)「在自動駕駛汽車時代」將不再只是一個哲學問題,而是每一個自動駕駛系統需要面對的真實問題,系統將決定在發生事故時撞向誰、保全誰。
  • 現在自動駕駛出車禍 更像是「酒駕」,無關「電車難題」
    電車難題除了作為一個哲學實驗外,還被用作心理學實驗中的一種工具——最近,人們已經把它當作衡量自動駕駛汽車的道德標準了。自動駕駛汽車應該優先保護行人還是先保護乘客?那老人與小孩相比呢?如果汽車可以獲得與車禍發生相關的信息,它是否應該使用這些數據來做出決定?電車難題已經在自動駕駛汽車領域流行起來了。
  • 自動駕駛技術研發不可逾越的鴻溝:「電車難題」
    (原標題:自動駕駛技術研發不可逾越的鴻溝:「電車難題」)
  • 「電車難題」不應成為自動駕駛技術發展的緊箍咒
    說起自動駕駛,許多人就會不自覺的聯想到上世紀 70 年代誕生的經典電車難題,這個倫理學領域最為知名的思想實驗正在成為整個行業不斷前進的絆腳石。因此,現在我們是不是該向前看,把這個問題徹底翻篇,不要再用這一道德問題來拷問自動駕駛汽車了?所謂的電車難題內容大致是:一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。
  • 【快評】自動駕駛的「電車難題」是一個錯誤的提問
    在聽過與會發言之後,賽迪智庫政法所的專家介紹了對自動駕駛面臨的「電車難題」的幾點看法:自動駕駛的「電車難題」通常是這樣一類問題:如果一輛自動駕駛汽車的前面兩個不同方向上有不同的人,比如一個方向是老人另一個方向是婦女,一個方向有1個人另一個方向有5個人等等,這輛自動駕駛汽車如果無法躲避,應當做出何種選擇,依靠何種算法規則做選擇,以及如果造成損害應當承擔何種責任。
  • 「電車難題」的「道德物化」解法
    如果一個可以控制拉杆(扳道岔)的人,因為自己的行為導致無辜的人死亡,無論死五個人還是一個人,都是有道德缺陷的。甚至他無所作為也不道德,因為這等於他放任這些人面臨死亡。「電車難題」提出後,又出現了不少類似版本,都創設了無論選擇怎樣做都存在道德缺陷的情景。  隨著人工智慧無人駕駛技術的發展,「電車難題」重新引起熱議。
  • 自動駕駛「電車難題」如何解?不同的文化給出不同的答案
    人工智慧的發展已經不可阻擋,自動駕駛成為現實的一天也離我們越來越近。但在那之前,除了還有技術上的障礙需要克服,我們在享受自動駕駛帶來的便利前,可能還須先解決一個也許比技術問題更難解決的倫理問題:自動駕駛領域的「電車難題」。交通事故的發生一直以來都是一個概率事件。
  • 倫理學家靠邊站 ,律師才是解決自動駕駛「電車難題」的定海神針
    幸運的是,你可以拉一個拉杆,讓電車開到另一條軌道上。然而問題在於,那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況,你是否應拉杆?在自動駕駛時代即將來臨時,這個倫理學實驗有了新的意義。如果遇到類似的難題,自動駕駛汽車是選擇保護乘客,義無反顧撞向五名路人呢?還是保護路人犧牲乘客?顯然,這個決定不應該由自動駕駛汽車來做。
  • 自動駕駛的道德問題是真實存在的,但未必就是「電車難題」
    目前來看,人工智慧的實際應用中一個非常宏偉也非常有前景的領域就是——自動駕駛。自動駕駛有望將人類從駕駛汽車,這個最不安全也是最浪費時間精力和各種資源的領域解放出來,將帶來整個汽車行業乃至整個社會形態的革命。然而自動駕駛的安全性疑慮和呼聲一直不小:總有很多人不放心將自己的性命寄託於一臺機器上。
  • 重讀電車難題:當無人車不得不殺人 誰決定誰生死
    【網易智能訊 9月24日消息】最近,「電車難題」這個一個廣為人知的道德倫理思想實驗,重新出現在人們的視野中。當未來由汽車來決定我們的生死時,這個難題將成為噩夢般的存在。然而,在許多研究自動駕駛汽車的專家眼中,關於電車難題的討論是過於偏激的。他們認為電車難題是譁眾取寵,而且也無關緊要的。但這種態度是不對的。由於自動駕駛汽車的出現,電車難題將得到解決。
  • 目前無解的道德難題:電車難題及其延伸問題
    兩種情況下的電車道德難題01想像一下:你駕駛著一輛電車在一條鐵軌上飛馳。有5個修理工在鐵軌上施工,顯然,他們並沒有注意到有一輛電車朝他們撞過來。你本能地踩下剎車,沒想到關鍵時候,電車的制動系統失靈了。千鈞一髮之際,你發現有一條側軌,側軌上只有1個修理工,且電車的方向盤沒有壞,那麼問題來了:你會為了救5個人而轉動方向盤,讓電車駛向側軌嗎?這就是經典的電車難題,也稱電車撞人悖論。大多數人表示,如果自己是那位電車司機,會選擇變軌。
  • 自動駕駛技術讓機器的道德困境提前到來 算法要如何在生命與財產...
    不過,伴隨著阿里百度等企業的入局,自動駕駛技術作為出行風口,由於可以在弱人工智慧下,依託於複雜的傳感器陣列和完善的電腦算法而實現,已經離我們越來越近。相對的,我們為人工智慧所設想的機器人道德倫理難題,也必然將在自動駕駛技術的落地之後,被更早地提到人們的面前。
  • Nature大型調查:當AI遭遇電車難題,它將拯救誰?
    來源:the Verge編輯:三石,肖琴【新智元導讀】隨著自動駕駛汽車的普及,其安全性問題被社會廣泛關注。人類在遇到車禍時會本能的對「先救誰」進行選擇,而若是以編程形式讓自動駕駛汽車也具有這樣的功能,道德決策又將如何選擇?
  • 陳景輝:自動駕駛與乘客優先|華東政法大學學報202006
    關鍵詞:自動駕駛;乘客優先;市場論證;損害;電車難題 隨著各個國家的交通管理部門允許自動駕駛汽車的路測,自動駕駛已經成為我們真實生活場景中的一部分,這離「大規模設計、製造、銷售和使用」僅一步之遙。
  • 當AI面對「電車難題」時會如何選擇?
    AI面對「電車難題」會如何選擇 「電車難題」是一個著名的思想實驗,其內容大致是:一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。而此時你可以選擇拉杆讓電車開到另一條軌道上。然而問題在於,另一個電車軌道上也綁了一個人。考慮以上狀況,你是否應拉杆?
  • 一直備受爭議的電車難題!
    這就是「電車難題」。它是哲學家菲力帕芙特,在1967年設計的道德困境的一個版本,它很受歡迎。因為它迫使我們思考?如何在進退兩難的情況下作出選擇,我們應選擇的究竟是結果最好的行為,還是堅持道德標準,不讓另一個人死亡?
  • 撞一個人還是撞五個人,自動駕駛汽車如何選擇?
    原標題:撞一個人還是撞五個人,自動駕駛汽車如何選擇? 電車難題是一個非常著名的倫理難題,它設置了一個這樣的場景: 你駕駛著一輛電車行駛在軌道上。在它的前方,有五個人被綁在軌道上不能逃脫。如果電車繼續行駛,就會碾壓到他們。
  • 世界十大悖論之電車難題
    「電車難題」是倫理學領域最為知名的思想實驗之一,其內容大致是: 一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。