當無人車遇上著名的 「電車難題」 它會怎麼辦?
2020-12-05 網易汽車對城市規劃者來說，無人車主要的吸引力在於可以減少路上的汽車數量，但未來無人車註定會開啟勞工關係、監聽能力和資本分配的新篇章。
36氪1月11日報導 「電車難題」 是一個倫理學領域的思想實驗，自 1967年Phillipa Foot 提出以來，大批哲學家對此樂此不疲。
五個無辜的人被綁在鐵軌上，一輛列車疾駛而來，他們死定了。除非你拉下列車控制杆，使列車朝另一個方向駛去，但那條軌道上有一個同樣無辜的人。拉下控制杆，你能拯救五條生命，但會犧牲另一個：你如何選擇才能不違背倫理？
隨著時間的推移，這個問題演化出許多新版本，譬如：是選擇讓電車撞死五個人，還是把一個胖子推下去阻止列車前行（胖子也得死）；還有一種，胖子恰巧就是這個把五位無辜者綁在軌道上的人，等等。如今，這個辯題因無人車的出現被賦予了新的生命。新的版本是：你的無人車將撞上一輛校車，它意識到它可以選擇殺死你或者拯救一車的孩子。那麼在設置程序時應該如何抉擇？我已經記不清有多少次，「電車難題」 總是以各種故作嚴肅、遠見卓識的未來主義姿態出現，並激怒我 。最糟糕的是，這個膚淺的題型不僅偽裝深刻，還演化出各種貌似更深刻、意義更重大的形式。
我們可以換種方式思考：如果你想設計一輛車，讓它在特定條件下故意殺害它的司機，你如何保證司機不會修改程序，確保自己永遠不會被自己的汽車蓄意謀殺？
答案很明顯，借鑑 iPhone 模式。設計一輛汽車，讓它只能安裝通過交通運輸部（或製造商）認證的軟體，並將教人解鎖定以重罪。目前 iPhone、遊戲機和其他設備都上了數字鎖，即業內所說的 「DRM」（數字版權管理）。美國 1998年 頒布的 「數字千年版權法案」 和歐盟 2001年 頒布的 「協調信息社會的著作權指令"禁止去除數字鎖，防止受版權保護的作品被盜版。洩露幫助他人解鎖的信息，如設備中的漏洞等行為也會受到制裁。
圍繞這個問題有很大爭議。無人車的程序必須對一個公路上高速移動的對象負責，尤其是那些脆弱的人類。
但這在現實中顯然根本行不通。大家都知道，每臺被鎖定的設備都可以輕易地 「越獄」。數字鎖法規最主要的目的不是阻止人重新配置設備——而是確保他們不能在企業和產品的幫助下這樣做。2002年 英國電信監管機構 OFcom 宣布了手機解鎖合法化，解鎖你的手機並不難，你可以自己從網上下載軟體解鎖，或找非法破解手機的人。
即使我們可以鎖定汽車的設置，我們也不應該這樣做。數字鎖會在在計算機裡建立了一個計算機所有者也無法進入的空間。數字鎖的相關文件對所有者絕對不可見。當用戶命令作業系統列車數字鎖的目錄下的文件時，文件必須被掩蓋或忽略（以防用戶刪除或替換它們）。當用戶命令作業系統列出所有運行的程序時，數字鎖程序也應被忽略（以防用戶終止程序）。
所有計算機都有漏洞。即使使用多年的軟體，原始碼被無數程式設計師檢查過後，仍會有微小的漏洞。安全是一個過程，不是一個結果。準確地說，安全是一種識別漏洞的過程，以及在對手發現、利用漏洞之前打補丁的過程，也是一種防患於未然，在此之前將對手從系統中消滅，並修補他們造成的破壞的過程。
當 SONY BMG 將數字版權管理軟體暗藏在大量計算機中以阻止 CD 洩漏，它得不被殺毒軟體發現，因為殺毒軟體可以準確將它識別為一個未經用戶許可安裝、違背用戶意願運行的程序。通過改變用戶的作業系統，使其無視任何以一串特殊、秘密的字母串 「＄sys＄」 打頭的文件。惡意木馬作者一旦發現，就會利用它：當他們的程序侵入 SONY 授權的電腦，程序可以在 SONY 的掩護下，不被殺毒軟體發現。
汽車體型龐大且行駛速度快，可以殺死用戶和周圍的人。黑客可以通過授權的軟體控制剎車、加速器和方向盤（去年夏天的克萊斯勒公司因此召回 140 萬輛汽車）。如果把汽車設計為無法修改的無人車，把任何駕駛員試圖修改程序（比如在 「電車難題」 中選擇自保）的做法視為自私的行為，把乘客視為敵人，事情就會更糟。
「電車難題」 愚蠢的假設之下隱藏著深意。網際網路的世界已經出現了 「合法攔截」，留下後門以供警察監管。這些後門已成計算機安全問題的根源。比如 2011年 中國政府攻擊 Gmail 帳戶，「合法攔截」 疑似政見不同的激進人士；以及 NSA 在 2004年 奧運會期間竊聽希臘政府的競選過程。
儘管存在這些問題，執法者仍希望留下更多後門。英國內政大臣 Theresa May 頒布的 「刺探者憲章"，將迫使公司弱化產品的安全性，使監管用戶成為可能。
我們似乎可以從無人車的合法攔截能力中獲得啟示：警察可以對你的車發送信號，讓它停下。這會比"電車難題"帶來更多問題：一種讓汽車不按乘客意願行駛的內置裝置，對騙子、殺人犯和強姦犯來說簡直是天賜良機。這些人能以此巧妙模仿執法機構的官員。不要說政府的警察這種行為在我們看起來是非法的——更別提敘利亞總統 Bashar al－Assad 的秘密警察，或是 Isis 控制下自封警察的恐怖分子了。
"電車難題"變得更棘手了：對城市規劃者來說，無人車主要的吸引力在於可以減少路上的汽車數量，將私家車轉化為一種無人駕駛的 Uber。Uber 甚至可以被看作一種無人車的演練。你和你的車存在某種關係，但你並不擁有它。你沒有權利改變（甚至監視或確認）無人 Uber 裡的軟體。它會設置為讓第三方控制。比如可以設置一種用戶控制的緊急剎車，並委託保險公司管理，但保險公司顯然不希望這種功能出現。
忘記"電車難題"吧：無人車註定會開啟勞工關係、監聽能力和資本分配的新篇章。
相關焦點
-
當無人車遇上著名的「電車難題」,它會怎麼辦?
隨著時間的推移，這個問題演化出許多新版本，譬如：是選擇讓電車撞死五個人，還是把一個胖子推下去阻止列車前行（胖子也得死）；還有一種，胖子恰巧就是這個把五位無辜者綁在軌道上的人，等等。如今，這個辯題因無人車的出現被賦予了新的生命。新的版本是：你的無人車將撞上一輛校車，它意識到它可以選擇殺死你或者拯救一車的孩子。那麼在設置程序時應該如何抉擇？ -
當自動駕駛遇上「電車難題」
這個難題最熟悉的版本可以追溯到60年代，但它更久遠的版本可以追溯到關於功利主義（utilitarianism）的討論，以及在那之前的古典哲學。 這個問題是這樣的：一輛電車失控了，它會撞到一個被困在鐵軌上的五口之家。 -
重讀電車難題:當無人車不得不殺人 誰決定誰生死
更重要的是，關於這個難題的答案還將深刻地重塑美國的法律。要想理解電車難題，首先要考慮這樣的情況：你現在正站在一座天橋上。在你的腳下，一條鐵軌被分成一條主幹道和另一條路線。在主幹道上，有50人被綁在鐵軌上。在主幹道上，一輛電車從橋下疾馳而過，向被困住的人們衝來。幸運的是，天橋上有一個槓桿，當它被拉動的時候，電車能夠改道到另一條路。 -
電車難題:你會怎麼做?
他在這門課程的第一堂中提到當代思想史上一個著名的思想實驗：一輛剎車失靈的有軌電車的司機，應該選擇讓電車繼續前行、撞死軌道上的五個人，還是選擇轉動方向盤、撞死岔道上的一個人。 桑德爾教授所追問的，就是半個世紀之前英國哲學家菲利帕·富特（Philippa Foot）提出的電車難題，它以極為生動的形式，對西方倫理學的基本立場進行了解讀和批判。 -
電車難題的經濟學解釋
「電車難題」是倫理學領域最為知名的思想實驗之一，其大致內容是一個瘋子把五個無辜的人綁在電車軌道上。 -
「電車難題」的「道德物化」解法
近些年來，「電車難題」引發了學術界的各種討論。作為一個思想實驗，其內容大致是：一個瘋子把五個無辜的人綁在電車軌道上，一輛失控的電車朝他們駛來，很快就要碾壓到他們，但是你可以拉一個拉杆（扳道岔），讓電車開到另一條軌道上。問題在於，那個瘋子在另一個電車軌道上也綁了一個無辜的人。考慮以上狀況，你應該怎樣做？ -
電車難題的六大主流觀點(上)
今天抽獎來個好東西，你可以說它是可以玩遊戲的充電寶，也可以說它是具有充電功能的遊戲機，總之它是你旅途的最佳伴侶，真是不知道高到哪裡去了，雖然它很小，但是真的可以滿足你，上面一共有299款經典遊戲，比如魂鬥羅、坦克大戰、超級瑪麗等等等等，唯一的缺點就是你玩兒得太狠了，就不能給手機充電了。 -
當AI面對「電車難題」時會如何選擇?
AI面對「電車難題」會如何選擇 「電車難題」是一個著名的思想實驗，其內容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，並且片刻後就要碾壓到他們。而此時你可以選擇拉杆讓電車開到另一條軌道上。然而問題在於，另一個電車軌道上也綁了一個人。考慮以上狀況，你是否應拉杆？ -
「電車難題」,公平到底該怎麼做?一個法理上的難題
他在這門課程的第一堂中提到當代思想史上一個著名的思想實驗：一輛剎車失靈的有軌電車的司機，應該選擇讓電車繼續前行、撞死軌道上的五個人，還是選擇轉動方向盤、撞死岔道上的一個人。桑德爾教授所追問的，就是半個世紀之前英國哲學家菲利帕·富特（Philippa Foot）提出的電車難題，它以極為生動的形式，對西方倫理學的基本立場進行了解讀和批判。 -
「電車難題」不應成為自動駕駛技術發展的緊箍咒
同樣都是面對產婦難產，不同的處理方式會帶來不同的道德結論。Foot 當時還引申出了許多類似的情況，其中之一就與有軌電車司機有關。另外一個則屬於法官面對的難題，她設想如果法官不判處一位無辜群眾的死刑，暴徒就威脅要衝擊法庭。第二個設想就與電車難題類似，法官要做出選擇，到底是為了正義犧牲多數人的生命，還是為了多數人的利益犧牲無辜者。 -
現在自動駕駛出車禍 更像是「酒駕」,無關「電車難題」
你是讓電車變換軌道撞死一個人，還是什麼都不做，讓它撞死五個人？ 關於電車難題，你可能並不陌生：一輛失控的電車正沿著一條軌道向下衝去。軌道前方有五個工人, 如果電車衝過去，他們肯定會被撞死。但你可以用一個操縱杆把電車轉向鄰近的軌道上，但是那個軌道上也有一個工人，如果電車衝過去了，他也同樣會被撞死。 -
電車難題:自動駕駛汽車的道德難題
1、智能汽車的道德難題著名的科幻作家阿西莫夫，在他的《機器人系列》裡面，提出了影響力極大的機器人三定律。第一定律，機器人不得傷害人類，或者因不作為而使人類受到傷害。第二定律，除非違背第一定律，否則機器人必須服從人類的命令。 -
高人對功利主義的探析,那個歷史上著名的電車難題你解決了嗎?
這些變式修改了一些前提條件，也許會導致人們作出不同於經典電車難題的選擇。變化1：電車剎車失靈，面前的分叉口呈「Y」形，左邊綁著5個人，右邊綁著1個人。你是駕駛員，需要決定開往哪邊。醫生是否應該殺死這個人，並用他的5個不同器官分別救治5個瀕死患者？以上都是電車難題的變種，其意思和意義和電車難題所要表達的都大同小異。學術界對於「道德應遵循什麼最高原則」的問題看法不同，也因此有回答電車難題的不同視角和解讀。關於道德（電車難題）的解讀大致可以分為自由主義、功利主義和德性主義、共同體主義等流派。 -
從法律角度解「電車難題」,原來如此簡單
「電車難題」是倫理學領域內最為著名的思想實驗之一，大致內容可概括為：一輛有軌電車駛來，前方的軌道上有5個人，片刻之後這5個人就會被電車碾壓致死；此時你手邊有一個拉杆，拉動之後電車會變道，這5個人可以倖免於難，但變道後的軌道上也有1個人，這個人將被電車碾壓致死。考慮以上情形，你是否應該拉動拉杆？ -
「電車難題」的難題
在這些思想實驗中，「電車難題」大概是最著名(或者最臭名昭著)的一個問題了，它探討了犧牲小部分的人來拯救電車上更多人性命的可容許性。除了「電車難題」以外，還有數千個其它的思想實驗，有些案例甚至包含了多達數十個不同版本。考慮到思想實驗的存在幾乎和哲學自身一樣久遠，最近的哲學界對它的重視程度似乎有些異乎尋常了。 -
Nature大型調查:當AI遭遇電車難題,它將拯救誰?
，特斯拉轎車撞上作業車，駕駛員不幸身亡；......The Moral Machine實驗它要求用戶對虛擬的車禍做出一系列道德決策，類似於著名的「電車難題（trolley problem）」。「電車難題(Trolley Problem)」是倫理學領域最為知名的思想實驗之一，其內容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，並且片刻後就要碾壓到他們。 -
自動駕駛技術研發不可逾越的鴻溝:「電車難題」
（原標題：自動駕駛技術研發不可逾越的鴻溝：「電車難題」） -
道德永遠是個「難題」——電車難題、自利與理性
電車難題的無奈答案在《蝙蝠俠：黑暗騎士 》中，小丑劫持了兩艘緊急疏散城市人口的渡輪，一艘船上是普通公民，另一艘船上是囚犯。就這樣，諾蘭把哲學史上著名的電車難題，搬到了商業電影的熒幕上：一輛電車即將撞上兩群人，一邊人更多，一邊人更少，你手裡掌握著決定電車方向的軌道控制器，你會如何選擇？ -
【快評】自動駕駛的「電車難題」是一個錯誤的提問
在聽過與會發言之後，賽迪智庫政法所的專家介紹了對自動駕駛面臨的「電車難題」的幾點看法：自動駕駛的「電車難題」通常是這樣一類問題：如果一輛自動駕駛汽車的前面兩個不同方向上有不同的人，比如一個方向是老人另一個方向是婦女，一個方向有1個人另一個方向有5個人等等，這輛自動駕駛汽車如果無法躲避，應當做出何種選擇，依靠何種算法規則做選擇，以及如果造成損害應當承擔何種責任。 -
「電車難題」的自然主義視角
「有軌電車難題」是道德心理學研究中被反覆討論的思想實驗。它假設了這樣一種情形：你正駕駛一輛失去剎車的有軌電車，在軌道前方有五個正在施工的工人，如果電車繼續直行必然會致其死亡，而旁邊的軌道上只有一名工人，你選擇變換軌道撞向一個人，還是繼續直行撞向五個人？