本文系網易智能工作室（公眾號 smartman 163）出品。聚焦AI，讀懂下一個大時代！
【網易智能訊 9月24日消息】最近，「電車難題」這個一個廣為人知的道德倫理思想實驗，重新出現在人們的視野中。當未來由汽車來決定我們的生死時，這個難題將成為噩夢般的存在。然而，在許多研究自動駕駛汽車的專家眼中，關於電車難題的討論是過於偏激的。他們認為電車難題是譁眾取寵，而且也無關緊要的。但這種態度是不對的。由於自動駕駛汽車的出現，電車難題將得到解決。更重要的是，關於這個難題的答案還將深刻地重塑美國的法律。
要想理解電車難題，首先要考慮這樣的情況：你現在正站在一座天橋上。在你的腳下，一條鐵軌被分成一條主幹道和另一條路線。在主幹道上，有50人被綁在鐵軌上。在主幹道上，一輛電車從橋下疾馳而過，向被困住的人們衝來。幸運的是，天橋上有一個槓桿，當它被拉動的時候，電車能夠改道到另一條路。但不幸的是，另一條路也有人被綁在軌道上，不過只有一個人被綁，而不是50人。在這種情況下，你會選擇拉槓桿嗎？
現在，再重新考慮一下這個情況：你站在橋上，有50人被綁在鐵軌上，然而這一次只有一條軌道。你旁邊有一個很胖的人，他正斜靠在欄杆上。一個可怕的想法浮現在你的腦海裡——你可以輕易地把那個人推到軌道上。當電車撞到他的時候，它就會停下來，這樣就可以拯救50人的生命。你會去推那個男人嗎？
這個問題沒有所謂的對或錯的答案。但值得注意的是，很多人都說，他們會選擇拉槓桿，但是卻不敢伸手推那個男人。識別一種對於大多數人來說都是可以接受的道德準則（也就是說，在所有情境下人們都不會反對它）同時還要在遇到反對意見時為它辯護，這是很困難的。比如，如果你的指導原則是儘量減少人員傷亡，那麼推倒那個男人和反對拉槓桿之間並沒有什麼區別。但我們都得承認，推倒那個男人的感覺是不一樣的，看起來就像是謀殺。電車難題凸顯了一種令人不安的可能性：我們的道德直覺一方面是由公認的原則支配的，但同時，也受到一些隨意的、膚淺的因素的支配。
不難看出，公路情景與這存在著相似之處，比如，為了避免撞車而調轉方向盤，這就意味著要撞上咖啡館的顧客。但許多專家指出，電車難題的情況已經很少見了。自動駕駛技術承諾比任何人工操作都更安全，只會讓電車難題變得更稀有。他們聲稱，僅僅因為這點恐懼就去阻礙一項可能會帶來無數好處的技術的傳播，是非常不可理喻的。
這種反應是有道理的，但它對汽車安全的狹隘關注忽視了一個更廣泛的問題：電車難題遍及美國法學。民事陪審團最常扮演的角色是確定被告的行為是否合理，即在將成本和風險從一方轉移到另一方時的行動是否合理。為了做出這些裁決，陪審團通常會被要求採用一種粗略的數學公式，即所謂的Hand?rule（用20世紀早期的一位法官Learned?Hand的名字命名）平衡那些受到被告行為影響的人的利益，這是電車難題場景的精髓。當然，你不需要成為一名律師就能找出不一致的地方：如果我們只需將數值插入方程中就能找到正確的答案，那麼我們為什麼還需要陪審團呢？
事實是，「Hand rule"在大多數情況下都能提供一個可以接受的答案，但有時卻會出現兩難的處境。它提出的答案可能會失敗，因為我們的道德直覺並不總是滿足於遵循更高尚的原則。當這種情況發生時，法律體系依賴於陪審團在這個等式中找到一些迴旋的餘地，並做出一個與公眾對於公平的認知相一致的裁決。
然而，在自動駕駛汽車情況下並沒有迴旋餘地。和任何計算機一樣，在沒有得到指令時，自動駕駛汽車不會有任何行動。程式設計師無法為它提供應用於大多數場景的指令，而避免考慮特殊情況。同時，自動駕駛汽車必須在不到一秒的時間內做出決定。沒有時間讓一個外部的、人類的「道路陪審團」對它所處的情景進行審查。因此，它只能靠自己。必須有人提出（或者，至少在算法提出的時候接受）一個明確的、不含糊的規則，用於什麼時候拉槓桿、推人、或者轉向咖啡廳。社會必須嚴肅對待電車難題，不是說自動駕駛汽車在該問題得到解決之前就不應該投入使用，而是因為自動駕駛汽車將會促使一個人們達成一個解決方案，這個解決方案所體現的價值觀很可能會在包括法律在內的許多重要的公民領域中得到採納。
但是，我們能指望誰來審慎地解決這個電車難題呢？有些學者認為，律師將負責解決。這種觀念的問題在於，律師在職業生涯的大部分時間裡都在逃避為難題提供明確的答案。律師甚至還發明了一種格言，讓他們的逃避行為顯得負有責任：「困難的案例促成糟糕的法律。」事實上，「律師會拯救我們」的觀點有反向因果的作用：法律不會影響到電車問題；相反，電車問題及其解決方案將會影響到法律，例如，它會影響到法律如何指導陪審團去判斷一個人的行為是否合理。
人們總是很希望有人來解決電車問題。畢竟，要找到一個解決方案，通常就需要面對一些關於個人道德情感的令人不安的真相。例如，如果自動駕駛汽車遵循一條簡單的規則：減少傷亡人數。那麼這條規定偶爾會導致令人不快的結果。比如，為了避免撞到四個不遵守交通規則跑到馬路上的成年人而撞倒了走在人行道上的母親和她的兩個孩子。因此，這項規定可能會附加一個限制性條款：將傷亡人數降到最低，除非有一方處於危險之中。
但是，如果面對的對象是四名橫穿馬路的男性和三名橫穿馬路的母親，或者四名橫穿馬路的母親，或者僅僅是四名橫穿馬路的女性，那該怎麼辦呢？理性的人可能並不認為在這些情境下存在所謂「可接受」的決策，他們會努力做出合理的選擇。艱難的案件不會促成糟糕的法律，但會促成糟糕的法學家，他們害怕承認自己的推理通常是由自私、個人情感或社會壓力驅動的。
儘管存在這些挑戰，社會還是應該抵制外包其道德編纂。如果電車問題的答案是反映（或者至少是被告知）社會中豐富多樣的經驗、態度和觀點，那麼每個人都參與到這個過程中是至關重要的。專家們可能會說，電車問題沒什麼好擔心的，但他們忘記了，汽車首先是交通工具。即使你完全不關心你乘坐自動駕駛汽車時它是如何運作的，你也應該關注當你離開它們的時候會發生什麼。他們正在推動社會走向法律和政治改革，而這些改革不應被忽視。
（選自：wired 作者：JAY DONDE 編譯：網易見外智能編譯平臺 審校：Jayne）
關注網易智能公眾號（smartman163），獲取人工智慧行業最新報告。
本文來源：網易智能 責任編輯： 王超_NT4133