導讀
3月22日，由中國政府和歐盟委員會共同主辦的第三屆中歐法律事務對話在北京亞洲大酒店舉行，22日上午對話會的議題是人工智慧倫理與法律責任，與會嘉賓就歐盟人工智慧法律責任規定，中國法律和政策相關規定，歐盟人工智慧倫理指南等話題進行發言。在聽過與會發言之後，賽迪智庫政法所的專家介紹了對自動駕駛面臨的「電車難題」的幾點看法：
自動駕駛的「電車難題」通常是這樣一類問題：如果一輛自動駕駛汽車的前面兩個不同方向上有不同的人，比如一個方向是老人另一個方向是婦女，一個方向有1個人另一個方向有5個人等等，這輛自動駕駛汽車如果無法躲避，應當做出何種選擇，依靠何種算法規則做選擇，以及如果造成損害應當承擔何種責任。這一問題隱含了，汽車只能選擇撞一個方向的人，或者最多加上撞向其它地方自傷這個選項。這一問題無論怎樣選擇都會面臨倫理道德困境，因此常被學者認為是自動駕駛必須回答的倫理問題。
但其實這個提問並不正確，並不應該要求算法設計者考慮這種情形下的選擇判斷問題，這種極端情形應作為意外事件處理，原因如下：
01
在人工駕駛狀態下，是依靠本能反應處理這種情況。就筆者所知，這一問題所描述的場景並未在真實世界出現過，這只是倫理學者討論理論問題時的一種假設。在真實世界裡駕駛者很少會僅僅有這樣的兩種選擇，即使真的出現這種情形，駕駛者無法躲開又無法提醒前方的人避讓，那麼他只能依靠本能的反應，並沒有時間做出理性的思考。因此這本就不是一道應該用理性解決的問題，這樣的情形下，理性思考是沒有用武之地的。
02
自動駕駛真正應該考量的問題是，如何在市場可以接受的成本下，做出最安全的車。對安全要求越高，則車輛的成本也會越高。現實中車輛的成本是受到市場約束的，因此不可能追求極致的安全。需要通過嚴格的車輛國家安全技術標準為自動駕駛汽車設定一個符合公眾預期的安全標準，使自動駕駛的事故率可以大大低於人工駕駛，確保自動駕駛汽車比人類更有能力去應對極端交通風險場景。
03
符合國家安全技術標準的自動駕駛汽車，在沒有人類幹預的情況下，如果出現了「電車難題」中假設的極端情形，應被認定為意外事件。安全性再高的車也無法將意外事件的發生概率降為0，如果在「電車難題」設定的場景下，車況正常的自動駕駛汽車無法做出安全應對，則說明這種情況超出了車輛安全能力的邊界。安全能力的邊界是在標準制定過程中，通過協商妥協確定好的，超出邊界的意外事件既不應苛責機器也不應苛責人類。因此即使出現「電車難題」這種場景，也沒有人應當為此承擔過錯責任，就如同車行上方剛好落下一塊巨石的場景一樣。
04
「必須有犧牲時，該犧牲哪一個」的提問是錯誤的，正確的問法是「可以減少犧牲時，應當如何選擇」。要求機器或者設計者選擇犧牲哪一個是沒有意義的，我們只能通過技術的進步，標準的提升，不斷地減少犧牲和損害。但有一個問題是有意義的，就是當車輛可以決定造成一方犧牲或者一方受傷時，車輛應當如何選擇。傳統車輛的駕駛決策都出自於人類，車輛只有被動安全措施，因此車輛設計天然傾向於保護車內人的安全。但自動駕駛汽車有了主動安全措施，有能力為車外人提供一定的保護，因此這時優先保護車內人並非具有絕對正當性。在車輛可以選擇一個受傷或者一個犧牲的結果時，算法應當指向那個更有利於保護生命的選擇。
—— 分享新聞，還能獲得積分兌換好禮哦 ——