自動駕駛的道德問題是真實存在的,但未必就是「電車難題」

雷鋒網按：本文作者臺伯河，已授權雷鋒網(公眾號：雷鋒網)編輯與發布。

這一次人工智慧的狂飆突進很有可能是真的。

技術和基礎設施的進步讓人工智慧真的可以投入到實際應用中去。目前來看，人工智慧的實際應用中一個非常宏偉也非常有前景的領域就是——自動駕駛。

自動駕駛有望將人類從駕駛汽車，這個最不安全也是最浪費時間精力和各種資源的領域解放出來，將帶來整個汽車行業乃至整個社會形態的革命。

然而自動駕駛的安全性疑慮和呼聲一直不小：總有很多人不放心將自己的性命寄託於一臺機器上。這種懷疑也衍生出了很多不同的版本，其中最有趣的就是傳統道德哲學中的「電車問題」在新時代的翻版：自動駕駛的道德問題。

道德問題的源起

如果一輛自動駕駛的汽車遇到了這樣一個困境：在馬上就要出車禍的當下，左邊是一個老人，右邊是五個孩子，它應該怎麼判斷，如何選擇行動？我們應該將這種道德判斷納入自動駕駛系統開發的考量嗎？

首先，我們可以先回顧一下這個道德問題的源起。

「電車問題」是道德哲學的一個經典問題：如果說開來一輛火車，前面是兩條岔路，你手頭有一個扳道岔，你如果不扳，火車就會走原路撞死五個人；如果你扳了，火車就會走上岔路撞死一個人。請問你是扳還是不扳呢？

這就是傳統道德哲學所爭論的核心：功利主義和絕對主義的區隔。

功利主義說：當然是死一個人要比死五個人好；絕對主義則說：你扳道岔的動作等於是殺死了一個原本不會死的人，所以並沒有哪個比哪個更好！這些爭論持續了好幾代人的時間，電車問題也出現了無數個不同的版本，直到如今這個自動駕駛的時代，仍然會有人問與之相似的問題。

但這裡的問題自然就是：一種絕對的，抽象化的道德問題，是否適用於具體的情境分析？傳統的道德哲學適用於我們對具體問題的判斷嗎？或許我們要引入現代的認知科學的研究結論。

長久以來，古典意義上的道德哲學家都基於理性來推導道德的實在性。他們認為人類是通過理性來判斷道德問題的，功利主義或者絕對主義，都是理性基礎上的爭論。然而現代認知科學告訴我們：人類對道德的判斷根本就不是通過理性做出的。

心理學家丹尼爾·卡尼曼在那本著名的《思想快與慢》中指出，人類的大腦分成兩個系統：

依賴直覺的系統1，與理性的系統2。系統1反應非常快，不需要我們投入多少關注就能夠完成任務，比方說遊泳，騎車，或者認臉；而系統2則需要人的有意努力才能夠工作，理性的「思考」，也就是「想」，是系統2的任務，它精確卻緩慢，耗能很高。

喬納森·海特在認知科學著作《正義之心》中表示：之前的道德哲學家往往將道德視作理性的結果，也就是說，是系統2的任務；但是心理學實驗表明，道德在人類的實際認知中，很大程度上（並非是完完全全的）是系統1的工作；而系統2隻起到了一點「事後辯護」的工作。

他做了一個實驗：加大實驗對象的系統2負擔，比方說記住一個很大的數字，然後再做道德判斷，結論是在系統2不堪重負的情況下做道德判斷仍然很快，這說明道德判斷不是系統2的工作。

所以說，人類做出道德判斷，實際上是基本訴諸直覺的。

在這裡，我們可以將自動駕駛的道德問題拿來考驗人類駕駛員。在一個實際的場景中，你就會發現這樣的一個理想假設問題是毫無意義的：在即將出車禍的危急時刻，人類是依靠本能來反應，99%的人類司機都不會在這個時候思索一些複雜的諸如「該撞哪邊」這樣的道德哲學問題——那麼我們為什麼會要求機器來完成這種人類都完不成的事情？

回到現實，就會發現目前這樣的給自動駕駛所提出的道德問題實際上毫無意義。

現實生活中並不會出現你剛好站在一個扳道岔，前面是一輛沒有剎車的火車這樣的情況；同樣，現實的交通中同樣也不會出現一條筆直的高速公路，前面是一堵牆，左邊是一位老奶奶，右邊是一個小學生，就看你要撞誰這樣的情況。

現實中的交通場景，我們只能規約到現實的條件中來：車輛輪胎的抓地力如何？剎車情況如何？路面是否溼滑？左右行人距離和方向？臨車位置？

這一切都要納入考量，然後讓人工智慧來判斷最優的解決方案——在99.999%的情況下我相信機器的解決方案都比人更優，因為機器不會走神，不會酒駕，不會打瞌睡，永遠警惕。

況且，在正常駕駛中機器顯然不會出車禍，而出車禍顯然是機器遇到了故障，這也就意味著你要讓一臺機器出了故障的情況下正常工作——這基本就等價於停機問題：你如何能夠要求一臺計算機去預測它的停機時間？

我認為「自動駕駛的道德問題」實際上真的存在，但完全不是我們所看到的這種「要撞誰」的天真問題：自動駕駛的道德問題實際上只有一個：我們應不應該儘快普及自動駕駛。

如何降低死亡率，是最大的道德問題

全世界每年因交通事故死亡人數超過百萬，中國每年交通事故死亡超過25萬，佔四分之一。如何降低這個數字，就是最大的道德問題。

而統計結果表明，交通事故有70%是人為因素；考慮到很多原因實際上是人類自身的生理限制，純粹的機械因素在交通事故中的佔比應該還要更低。我們甚至可以這樣說：在交通中最危險的不是任何一種機器，而是人類自己。

所以，目前自動駕駛最大的道德問題在於，我們對於人類駕駛和對於自動駕駛的態度是完全的雙重標準：

我們對於自動駕駛的看法是，在自動駕駛系統能夠保證100%不出錯之前都不能使用它——這個標準自然是不可能達到的，世界上沒有完美的東西。而對於人類駕駛的標準——其實是沒有標準。

如果我們統一標準，將自動駕駛的標準設定為「統計意義上人類司機的平均水平」，那我相信這一標準早就達到了。現在我們看到業界對於自動駕駛系統的開發，無非是在「超過95%以上人類司機的水平」還是「超過99%以上人類司機的水平」上努力——這樣的努力當然有意義，但是從整個大圖景來看，不是雪中送炭而是錦上添花。

所以自動駕駛的道德問題的答案是很清楚的：我們應該儘快的普及自動駕駛，所要跨越的，更大程度上是法律和人心的障礙，而不是技術障礙。

自動駕駛下的世界肯定要比現在更美好得多：交通事故發生率有數量級的下降，人們不用再擔心被一輛酒駕或者打瞌睡的司機撞到，機器也不會忽略交通標誌，在晚上也能看得清清楚楚。

作為乘客，我也不需要再在長途車上浪費我的精力和時間，忍著疲勞去開10個小時車：自動駕駛情況下這段旅程我大可以睡一覺，玩遊戲，看風景，幹什麼都行，就跟我們現在坐高鐵一樣。

大城市糟糕的交通情況也將會有極大的改善：統計數據表明，在任意時刻，80%以上的車輛都是靜止的。

如果我們能夠通過自動駕駛將車輛利用率提高到50%，城市中也減少了30%以上的車輛：道路不再會是停車場，多餘的停車場大可以用來改建成綠地，公園，或者其他更加能夠讓人放鬆的元素。

我的推斷是2030年前後，人類駕駛將被完全取締：讓人駕駛將會是一項極不道德的行為，就如同現在的自動駕駛一樣。

我會開車，但是自從我經歷過連續驅車兩天，每天10小時以上的旅行之後，我就變成了一個堅決的自動駕駛擁護者。從功利主義角度，自動駕駛毫無疑問將會拯救很多人的生命，他們原本將會被水平差勁、喝過酒或者正在打瞌睡的人類司機撞死。

於是，如果是你站在這個扳道岔上，失控的火車原本走上的那條道路上有好幾百萬人，而這條岔道上一個人都沒有，那你是否要扳動這個道岔呢？

雷鋒網特約稿件，未經授權禁止轉載。詳情見轉載須知。