【網易智能訊3月22日消息】自動駕駛技術一向姿態高調，但其面臨著「幻想破滅」。第一起因其造成的車禍死亡事件，在一年後仍然備受關注。
一年前的今天，也就是某星期天晚上10點左右，自動駕駛汽車見證了行業領域最為關鍵的時刻。那個致命的夜晚，伊萊恩·赫茨伯格（Elaine Herzberg）走在亞利桑那州坦佩市的米爾大道上，結果竟意外被一輛正在測試Uber自動駕駛汽車技術的沃爾沃XC90給撞死了。赫茨伯格的死給一場白熱化的競賽蒙上了陰影，這場競賽旨在開發出改變世界的技術，使之既能挽救生命，也能為勝利者創造出數十億美元的價值，改變公眾對無人駕駛汽車的看法，同時也幫助開發該技術的公司調整其內部運轉。儘管這一可恥的時刻並不會阻止科技向自動駕駛汽車進軍的步伐，但它確實也創造了一個重要的契機，讓我們可以停下來，反思這場悲劇是如何發生的，以及我們必須汲取怎樣的教訓，才能防止慘案再次發生。
第1課：這並非一場比賽
就像其他毀滅性的技術災難一樣，伊萊恩·赫茨伯格的死也是由一連串的失敗所導致的。這些失敗包括軟體本身的質量不過關、Uber安全駕駛員的訓練不到位，還有車禍地點糟糕的道路設計（除此之外不勝枚舉）。然而導致赫茨伯格意外死亡的這些失敗背後，幾乎都有一個因素在起作用，那就是認為研發自動行駛技術是一場「競賽」，比賽的「贏家」可以獲得最大份的獎勵。這場「自動化競賽」在許多方面都存在缺陷，我們沒有辦法徹底解決。但從最基本的層面上來看，這是由於技術方面的偷工減料，比如安全駕駛員的訓練不夠，長時間疲勞駕駛。此外，亞利桑那州的測試項目以驚人的速度進行，幾乎沒有受到鳳凰城Uber先進技術集團總部的監管。
幾乎所有人都有份推動這場「自動化競賽」。各企業利用該技術以募集更多的風險資本，風投家用其來證明投資的價值，媒體又藉此作為一個簡單的框架，講述與該新技術領域有關的種種精彩故事，而自動駕駛技術本身最終也開始了自述。這是一個引人入勝的敘述，給人一種在製造過程中觀察歷史的感覺，暗示著任何人都能明白誰最有可能成為下一個技術巨人，即使人民群眾並不了解其中極其複雜的技術本身。如同許多有危險缺陷的啟發式教育法一樣，無比複雜的東西被簡化成一個淺顯易懂的概念，濃縮成一些關鍵卻又基本的問題，譬如「如果這是一場比賽，那麼比賽終點到底是要實現怎樣的結果呢？」
但更為重要的是，「奔向自動化的比賽」創造了推動赫茨伯格悲劇慘案的可怕動機。它不惜一切代價地獎勵研發速度。技術在缺乏監督的情況下運行，在安全至關重要的情況下長時間工作，大量積累裡程數，提高公眾對開發計劃的認知，掩蓋看似微不足道的缺陷，好早日讓車輛上路進行測試。赫茨伯格的死戲劇性地說明了快速發展自動駕駛汽車的危險性，不過該領域仍有一小群人追求「迅速和突破性發展」的模式，由此獲取更多的資金，抑或是在人才濟濟的行業裡脫穎而出。只有開發商、監管者、政治領袖和媒體都認識到這種心理背後可怕的代價之後，伊萊恩·赫茨伯格式死亡的風險才不會繼續存在。
第2課：文化事關緊要
伊萊恩·赫茨伯格的死緊接著醜陋的Waymo-Uber 訴訟案。這場訴訟裡，Alphabet公司起訴了其前工程師安東尼·萊萬多夫斯基（Anthony Levandowski），稱其竊取公司的雷射雷達技術，並用於Uber的自動駕駛汽車項目。這起訴訟最終判定Waymo打贏了，但Uber的一些最為醜陋的公司文化得以公之於眾，這是不可否認的。甚至在最終裁決之前，Uber「技術兄弟」的公司文化也受到了不利的影響。這起訴訟案揭示了公司上至執行長特拉維斯?卡蘭尼克（Travis Kalanick）為贏取勝利「不惜一切代價」的態度和極度的傲慢自大。
卡蘭尼克奉行的是贏得勝利比守規矩更重要。Waymo的律師Charles Veerhoven認為，這種理念似乎已經深深植根於Uber的公司文化之中。Uber的汽車在舊金山至少闖了六次紅燈以後，公司決定開始轉場亞利桑那州進行測試。此舉迫使加利福尼亞州的機動車管理局撤回了Uber的測試許可證，並且針對自動車輛測試通過了國家目前最為嚴格的一些規定。即使因為Waymo的訴訟案，卡蘭尼克已被公司驅逐出局，承擔事故責任，但Uber的工程師們還是推出了一個緊急制動系統。該系統本可以防止赫茨伯格那樣的車禍死亡。工程師們希望這麼做，能給即將上任的執行長DaraKhosrowshahi留下一個自動駕駛非常平穩可靠、不會用到強力制動的印象。急躁、逃避監督和操縱的觀念都是Uber企業文化的核心要素。儘管有許多契機可以重新審視這些理念，但Uber最終還是釀成了意外傷亡。
一些自動駕駛汽車的開發商現在表示，赫茨伯格的死是一個「喚醒警告」。但也有人認為，如果你需要被提點才能清醒，那麼說明問題已經非常嚴重了。在美國，車禍每年造成35000多人死亡。因此毫無疑問，自動駕駛系統的開發模式必須與研發行動應用程式或社交媒體網絡的方式截然不同。最具責任心的開發商意識到，安全實際上才是他們工作最基本的部分：實現車輛的「自動駕駛」其實不需要太多的努力，最困難的地方是要保障自動化汽車可以安全行駛。安全是其發展的出發點、中間節點和終點。研發過程中根本沒有其他目標。任何技術開發商如果從根本上沒有這樣的文化以導向，都可能會造成傷亡事故。
第3課：人類不擅長監督不完美的自動化
自動駕駛技術被看作是一個讓人放鬆警惕的機會，好似不再強調道路的危險性，但直至它被證實在任何情況下都可以保證安全之前，或許所有的自動駕駛都需要真人監督。這是一大挑戰，因為絕大多數的駕駛都極其無聊。另外，安全駕駛員心理上很容易獲得一種虛假的安全感，但駕駛系統其實沒那麼安全。這也正是赫茨伯格事件中發生的情況：事故發生時，Uber的安全駕駛員Rafaela Vasquez正在手機上觀看The Voice on Hulu，並且當天晚上行車途中，她一共查看了166次手機。
Vasquez本來還在看手機，瞬間驚恐地抬起頭，這才意識到剛剛她沒看路的時候，赫茨伯格被撞了。這段視頻裡，她看到了未來可能存在的恐懼。在完全自主性得到驗證之前，自動駕駛一方面鼓勵我們解放開車時的注意力，一方面無法確保下一個伊萊恩·赫茨伯格的安全。對於自動駕駛汽車的「安全駕駛員」而言，這也不是一個普遍存在的問題。現如今，駕駛員都會經過嚴密的訓練，而且在車輛測試時有人陪同。不過這一問題似乎強調了特斯拉自動駕駛司機死亡的原因。現在，特斯拉的「全自動」系統顯然是在驗證安全之前開放給一些顧客試用。另有一家公司似乎也已經準備好讓自己的客戶無意之間變成未經培訓和無人監督的安全駕駛員。
Vasquez本人的確需要為事故負上一部分責任，但是Uber的責任不可推脫。在沒有監督的情況下，禁止一次性讓一個人在高度自動化的汽車裡呆10個小時。由於實現完全自動化所需要耗費的時間比承諾的要長，在提醒司機保持安全意識的同時，趕快達到幾乎完全自動化的誘惑是難以抗拒的。然而Vasquez恐怖的表情應當能提醒每個人這類系統的風險。這無疑也讓特斯拉客戶測試的前景不那麼明朗。
第4課：易出事的道路使用者需要格外小心
製造Uber自動駕駛汽車所用雷射雷達的Velodyne公司表示困惑不解，不明白為什麼傳感器似乎無法識別自行車，伊萊恩·赫茨伯格被車撞時正穿過米爾大街。儘管如此，大多數自動駕駛汽車的傳感器還是最擅長識別那些如果撞到就可能損壞汽車本身的實質性物體。尤其是在夜間，當攝像頭還沒有達到其功能的最佳效果時，雷達和雷射雷達就很難獨立識別行人和騎自行車的人。實際上，這是自動駕駛車輛開發商來到亞利桑那州鳳凰城等地的原因之一：這些地方不僅天氣一直很好，而且路上行人或騎自行車的人也不像其他城市那麼多。
一般來說，最好的自動車輛開發人員認為，傳感器套件中不能設置有太多的冗餘性或多樣性，只需覆蓋儘可能多的邊緣情況即可。但是，即使在伊萊恩·赫茨伯格去世後，我們仍然沒有看到許多自動車開發商添加一種傳感器，最適合夜間識別易出事的道路使用者：熱成像傳感器。豐田研究所（Toyota ResearchInstitute）曾表示，其最新的傳感器套件將包括一個熱感照相機。當然其他開發商也必須效仿行之，特別是如果自動駕駛汽車曾希望用於自行車、行人、踏板車和其他車輛眾多的地區。熱傳感器將不得不成為自動駕駛車輛的生產標準。通過探測人體熱量，熱傳感器可以識別到人類，即使他們身處一根杆子或另一輛車的後面，也不論是在白天還是半夜。
坦白來說，令人驚訝的是，赫茨伯格事件後，大多數公司仍尚未採用熱傳感器。
第5課：監管勝過選擇
Uber在加州的測試許可被撤銷後，又前往亞利桑那州進行，這裡的州長Greg Ducey格外歡迎自動駕駛汽車公司，甚至譏諷加州，稱其扼殺科技創新。對於一個自由市場的共和黨州來說，放低管理門檻是吸引外資來亞利桑那、提高該州高科技形象的一個好對策。短時間內這樣做，行之有效，可以讓亞利桑那州搖身一變，躋身為主要的自動駕駛測試中心之一，直至赫茨伯格出事。
作為對事故的回應，Ducey不得不從一個極端走向另一個極端，全面禁止Uber汽車在亞利桑那州的公路上行駛。甚至馬裡科帕縣的檢察官辦公室也不得不迴避這起案件，因為其與Uber合作參與了一場公共安全的運動，引發了利益衝突。整個情況表明，亞利桑那州的政府官員一直急於討好自動駕駛公司，這也是一連串導致赫茨伯格死亡的事故因素之一。Ducey和亞利桑那州現在都是一項1000萬美元訴訟案的被告，這項訴訟旨在將赫茨伯格的死亡原因歸咎於他們。
對政府官員來說，亞利桑那州的經歷是一個嚴重的警告，提醒他們要避免監管上的「競爭到底」。降低自動駕駛汽車監管限制所帶來的短期優勢是誘人的，但死亡的長期風險是巨大的。更深層次的信息是：如果你放棄了監管，就要引來人身傷害訴訟。積極的監管可以是主動保證公共安全和負責任的公共道路測試，也可以是被動地由救護車（人命）追逐的律師和憤怒的群眾促成。顯然，第一種選擇更為可取。
第6課：法律責任必須趕上技術。
伊萊恩·赫茨伯格之死提出了一個社會未能回答的難題：一輛表面上是自動駕駛的汽車撞人後，誰來負責？軟體本身是「人」嗎？受到人類駕駛員相同的權利和限制嗎？責任方是安全駕駛員嗎？是公司嗎？還是監管機構？這些問題在赫茨伯格事件後全部爆發出來，很難不帶情感色彩地客觀回答。
長期以來，自動駕駛技術一直被視為純粹是技術上的問題，而事實上，駕駛是一種由法律、習俗和法理學所控制的、圍繞人類駕駛員展開的密集型社會活動。該領域新出現的觀點是，現在社會有時間跟上技術，於是開始形成規則和原則，分配責任，並在自動駕駛車輛出錯時問責。然而，就像熱感成像一樣，我們仍然沒有看到這些問題的緊迫性。這是人們在第一次致命的自動駕駛事故後所期望引起的重視。儘管對有才華的自動駕駛工程師需求很大，但對業務嫻熟又聰明的律師和政治家的需求也同樣巨大。如若我們希望今後能夠更妥善地處理諸如赫茨伯格這樣的情況，至少這些是我們的最低要求。
第7課：領導者需要傾聽
就在赫茨伯格去世不到一周前，一位名叫羅比·米勒（Robbie Miller）的Uber員工給Uber先進技術集團的高層領導和公司律師發了一封郵件，警告稱導致赫茨伯格死亡的因素是一個大問題。這封郵件的部分內容如下：
「ATG仍在努力建設一種植根於安全的文化。這些汽車經常發生事故，造成損壞，而這通常是由於運營商的不良行為或自動駕駛技術本身造成的。二月份，幾乎每隔一天就有一輛汽車被損壞。我們不應該每行駛15000英裡就撞一次東西。屢次違規、駕駛糟糕的情況卻極少強制汽車終止使用。少數司機似乎還沒有經過適當的考查或培訓就上路了。」
米勒建議，按現有標準，對大多數主要的自動駕駛開發商進行一些實際性的改變，例如安排多人在每輛測試車上，停止為了裡程數而堆積測試裡程的行為，授權員工處理系統升級問題並讓車隊停駛，進行碰撞評估，在ATG團隊中更廣泛地共享數據等等。回想起來，米勒的電子郵件其實業已表明赫茨伯格之死完全是可以預防的。
第8課：基礎設施至關重要
自動駕駛車輛開發商不願意依賴基礎設施開發他們的系統，無論是特定的街道設計還是V2X通信技術。這可以理解，因為技術發展很快，而基礎設施卻很少。與此同時，越來越明朗的是，基礎設施確實在駕駛安全中起到了作用。地方官員需要確保他們的街道不會使自動駕駛汽車和其他交通發生衝突。
伊萊恩·赫茨伯格被車撞的地方像是一條未上漆的人行橫道，但它既不是人行橫道，也不是穿過米爾大道特別安全的地方。我們不知道赫茨伯格走上馬路時在想什麼，但這條道路的設計所指示的信息不明確已被視為事故問題的一部分，並已記錄在案，以防止進一步的交通混亂。任何打算邀請自動駕駛車輛進入其道路的城市都應謹記這一因素，並對車輛將要運行的任何一條道路都進行詳細的清點排查，以防再次出現致命的混亂規劃。
第9課：自動駕駛存在反對者
公眾自打第一天起，就對自動駕駛汽車存懷疑態度，不過在赫茨伯格事故發生之後，我們進一步看到公眾對這項新技術的信任呈下降趨勢。對自動駕駛系統的不信任來自方方面面，但這種不信任的程度跟不信任總統一樣高。總統本人在一則公理故事中被塑造成「他們永遠不會工作」的形象。人們對未來坐在一輛不受人控制的車裡感到恐懼。儘管經常被嘲笑為「路德主義者」，這種對自動駕駛汽車的恐懼卻是一個不爭的事實。自動駕駛汽車開發商和粉絲們不能單單嘲笑，直到這份恐慌消失。事實上，一些高科技行業的傲慢態度也是導致赫茨伯格事件等情況的源頭，其引發了自動駕駛反對派的懷疑與恐懼。亞利桑那州後來對Waymo 自動駕駛汽車的攻擊就是明證。
這也是該行業主要的文化障礙：高科技公司已經習慣於提供強勁的經濟激勵，促使他們能將異議、困惑和抵制一掃而光。由於自動行駛車輛還遠遠無法兌現他們誇誇其詞的承諾，公眾的宣傳、教育和溝通將變得比以往任何時候都更加重要。考慮到事情的複雜性和圍繞其存在的混亂程度，掃清公眾不安恐懼的情緒也是一大嚴峻的挑戰。不過即使是通過謙遜教育表現出企業的誠意，這也將是該技術行業典型傲慢心氣的巨大改善。如果沒有別的，僅僅喊著「歷史進步站在我們這邊」的口號，是行不通的，這把科技會帶來的憂慮完全拋諸腦後。
第10課：信任是自動駕駛技術的貨幣
從最基本的層面上講，信任關乎長期關係。信任某人或某物意味著知道它將長期存在，了解它想要什麼，以及它如何運作，並保證它會對公眾關注做出反應。這就是亞利桑那州局勢如此混亂的根源：降低所有的門檻，引進大量的Uber自動駕駛汽車，但赫茨伯格出事之後，這些汽車立馬隨之離開。從一個極端到另一個極端的循環與建立信任是相反的道路。正如為了獲得幾乎不可見的（融資回合之外的）優勢而抄近路會造成雙方發展方向不一致，從而破壞信任。
糟糕的結果畢竟是糟糕的。伊萊恩·赫茨伯格的死是許多不負責行為的結果，但我們可能會面臨這樣一種情況：在這種情況下，有人被自動駕駛汽車撞死，但是車輛配置本身沒有明顯的問題。無論每個人多麼努力地阻止這一情況發生，預測出一個糟糕結果的可能性都需要儘可能誠實和透明的測試者參與。這不是炒作技術，而是實際地交流技術。必須承認在任何公共道路測試中，風險是不可避免的，但風險可以清楚地評估、儘可能地降低，而不是推翻你認為自己對開發商或其公共部門合作夥伴所了解的一切。要求自動駕駛開發商具備與公眾分享發展動機的意識，而不是好像他們存在於另一個現實，通過創造原本可以規避的安全風險，創造數百萬美元的價值。
培養這種信任，對於自動駕駛研發人員的未來，創建強大的預測模型或可靠的路徑規划算法來說，同等重要。這是因為自動駕駛汽車最終理應像飛機一樣：無論你是進入波音公司還是空客公司，你都希望竭盡一切努力，確保你的航班儘可能的安全。由於自動駕駛汽車不會因操控或性能而有所區別，因此，汽車開發商所需的唯一可銷售屬性是客戶坐進其車輛後感受到的信任度。如果開發商沒有融入他們業務經營的社區，如果他們不分擔道路的風險，如果他們尋求儘可能松的監督力度，如果他們為了追求更高的估值而抄近路，最終只會害人害己。
（選自：The Drive 作者：Edward Niedermeyer 編譯：網易智能 參與：Katrina）
關注網易智能公眾號（smartman163），為你解讀AI領域大公司大事件，新觀點新應用。
本文來源：網易智能 責任編輯： 馮震宇_NBJS8113