從法航447航班的故事看人類面臨的自動化悖論|法航447|飛機|飛行員...

本文為網易科學專稿，「科學人」網易科學旗下深度原創類欄目。投稿請聯繫：[e-mail]

責編：王真

閱讀本文大約需要20分鐘

隨著計算機應用以及自動化技術的普及，航班飛行更多依賴於飛機的自動駕駛。而隨著無人駕駛汽車技術的發展，這種自動化駕駛將更為普遍。但是隨之而來的問題在於，對於自動化的依賴會削弱我們原本應有的技能嗎？

當法航447航班的機長馬克·杜波依斯（Marc Dubois）帶著困意衝進駕駛艙時，看到是一番混亂。整個飛機正在劇烈抖動，警報器不斷閃爍，發出「失速、失速、失速」的機器聲。飛機副駕駛正在努力控制，杜波依斯機長尚未反應過來，平靜問到，「發生了什麼？」

副駕駛大衛·羅伯特（David Robert）的回答並不平靜，「我們完全失去了對飛機的控制！我們不明白髮生了什麼！我們已經嘗試了一切！」事實上，此時此刻機組人員依舊能夠控制飛機。一個簡單正確的處置就可以化解他們面臨的危機。但他們卻並未嘗試。大衛·羅伯特有句話是對的，「他不明白髮生了什麼。」

正如專欄作家威廉·朗格維舍（William Langewiesche） 在《名利場》中的一篇文章中所描述的，2009年5月31日晚間7點29分法航447號航班從巴西裡約熱內盧起飛，目的地巴黎。事後來看，三個飛行員都有著自己的問題。副駕駛皮埃爾·塞德裡克·博南(Pierre-Cédric Bonin)，32歲，非常年輕，經驗尚淺；副駕駛大衛·羅伯特（David Robert），37歲，相比於博南飛行經驗更多，但其最近剛剛成為法航的經理，不再全職飛行。機長馬克·杜波依斯（Marc Dubois），58歲，飛行經驗相當豐富。但其在裡約期間一直在與一名不當班的空服員一起旅行。據報導稱，其睡眠時間僅僅有一個小時。

拋卻這些潛在問題，整個機組人員駕駛的是世界上最先進的機型之一——空客330。這種機型以飛行平穩和操作簡便著稱。與其他現代化飛機一樣，A330配置了自動駕駛儀，能夠保證飛機按照預定航線進行飛行，但其配置的電傳飛控作業系統（fly-by-wire）更為複雜。傳統的飛機控制系統能夠讓飛行員直接控制飛機的襟翼，諸如舵，電梯和副翼等等，這種直接控制方法意味著飛行員在控制飛機上會有足夠的自由度。相比之下，電傳飛控作業系統操作更為平順，也更為安全。這套電傳飛控作業系統處於飛機力學與飛行員動作之間，是一個完美的人機接口。該系統會根據飛行員的控制動作，計算出飛行員的真實意圖並對飛機進行相應控制。換句話說，其能夠將飛行員的簡單操轉化為整個飛機的優雅飛行。

這使得A330客機非常安全。這種機型有著良好的安全記錄。自1994年上市以來，15年中沒有發生任何商業性墜機事故。但矛盾的是，這樣一架在控制上擁有最大冗餘度的飛機，甚至允許飛行員犯一些小錯誤。這也意味著當有意外事件發生時，飛行員很少有相應的經驗來判斷處理。

447航班的面臨的飛行問題並不是十分嚴重。雖然事發時其在穿越大西洋上空的雷暴區域，但這並不是主要問題。機長杜波依斯或許是感覺整個飛行過程太過枯燥，在裡約時間午夜11時02分離開了駕駛艙休息，將飛行控制權交由經驗尚淺的博南負責。

博南似乎非常緊張。根據飛行記錄儀的數據，他不斷在用法語咒罵。不止一次，博南希望將飛機能夠爬升至高度「3-6」（36000英尺），並抱怨法航飛行程序的建議高度過低。雖然爬升能夠避免飛機在穿越暴風雨中遇到麻煩，但飛機的飛行高度是有限制的。因為隨著高度的上升，大氣的空氣密度會降低，不足以為飛機提供足夠的升力。特別是在飛機爬升過程中，容易面臨失速的危險。如果其爬升速度過快過陡，機翼將不再起作用，就會產生失速，從而向下墜落。

當然，飛機飛行的高度為飛行員糾正失速提供了足夠的時間和空間。這也是飛行員應當掌握的基本飛行技能：飛行員將機頭下壓，從而重新獲得速度，隨後再將飛機拉平進入正常飛行狀態。

午夜，當飛機飛近風暴區域時，機翼開始結冰。博南和羅伯特打開了飛機的除冰裝置，防止機翼積攢過多的冰。羅伯特提醒博南進行了幾次左轉向，以避開風暴核心區。

隨後警報響起，自動駕駛儀不再起作用。這是因為飛機上的一個測速傳感器停止工作，雖然這不是一個棘手的問題，但由於電傳飛控作業系統需要依賴於飛機上大大小小的傳感器輔助飛行員進行駕駛。隨著測速傳感器的失效，這套系統自動切換到飛行員手動駕駛。就是說，電傳飛控作業系統不再為博南提供輔助駕駛功能。

隨即飛機的飛行狀況立刻惡化。隨著博南在緊張狀況下對飛機操縱杆的大幅操作，飛機開始向右向左搖擺不定。隨即博南又犯下了一個低等錯誤：他拉起飛機操縱杆，飛機開始急速向上爬升。

隨著飛機的持續攀升，這個大傢伙開始出現失速狀態。自動化告警聲音充斥著整個駕駛艙；「失速！失速！失速！」儘管系統在不停警告，但博南依舊充耳不聞，飛機依舊在以每分鐘7000英尺的驚人速度在大西洋上空向上爬升。而飛機本身卻在掉速。如果不採取有效措施，很快其將掉落到風暴之下乃至墜海。如果博南或者羅伯特能夠意識到真正發生了什麼，那麼他們完全可以解決這個問題。但是他們並沒有做到這一點。這是為什麼？

問題的根據就在於空客A330飛機的電傳飛控系統是如此的完美，其已經保證A330機型安全飛行了15年，總航程達到了數百萬英裡。在長期的飛行中，很多飛行員已經對這套系統產生了依賴，博南也不例外。其在駕駛過程中出現了一種模式混亂的問題。或許他並沒有意識到，飛機已經切換到了替代模式，能夠為其提供的輔助很少；或許他清楚飛機已經切換了模式，但並沒有完全理解。博南和羅伯特都忽視了飛機告警，或許是因為飛機在告訴他們系統正在幹預，防止飛機失速。總之，博南的錯誤操作使得飛機失速。但在其直覺中，認為飛機不可能失速。而博南手動駕駛經驗的匱乏也加劇了這種混亂。雖然其飛A330的時間不短，但大部分時間都花在監視飛機運行以及調整飛控計算機上，而不是直接控制飛機。其進行手動飛行的小時數中，基本上都用於起飛或者著陸，這也不難理解其對飛行控制無解。

專欄作家威廉·朗格維舍在其文章中毫不客氣的指出，法航飛行員非常不稱職。朗格維舍認為，飛行員根本不習慣在沒有計算機輔助下獨立操縱飛機。即便是對於經驗豐富的杜波依斯機長來說其也沒有怎麼手動駕駛飛機。在事故發生前的六個月裡，其飛行時間為346小時，但僅僅有4小時是在手動控制，其他都是在電傳飛空作業系統的幫助下進行飛行。這架客機上的三個飛行員都沒有機會練習駕駛技能，因為飛機通常都是在自動駕駛。

這恰恰就是問題的根本：自動化技術的悖論。如今，自動化技術被應用於何種場合，從核電站操作到遊輪駕駛無一例外也充斥著這種悖論。我們已不再刻意去記電話號碼，因為它們都已經被存儲在隨身的手機之中；我們已不再擅長心算，因為我們的生活已經被各式各樣的電子設備包圍。然而，自動化程度越高，操作人員技能荒廢程度越高，但需要人為處理的情況也就更加極端。心理學家詹姆斯·萊森（James Reason），《人為錯誤》一書的作者指出，「手動控制是一個高度技能化的活動，這些技能需要我們不斷地實踐和鍛鍊，以保持熟練程度和處理能力。然而，一個極少出錯的自動控制系統剝奪了操作者實踐這些基本控制技能的機會......而在某些情況下，卻必須要進行手動接管。這意味著操作者依舊需要應對這些極端情況。

簡單來講，這種所謂的自動化悖論主要有三個層面：第一，自動化系統普遍具有操作便捷的特點，其自動糾錯功能可以容忍人工操作的失誤。正因為如此，即便是一個業務不甚熟練的操作者也可以濫竽充數很長時間，其技能匱乏往往被系統本身的強大功能所掩蓋；第二，即便操作者是專家級的熟練者，但在一個完善的自動化系統下，其熟練技能往往會因為得不到鍛鍊而日益生疏；第三，自動化系統的失效往往發生在極端情況之下，因此需要更敏銳的反應處置，從這個角度講，自動化系統越完善，在面臨極端情況時有可能使問題變得更糟。

在通常情況下，自動化系統並沒有這種自相矛盾的悖論。自動化的客戶服務系統可以處理一般的投訴和技術請求，因而客服人員也可以免除重複勞動以及複雜工作。但飛機控制並不是如此。自動駕駛儀以及電傳飛控作業系統的應用並沒有使得機組人員有更多的時間專注於駕駛技能等有意義的事情，相反這些系統倒是解放了飛行員，讓其有更多的時間用於休息，放鬆等等無意義行為。2009年底曾經有飛機偏離目的地米尼亞波尼斯機場多達100英裡，因為在飛機自動駕駛過程中兩名飛行員一直在看著自己的筆記本電腦。

當在這種情況下出現問題時，飛行員很難集中注意力對問題做出正確處理。

杜波依斯機長的休息被打斷，其在測速儀失效1分38秒之後返回駕駛艙，此時飛機依舊在35000英尺之上，但其每秒下墜速度超過150英尺。除冰裝置完成除冰工作，測速儀再次開始運行。但是副駕駛不再相信設備。雖然飛機上的所有設備功能完好，顯示飛機已經失速，正處於下墜狀態。但是機組人員始終堅定認為更多的設備已經發生故障。杜波依斯機長沉默了23秒，這是很長一段時間，足以使飛機下墜4000英尺。

事實上此時杜波依斯機長能夠真正認識到發生什麼時，挽救飛機還為時不晚。機頭很高，以至於失速告警已經停止，系統像飛行員一樣自動規避了持續的異常信息。博南多次將機頭下壓，隨之失速告警再次啟動：「失速！失速！失速！「這種程序化的聲音無疑讓博南的思維更加混亂。有一段時間，博南甚至於擔心飛機速度太快而試圖進行減速。這恰恰與真相相反，飛機此時的速度不足每小時70英裡。三個飛行員完全處於困惑之中，他們開始爭論飛機到底是在爬升還是在下降。

博南和羅伯特互相喊叫，每個人都在試圖重新控制飛機。所有的人已經語無倫次，但飛機依舊是機頭向上，迅速下墜。

羅伯特：「你的速度！你在爬升！下降！下降！下降！下降！「

博南：「我在下降！「

羅伯特：「不，你在爬升！「

博南：「我在爬升？好的，所以我們要下降。「

但並沒有人指出，「我們失速了。我們需要下壓機頭，向下俯衝重新獲得速度。「

午夜11時13分40秒，此時據杜波依斯機長離開駕駛艙不到12分鐘，距自動駕駛儀關閉兩分鐘不到兩分鐘。羅伯特在向博南大喊：「爬升……爬升……爬升……「而博南則在所有時間都堅持他的想法。如果邏輯清楚的話，這些信息足以幫助杜波依斯機長判斷飛機處於失速狀態。

最後，壓力似乎又落到了杜波依斯機長的肩上，他站在兩個副駕駛身後，「不不不，不不不，不要爬升，不不不。「

羅伯特隨後稱他取得了飛行控制權，正在把機頭壓下來。飛機開始加速，留給他的僅僅只有一分鐘時間，事實上已經太晚了。飛機據海面的高度僅僅只有11000英尺，已經沒有足夠的高度把飛機從失速狀態下拉回來。

毫無緣由地，博南默默取回了飛機的控制權，並試圖再次爬升。這是一種純粹恐慌的行為。羅伯特和杜波依斯機長也許已經認識到飛機已經失速，但他們從未指出過。他們或許沒有意識到博南在控制飛機，而博南始終沒有抓住問題的關鍵所在。他最後一句話是，「但是到底發生了什麼？「

四秒鐘後，飛機以每小時125英裡的速度撞進深邃的大西洋，飛機上的228名乘客以及機組人員全部喪生。

航空安全領域的教父級人物厄爾·維納（Earl Wiener）曾經提出了著名的 「維納定律」。其中有一條，「數字設備在消滅小錯誤的同時，為重大事故的產生埋下了隱患。」我們可以將其修改為，「自動化技術能夠幫助我們解決小問題，但偶爾也會帶來大麻煩。」這一論斷不僅僅適用於航空領域，也適用於社會中的方方面面。

英國公民維克多·漢克斯（Victor Hankins）在聖誕節收到了一份很不愉快的禮物——車輛違停罰單，當地政府將罰單直接寄到了漢克斯的家中。2013年12月20日下午8時8分14秒，漢克斯的車被堵在約克郡布拉德福的一個公共汽車站，並被路過的交通執法車拍到。系統計算機自動識別車輛號牌，並在資料庫中查找到了漢克斯先生的家庭地址。整個系統自動產生了包括現場情況的視頻，時間和位置等「證據包」，並將相應罰單自動列印並郵寄給漢克斯。

一切都井然有序。但只有一個問題，漢克斯並沒有違停，他只是遇到了交通堵塞。

原則上，技術並不應當成為自動化悖論的犧牲品。它應當讓人們騰出手來去做更多有意義的事情。譬如當漢克斯對罰單有異議時，應當是去查找異常情況而不是找出另一個車牌發出罰單。

但是，布拉德福市對其系統的反應與法航447飛行員如出一轍。最初政府駁回了漢克斯的投訴，直至漢克斯稱要向法院提起訴訟時才承認錯誤。

當一些極端情況發生時，就像電傳飛控系統出現的問題一樣，我們並不會從容處理。我們總是認為計算機永遠正確，即使有人說計算機有問題，我們也會認為是人錯了或是在說謊。倘若電腦將你誤認為是慣偷，因而保安將你趕出了購物中心，那會怎樣？或者說當你的名字或者外貌錯誤地出現在「犯罪分子」資料庫中，又該怎樣去除掉呢？

隨著計算機技術的發展，電腦已經把裝滿文件的檔案櫃變成了查找方便、操作便捷的一個個資料庫。更多的計算機管理資料庫，使用者根本不需要參與其處理過程，也無需了解到底發生了什麼。但計算機的處理過程往往是不加解釋的，一個對學校和教師的評級，一個Uber司機服務的優劣，抑或是一個企業在谷歌搜索中的排位，這些算法通常都被視為是商業機密。算法中的錯誤或是先驗概念無可避免，這些錯誤和一些先入為主的情況很難被挑戰。

專門研究專家和直觀決策的心理學家格裡·克萊恩（Gary Klein）總結稱，「算法在決策上的廣泛採用使得人們難以查糾失敗的真正原因。隨著人們越來越依賴於算法，其對問題的判斷力和洞察力都會受到影響。這個過程形成了一個惡性循環。當我們越是習慣於通過算法做決策，對於外界環境就越是被動。」

決策專家克萊恩抱怨稱，一些軟體工程師對系統本身的設計消磨了人們的專業技能，從而有可能使問題更加糟糕。如果我們希望使自己的專業技能得到鍛鍊，那麼就需要與系統進行鬥爭。譬如，在駕駛過程中GPS設備能夠為司機導航，但其中的查看地圖或是改變原有路線等功能都被隱藏在傻瓜功能之下。人們總是直接點擊「開始導航」，其他的都交給了計算機。

心理學家麗貝卡·帕裡斯克（Rebecca Pliske）發現，老牌的氣象學家在進行天氣預報時習慣於先查閱數據並形成自家的判斷，隨後再去看計算機的預報結果。通過不斷實踐，這些氣象學家保持了自己技能的熟練程度。但是，新一代的氣象學家卻更依賴於電腦，一旦老一輩人退休，倘若電腦崩潰人們就會因專業技能匱乏而無所適從。

相信我們很多人都需要過GPS系統帶來的問題，我們也看到了諸如飛機自動駕駛儀給人們帶來的麻煩，把兩者結合起來，我們就知道自動駕駛汽車的問題。負責谷歌自動駕駛汽車計劃的克裡斯·烏姆森（Chris Urmson）希望自動駕駛汽車能夠很快普及，他的孩子不再需要駕駛執照。他的目標有一個顯著的暗示：自動駕駛汽車永遠不需要人類控制。

卡拉基梅隆大學的自主駕駛專家拉傑·拉傑庫馬爾（Raj Rajkumar）認為，汽車實現完全自動駕駛，我們還需要10到20年的時間。在此之前這是一個漸進發展的過程，讓汽車在簡單條件下自動駕駛，而人類在更具挑戰性的時刻接手控制。

「隨著時間的推移和技術的發展，適用於汽車自動駕駛的情況將會不斷增多，直至汽車完全實現自動駕駛，但這種改變將是潛移默化的，人們幾乎不會注意到。」但拉傑庫馬爾指出，即使那樣，「總會有一些情況會超出任何人的控制。」

如果這聽起來可怕，或許本該如此。如果汽車在情況複雜時，向人類交還控制權，這聽起來似乎很合理。但這引出了兩個直接的問題：如果我們希望汽車知道在什麼時候移交控制權，其實就是要求整個系統能夠清楚自己的能力範圍——清楚自己在何時能行，以及何時不可行。這是非常困難的問題，甚至對人類自身來說都不簡單，更不用說一臺計算機了。

另外一個問題是，如果我們希望自己能夠接管汽車控制權，那麼我們如何知道做出何種反應呢？從法航447航班的現實我們可以得知，當飛機自動駕駛儀關閉後，即便是訓練有素的飛行員也很難弄清楚到底發生了什麼情況。因此我們對於計算機即將犯錯時人類能否具備及早察覺的能力，也理應保持懷疑的態度。

密西根大學教授阿努伊·凱·普拉丹翰（Anuj K Pradhan）指出，「目前人類還不習慣於使用自動駕駛汽車，所以，我們還不清楚當駕駛被行車電腦接管之後，人類司機將如何根據實際情況做出反應。」

事實上，我們有有可能在自動駕駛汽車上玩手機，或者通過視頻電話聊天，並不會對計算機如何駕駛汽車時刻保持警惕。或許我們第一次乘坐自動駕駛汽車時不會如此大意，但久而久之勢必如此。

而當自動駕駛汽車的計算機真把控制權交還給人類時，有可能是遇到了最極端和最具挑戰性的情況。當法航447航班的自動駕駛儀讓三位飛行員接管飛機時，他們也僅僅兩三分鐘的時間去考慮如何處置。而當行車電腦宣布「自動駕駛模式斷開」時，我們把目光從智慧型手機屏幕上移開，看到一輛公交車迎面而來，我們能有挽回的機會嗎？

普拉丹翰提出了這樣一種設想，在人類獲準操控自動駕駛汽車之前，應當具備若干年的手動駕駛汽車經驗。但我們很難知道這是否真的有效。不論一位司機擁有多少年駕齡或是駕駛技術有多麼嫻熟，一旦讓計算機接管了汽車駕駛，他的駕駛技能勢必會日漸生疏。從另一方面講，普拉丹翰的建議也會帶來這樣一個難題：因為最有可能發生事故，所以我們或許會讓年輕司機放棄手動駕駛。而即便他們學到了一些駕駛技能，但在自動駕駛汽車的影響下也很快會退化。

正是因為數字設備出色地解決了小問題，所以才為大錯誤的產生埋下隱患。這些系統無微不至地為我們避開了所有令人尷尬的反饋，去除了所有實踐磨礪技能的可能。當危機來臨，我們會悲傷地發現自己是何等無能和措手不及。

在飛行訓練中，一些經驗老道的飛行員會要求初學者時不時關閉自動駕駛儀，從而保持自己的技能水平，這聽起來似乎是一個好的建議。但是問題在於，如果初級飛行員僅僅是在絕對安全的情況下關掉自動駕駛儀，其效果也是相當有限的。但倘若讓他們在具有挑戰性的情況下關閉自動駕駛儀，又有可能引發出真正的事故？

另一種解決方案是把計算機與人類的角色相互調換。通常情況下，我們讓計算機駕駛飛機、讓人類在出現異常情況時接手，為什麼我們要讓人來監督機器，而不是反過來呢？角色互換或許更好，讓人類駕駛飛機，而讓計算機進行監督，並在出現異常時進行幹預。畢竟，計算機不知疲倦，富有耐心，更重要的是不需要練習。

譬如在無人機操作中，需要人來保護計算機，這時計算機的編程算法可以應對一些極端的異常情況。而一個更好的自動化系統也應如此，其需要人類操作者進行更多、更頻繁的操作。如果一個系統需要人類在短時間內對極端情況進行迅速處置，那麼無疑讓人類一直保持工作狀態或許更有意義。

20世紀80年代中期，一名名為漢斯·蒙德曼（Hans Monderman）的荷蘭交通工程師受命來到了Oudehaske這個小村莊，在當地，兩個孩子因車禍而喪生。蒙德曼的雷達測速儀顯示整個村莊的交通隱患是司機們開的太快。起初他考慮了那些傳統的限速解決方案：交通燈、減速帶、警示標誌等等，但無疑這些方法成本高昂且效果有限。譬如在交通信號燈以及減速帶的直接作用下，司機的確會減速，但在沒有這些設備的路面，他們一樣開的飛快。

因此蒙德曼嘗試進行了一些創新。他對通過Oudehaske的主幹道進行了重新設計，使其看起來更像是一條穿村而過的小路。蒙德曼將路面上現有的交通標誌悉數去除。蒙德曼認為，警示標誌是道路的表現形式。在更深層次上，交通標誌存在的效果是為了提醒司機他們是一條道路上，一條汽車行駛的道路上。而蒙德曼想告訴他們的是，他們也在一個村子裡，這裡也有很多孩子。

接下來，蒙德曼用紅磚鋪地代替了瀝青路面，用平緩彎曲的排水溝代替了凸起的路沿。之前司機在通過村莊時，像在平常道路上行駛一樣，並沒有真正關心他們在做什麼。而現在，他們面臨一個混亂的情況，不加注意很難辨別特定的行駛路線，或者區分哪些空間屬於汽車而哪些空間屬於村裡的孩子。正如湯姆·范德比爾特（Tom Vanderbilt）在其《交通》一書中所述，蒙德曼的策略「不是清晰和隔離，他人為製造了混亂和歧義。」

因為困惑，所以司機採取了謹慎的方式駕駛。他們開車緩慢通過Oudehaske，蒙德曼再沒有發現超速。通過讓駕駛員面對犯更多的小錯誤的可能，他們惹大麻煩的概率就大大減少。

蒙德曼是世界上最著名的交通規劃師之一，他力主推行讓交通更為流暢和安全的策略。貫用的方法是設置交通信號燈、公共汽車車道、自行車道、隔離欄等等，明確告知司機應當做什麼或是應當去哪裡。

然而，有時需要反其道而行之。荷蘭德拉赫滕的Laweiplein廣場曾是一個典型的交叉路口，事故多發。其有一個購物中心以及一個大型劇院，車多人雜。因為擁堵時常發生，司機在等待信號燈時往往會過於關注交通標誌，而不會過多考兩次其他道路使用者。而蒙德曼於2003年建立了一個正方形的廣場噴泉，去除了所有交通信號燈，減少了路面交通標誌，汽車從四個方向匯進並穿越廣場，而行人以及自行車輛也需要穿越廣場且沒有信號燈的保護，顯然汽車、自行車以及行人正在以一種混亂的方式彼此交織在一起。

但是現在的Laweiplein廣場每天都有兩萬兩千多輛汽車穿梭，但汽車通過路口的時間卻減少了一半，而交通事故的發生率也大大較少。

這種新的交通方式給了司機更多的自主權。他們不知道會發生什麼，或是哪會竄出一個騎自行車的人，因此會在謹慎情況下緩慢前行。雖然取消了信號燈的廣場有事故風險，但不會有安全威脅。司機慢速通過已經成為習慣，司機、騎車人、行人之間有時間通過眼神交流來進行溝通，而彼此之間不再成為威脅或是障礙。當記者採訪Laweiplein廣場時，蒙德曼大膽閉上他的眼睛，匯入車流，但汽車只是在他周圍緩慢前行，並沒有響起此起彼伏的喇叭聲。

在蒙德曼的設計中，司機甚至沒有機會去切換到自動駕駛模式，這種混亂讓他們集中注意力，專注於駕駛。無疑，這種混亂中的混亂，不安全中的安全，反而讓人們保持了工作狀態，發揮了人與機器結合的最大效果。（晗冰）

本文來源：網易科技報導 責任編輯：王真_NT5228