從法航447航班的故事看人類面臨的自動化悖論

2021-02-19 人工智慧學家

原則上,技術並不應當成為自動化悖論的犧牲品。它應當讓人們騰出手來去做更多有意義的事情。譬如當漢克斯對罰單有異議時,應當是去查找異常情況而不是找出另一個車牌發出罰單。

但是,布拉德福市對其系統的反應與法航447飛行員如出一轍。最初政府駁回了漢克斯的投訴,直至漢克斯稱要向法院提起訴訟時才承認錯誤。

當一些極端情況發生時,就像電傳飛控系統出現的問題一樣,我們並不會從容處理。我們總是認為計算機永遠正確,即使有人說計算機有問題,我們也會認為是人錯了或是在說謊。倘若電腦將你誤認為是慣偷,因而保安將你趕出了購物中心,那會怎樣?或者說當你的名字或者外貌錯誤地出現在「犯罪分子」資料庫中,又該怎樣去除掉呢?

隨著計算機技術的發展,電腦已經把裝滿文件的檔案櫃變成了查找方便、操作便捷的一個個資料庫。更多的計算機管理資料庫,使用者根本不需要參與其處理過程,也無需了解到底發生了什麼。但計算機的處理過程往往是不加解釋的,一個對學校和教師的評級,一個Uber司機服務的優劣,抑或是一個企業在谷歌搜索中的排位,這些算法通常都被視為是商業機密。算法中的錯誤或是先驗概念無可避免,這些錯誤和一些先入為主的情況很難被挑戰。

專門研究專家和直觀決策的心理學家格裡·克萊恩(Gary Klein)總結稱,「算法在決策上的廣泛採用使得人們難以查糾失敗的真正原因。隨著人們越來越依賴於算法,其對問題的判斷力和洞察力都會受到影響。這個過程形成了一個惡性循環。當我們越是習慣於通過算法做決策,對於外界環境就越是被動。」

決策專家克萊恩抱怨稱,一些軟體工程師對系統本身的設計消磨了人們的專業技能,從而有可能使問題更加糟糕。如果我們希望使自己的專業技能得到鍛鍊,那麼就需要與系統進行鬥爭。譬如,在駕駛過程中GPS設備能夠為司機導航,但其中的查看地圖或是改變原有路線等功能都被隱藏在傻瓜功能之下。人們總是直接點擊「開始導航」,其他的都交給了計算機。

心理學家麗貝卡·帕裡斯克(Rebecca Pliske)發現,老牌的氣象學家在進行天氣預報時習慣於先查閱數據並形成自家的判斷,隨後再去看計算機的預報結果。通過不斷實踐,這些氣象學家保持了自己技能的熟練程度。但是,新一代的氣象學家卻更依賴於電腦,一旦老一輩人退休,倘若電腦崩潰人們就會因專業技能匱乏而無所適從。

相信我們很多人都需要過GPS系統帶來的問題,我們也看到了諸如飛機自動駕駛儀給人們帶來的麻煩,把兩者結合起來,我們就知道自動駕駛汽車的問題。負責谷歌自動駕駛汽車計劃的克裡斯·烏姆森(Chris Urmson)希望自動駕駛汽車能夠很快普及,他的孩子不再需要駕駛執照。他的目標有一個顯著的暗示:自動駕駛汽車永遠不需要人類控制。

卡拉基梅隆大學的自主駕駛專家拉傑·拉傑庫馬爾(Raj Rajkumar)認為,汽車實現完全自動駕駛,我們還需要10到20年的時間。在此之前這是一個漸進發展的過程,讓汽車在簡單條件下自動駕駛,而人類在更具挑戰性的時刻接手控制。

「隨著時間的推移和技術的發展,適用於汽車自動駕駛的情況將會不斷增多,直至汽車完全實現自動駕駛,但這種改變將是潛移默化的,人們幾乎不會注意到。」但拉傑庫馬爾指出,即使那樣,「總會有一些情況會超出任何人的控制。」

如果這聽起來可怕,或許本該如此。如果汽車在情況複雜時,向人類交還控制權,這聽起來似乎很合理。但這引出了兩個直接的問題:如果我們希望汽車知道在什麼時候移交控制權,其實就是要求整個系統能夠清楚自己的能力範圍——清楚自己在何時能行,以及何時不可行。這是非常困難的問題,甚至對人類自身來說都不簡單,更不用說一臺計算機了。

另外一個問題是,如果我們希望自己能夠接管汽車控制權,那麼我們如何知道做出何種反應呢?從法航447航班的現實我們可以得知,當飛機自動駕駛儀關閉後,即便是訓練有素的飛行員也很難弄清楚到底發生了什麼情況。因此我們對於計算機即將犯錯時人類能否具備及早察覺的能力,也理應保持懷疑的態度。

密西根大學教授阿努伊·凱·普拉丹翰(Anuj K Pradhan)指出,「目前人類還不習慣於使用自動駕駛汽車,所以,我們還不清楚當駕駛被行車電腦接管之後,人類司機將如何根據實際情況做出反應。」

事實上,我們有有可能在自動駕駛汽車上玩手機,或者通過視頻電話聊天,並不會對計算機如何駕駛汽車時刻保持警惕。或許我們第一次乘坐自動駕駛汽車時不會如此大意,但久而久之勢必如此。

相關焦點

  • 從法航447航班的故事看人類面臨的自動化悖論|法航447|飛機|飛行員...
    一個簡單正確的處置就可以化解他們面臨的危機。但他們卻並未嘗試。大衛·羅伯特有句話是對的,「他不明白髮生了什麼。」正如專欄作家威廉·朗格維舍(William Langewiesche) 在《名利場》中的一篇文章中所描述的,2009年5月31日晚間7點29分法航447號航班從巴西裡約熱內盧起飛,目的地巴黎。事後來看,三個飛行員都有著自己的問題。
  • 空難故事:法航447
    2009年5月30日,法航447航班從裡約熱內盧飛往巴黎,6月1日凌晨,這架空客A330飛機正在飛越大西洋,卻神秘失蹤,再無消息。這個航班上有三名飛行員,分別是58歲的機長馬克、32歲的副駕駛博南、還有37歲的羅伯特。在長途飛行中,為了能夠讓飛行員有足夠的精力,飛行員會採取輪班制。
  • 和馬航MH370一樣消失的法航447航班真相 (長文連載披露)
    然後,他們擠在電腦顯示屏前,親眼看到了法航447航班的圖像一幅幅地出現:引擎,起落架,部分機身的殘骸......它們都靜靜的躺在海底。之後,他們重新裝上衛星天線,給法國負責調查此次事故的部門傳去了第一批圖片,但他們的發現的更深層意義才剛剛揭開。 法航447航班的失事被蒙上了一層神秘的面紗。
  • 和馬航MH370一樣消失的法航447航班真相(長文連載披露)
    然後,他們擠在電腦顯示屏前,親眼看到了法航447航班的圖像一幅幅地出現:引擎,起落架,部分機身的殘骸......它們都靜靜的躺在海底。之後,他們重新裝上衛星天線,給法國負責調查此次事故的部門傳去了第一批圖片,但他們的發現的更深層意義才剛剛揭開。 法航447航班的失事被蒙上了一層神秘的面紗。
  • mh370黑匣子沒信號 消失的法航447航班最後聲音曝光
    2009年6月1日2時14分,法航447航班發出最後一條信息後在雷達上消失。2011年5月2日,在經歷了702天的搜索之後,飛機「黑匣子」終於被打撈出水。一個部件的故障和兩名飛行員的失誤最終導致228人葬身海底,航空事故沒有留下任何奇蹟。要墜機了?不可能啊!到底怎麼回事啊?」
  • 《高效秘密》:當年法航447墜機研究,飛行員缺失一種能力
    自動化系統讓我們不用費腦就能完成很多我們想要做的事情,然而,隨著自動化技術的普及,人類注意力集中時間的衰退風險也變得越來越大。人們在自動化和注意力之間切換的時候,就很可能出現問題,而且是極其危險的。懂得如何掌握自己的注意力比任何時候更重要。
  • 自動駕駛儀關閉,需人工操作時機長午睡,法航447航班墜入大西洋
    2009年6月1日,法國航空一架編號為447的空中巴士A330班機從巴西的當時,這起空難事故顯得非常神秘,因為法航這次AF447航班所採用的空客A330型客機被稱為是現代歷史上最安全的機型。兩年後,找到黑匣子;四年後,調查報告正式發布!
  • 法航月底復飛巴黎-北京 中法航班增至每周6個
    【歐洲時報蔡家怡編譯】據法新社報導,法航(Air France)將於8月底前恢復巴黎-北京航線。這是中歐航班自受新冠疫情影響中斷以來,中國首都北京首次重啟與歐洲之間的直航。 巴黎-北京航線將是法航復飛的第三個中法每周定期航班。鑑於中國對目的地為首都北京的國際航班實行分流入境,該航班去程為巴黎-天津,回程為北京-巴黎。
  • 法航月底復飛巴黎-北京,中法航班增至每周6個
    來源:歐洲時報據法新社報導,法航(AirFrance)將於8月底前恢復巴黎-北京航線。這是中歐航班自受新冠疫情影響中斷以來,中國首都北京首次重啟與歐洲之間的直航。巴黎-北京航線將是法航復飛的第三個中法每周定期航班。鑑於中國對目的地為首都北京的國際航班實行分流入境,該航班去程為巴黎-天津,回程為北京-巴黎。法國也因此成為第一個獲準復飛從北京出發航線的歐盟國家。
  • 專訪法航荷航集團大中國區總經理龐道安:疫情加速航司整合 民航業...
    荷航是首家恢復成都航線客運服務的歐籍航司,法航荷航是首家從北京出發運營國際客運航班的外籍航司。   疫情對法航荷航造成了多大影響?外籍航司如何看待中國航空市場的創新挑戰?   疫情同樣給法航荷航帶來巨大衝擊,據龐道安回憶,今年3月至4月疫情形勢嚴峻的時候,法航荷航全球航線網絡只有此前正常水平的5%~10%,每天損失額約超2000萬歐元。   目前,法航荷航面臨著新挑戰。
  • 法航將開通北京直飛巴黎航班;中國駐埃塞使館發布關於核酸檢測
    法航在中國大陸與法國之間每周增至三個航班繼法航恢復上海-巴黎航線定期往返客運航班之後,北京-巴黎航線也要恢復啦!而且是直飛哦~法國航空將於2020年8月20日起恢復中國大陸北京航線的客運航班服務,自此法航在中國大陸與法國之間每周運營三個航班。
  • 歷史上的今天 |「協和」號超音速客機遭遇空難,法航4590號航班到底經歷了什麼?
    2000年7月25日,法國航空4590號航班在起飛不久後墜毀於巴黎近郊。空難發生後,立刻震驚了全世界。不僅僅是因為空難本身,更因為這架客機不是普通的客機,它是人類歷史上第一次用於商業飛行的超音速客機——「協和」號。那麼,「協和」號與普通客機有什麼區別?法航4590號航班到底經歷了些什麼呢?
  • 法航可能聘用滬語空中翻譯
    一位法航的負責人告訴記者,明年,如果法航再增加上海至巴黎的航班,他們就將招聘會講上海話和普通話的翻譯。    法航如此想和上海人套近乎,是因為從本月起,法航在上海至巴黎航線上又增加了2個航班,達到每周五班,且全部投入大型波音777機型,座位量增加了50%。機上所有的客艙座位均配有個人電視;經濟艙座位上安裝有可調節的頭部枕靠和腳踏板;頭等及公務艙內配有香濃咖啡機。
  • 法航有關中國冠狀病毒疫情的聲明
    經過對目前情況發展的慎重考量,法航決定暫停所有往返中國大陸的航班至2020年2月9日。法航此前已於1月22日暫停往返武漢的航班,該暫停措施仍然有效,直至另行通知。有關航空公司改籤政策的詳細信息,請以官網為準www.airfrance.com。
  • 法航第三班或經津入京,國內三大航中法航班結束輪飛】
    中法國際航班最新的安排,來自第七次中法高級別經濟財金對話情況說明:1、法航恢復經營每周2班巴黎至上海的航;2、期待法航恢復經天津至北京的額外1班;3、國航、東航、南航經營北京、上海、廣州至巴黎的航班,每周各1班;4、當條件允許時,將進一步提升中法之間的運力額度。
  • 深航「深情飛」獨家劇透;吉祥推暢飛卡;法航將復航北京
    航旅圈了解到,吉祥無限升艙卡明確規定免票不適用,兩款產品能否疊加,就要看使用暢飛卡兌換的機票是否為免票了。東航隨心飛2.0「早晚隨心飛」也在今天開始對普通旅客銷售。病例1—病例3均為中國籍,在阿聯工作,乘坐同一航班,8月5日自阿聯出發,8月6日抵達上海浦東國際機場。該航班為包機,此前已有2名旅客入境後被確診,已累計有5人核酸檢測為陽性結果。病例4-病例18均為中國籍,在阿聯工作,乘坐同一航班,8月7日自阿聯出發,經斯裡蘭卡轉機後於當日抵達上海浦東國際機場。
  • 法航巴黎北京直航航班開通!男子不戴口罩被趕下TGV
    今日熱點提要 2020年08月18日 1, 法航巴黎北京直航航班即將啟動 2, 馬克龍呼籲法國面對疫情要團結 3, 沒戴口罩一男子被火車趕下車 4, 歐冠杯半決賽今晚巴黎對萊比錫 5, 反虐待動物提案收集超50萬籤名累計確診219029例(+493)累計死亡30429例(+19) 巴黎北京直航航班即將開通要回國/回法
  • 8月20日起復飛 法航成為首家恢復北京航線的歐洲航企
    今日法航通過官方公眾號宣布,繼法航恢復上海-巴黎航線定期往返客運航班之後,已經獲批北京巴黎直飛的航線,現已在官網和法航400電話渠道開始售票。自此,法航在中國大陸與法國之間每周開始運營三個航班。此前,法航已從6月18日起恢復上海航線客運服務,目前每周運營2個航班。
  • 8月20日起法航恢復北京航線客運服務
    新京報訊(記者 曲筱藝)8月17日,新京報記者從法國航空獲悉,自8月20日起,法航將恢復中國大陸北京航線的客運航班服務,在巴黎戴高樂機場與天津/北京之間每周運營1個客運航班。自此,法航將在中國大陸航線上每周共執飛3個客運航班,其中包含上海航線上的2個客運航班。