騰訊科恩實驗室提出特斯拉Autopilot系統缺陷

2020-12-03 環球網

【環球網科技報導 記者 張之穎】據外媒報導,騰訊科恩實驗室(Keen Security Lab of Tencent)今天發布了一份最新研究報告,指出特斯拉Autopilot系駕駛系統的缺陷,以及如何欺騙特斯拉的系統,以擾亂該駕駛系統的判斷能力。

該報告所提出的問題包括:

一、 雨刷的視覺識別缺陷

特斯拉Autopilot系統藉助圖像識別技術,通過識別外部天氣狀況實現自動雨刷功能。科恩實驗室通過研究發現,利用AI對抗樣本生成技術生成特定圖像並進行幹擾時,該系統輸出了「錯誤」的識別結果,導致車輛雨刷啟動。

二、車道的視覺識別缺陷

特斯拉Autopilot系統通過識別道路交通標線,實現對車道的識別和輔助控制。科恩實驗室通過研究發現,在路面部署幹擾信息後,可導致車輛經過時對車道線做出錯誤判斷,致使車輛駛入反向車道。

三、遙控器操控車輛行駛

利用已知漏洞在特斯拉Model S(版本2018.6.1)獲取Autopilot控制權之後,科恩實驗室通過實驗證明,即使Autopilot系統沒有被車主主動開啟,也可以利用Autopilot功能實現通過遊戲手柄對車輛行駛方向進行操控。

不過特斯拉對騰訊科恩實驗室的演示似乎不以為然,該公司評論道:「該實驗通過放置在汽車擋風玻璃前的電視顯示圖像,從而證明這項研究,然而這不是司機面臨的現實情況,也不涉及安全問題。此外,正如我們在使用手冊所述, 「我們擋風玻璃刮水器的自動設置,目前處於測試階段。客戶可以隨時選擇使用手動擋風玻璃的刮水器設置。」

特斯拉還表示,在這次演示中,研究人員調整了車輛周圍的物理環境(例如在公路上放置磁帶或改變車道線路),以使汽車在使用自動駕駛儀時有不同的表現。然而有鑑於駕駛員可以隨時使用方向盤或制動器輕鬆取代自動駕駛儀,該實驗反應的並非現實世界的情況。」

騰訊作為特斯拉的投資者,旗下騰訊科恩實驗室,對高級輔助駕駛安全技術保持著高度關注。在2018年Black Hat USA大會上,科恩實驗室發表相關議題,面向全球首次公布了針對特斯拉Autopilot系統的遠程無接觸攻擊(相關攻擊鏈已經被特斯拉修復)。由於曾多次設法控制特斯拉汽車,該實驗室的研究使特斯拉升級了其軟體安全性。

相關焦點

  • 三張貼紙「欺騙」特斯拉 騰訊科恩實驗室指出Autopilot視覺識別缺陷
    隨著高級輔助駕駛系統已經逐漸應用到大眾車型中,這一技術的安全性也受到越來越多的關注。近日,騰訊科恩實驗室公布了一項在特斯拉 Model S 上進行的安全性研究,並發布報告指出了三個缺陷。實驗室表示,這是利用 AI 對抗樣本生成技術生成特定圖像並實現了對汽車的幹擾,而在隨機生成的畫面中則不會出現這種情況。(來源:騰訊科恩實驗室)二、車道的視覺識別缺陷:三張紙片將特斯拉「騙」上錯誤路線。
  • 多次破解特斯拉,最牛安全實驗室科恩的新計劃 | 訪騰訊科恩呂一平
    有一幫人,馬斯克親筆寫信向其致謝,只因為他們「玩壞了」一臺特斯拉。有一幫人,善於與時間賽跑,在自動駕駛的賽道上與死神(安全隱患)爭第一。他們,就是騰訊安全科恩實驗室。2016年9月21日,科恩實驗室正式宣布以「遠程無物理接觸」的方式成功破解了特斯拉汽車,這在全球尚屬首次。
  • 多次破解特斯拉,最牛安全實驗室科恩的新計劃|訪騰訊科恩呂一平
    有一幫人,他們不用接觸你的車,即可遠程「黑」入整套車載系統。有一幫人,馬斯克親筆寫信向其致謝,只因為他們「玩壞了」一臺特斯拉。有一幫人,善於與時間賽跑,在自動駕駛的賽道上與死神(安全隱患)爭第一。他們,就是騰訊安全科恩實驗室。
  • 獨家解析:特斯拉史上最大漏洞,騰訊科恩實驗室如何從千裡外黑掉你...
    讓人振奮的是,完成這次攻擊的,是來自中國的黑客——騰訊科恩實驗室的童鞋們。雷鋒網(公眾號:雷鋒網)宅客頻道(微信公眾號 ID:letshome)在第一時間聯繫到了騰訊科恩實驗室總監呂一平,他為我們獨家講述了一些細節內幕。
  • 特斯拉發布Autopilot新數據 行駛裡程達30億英裡
    Autopilot推出4年後,特斯拉在2018年11月宣布Autopilot現實行駛裡程達到10億英裡。時隔兩年不到,該公司又宣布Autopilot行駛裡程又增加20億英裡,總量達到30億英裡。騰訊汽車原文配圖據國外媒體報導,特斯拉人工智慧和計算機視覺部門主管安德烈·卡帕西最近在一次演講中發布一組有關Autopilot及其功能的新數據。
  • 特斯拉車主必看!Autopilot系統或將實現 「匝道出口」與「匝道入口...
    ■ 關於Autosteer功能特斯拉描述:在高速公路上的時候,你的特斯拉車輛能夠判斷你需要在何時在哪條車道上行駛。除了能夠確保你不錯過出口之外,Autopilot能夠在交通繁忙的時候發現合適的機會將車輛切換到快車道。
  • 騰訊科恩實驗室落地松江,推動信息安全產業發展
    騰訊雲合作夥伴授牌儀式現場,騰訊集團副總裁道峰、騰訊雲華東總經理李瀟授牌了20家騰訊雲合作企業,其中包括上海市四大運營商(中國移動、中國聯通、中國電信、東方有線)以及G60科創走廊九個城市16家代表企業。對於授牌的合作企業,騰訊將與其共享發展機會,提供專屬權益。
  • 特斯拉Autopilot的紅與黑:一路升級至3.0版本後真的安全嗎?
    近日,特斯拉披露的《Q3車輛安全數據報告》顯示,其自動輔助駕駛系統Autopilot正為車主帶來更安全的保障。雷鋒網新智駕注意到,就在今年3月,美國國家運輸安全委員會(NTSB)才剛剛宣布,將對特斯拉及其自動駕駛系統進行調查。處於自動駕駛領域技術前列的特斯拉,發展至今仍充滿爭議。
  • 特斯拉發布2020年Q4車輛安全報告:Autopilot再次讓汽車更安全
    【TechWeb】1月15日消息,據國外媒體報導,電動汽車製造商特斯拉發布了2020年第四季度車輛安全報告。報告顯示,該季度,該公司的Autopilot(自動輔助駕駛系統)再次讓汽車更安全。
  • Autopilot到底特別在哪?能讓Elon Musk甘當小白鼠
    與其他廠商相比,特斯拉有一大隱藏優勢,那就是它售賣的車型都是不折不扣的聯網車型,因此特斯拉能用這幾十萬臺車採集的數據來訓練 Autopilot 系統並找出自動駕駛的「門道」,隨後再通過推送提升這個龐大車隊的自動駕駛能力。其實從核心來看,Autopilot 的工作原理與其它自動與半自動駕駛系統類似,即系統應用之前,特斯拉會從車輛傳感器(比如前置攝像頭)採集數據。
  • 騰訊X-Talk的科學大神,分享未來的旅遊必殺技,坐家裡都能分身去冰島
    作為國際領先的安全攻防研究團隊,騰訊安全玄武實驗室聚集了頂尖的技術人才,在很多安全領域都取得了突破進展。在2017年烏鎮世界網際網路大會上,騰訊安全玄武實驗室和中國科學院計算所大數據安全組合作的「阿圖因」軟體空間安全測繪系統,入選了大會評出的前58大「世界網際網路領先科技成果」。 玄武實驗室在業內素有「漏洞挖掘機」稱號。
  • 特斯拉發布了一系列新的Autopilot數據,已達30億英裡甚至更多
    和其他自動駕駛公司不同,特斯拉正在利用其龐大的電動汽車用戶群收集數據。 4月22日,特斯拉AI負責人Andrej Karpathy在新的演示文稿中發布了有關Autopilot及其功能的大量新數據。
  • 參議員:「睡覺開車」問題解決前特斯拉應禁用Autopilot
    來源:金融界網站金融界美股訊 美國民主黨參議員埃德-馬基(Ed Markey)周三要求特斯拉禁用其「Autopilot」輔助駕駛系統,直到其安裝新的防護裝置以防止駕駛員繞過系統要求、在睡著的情況下「自動駕駛」。
  • 騰訊安全玄武實驗室公布全球首例克隆攻擊技術
    適應網絡安全發展新趨勢騰訊安全首倡 「移動安全新思維」  更值得關注的是,於暘在此次報告中首次提出安全廠商要建立「移動安全新思維」,用移動思維來思考移動安全,來適應新的移動網際網路安全發展趨勢。在他看來,PC時代的安全思維對移動時代來說是不夠的。行動裝置有諸多不同於PC的特點,而移動應用也有諸多不同於傳統軟體的特點。
  • 特斯拉被吹上天的自動駕駛也存在安全問題 出行安全再次受到重視
    日前,科恩實驗室研究人員成功入侵了特斯拉自動駕駛系統Autopilot,並且誘導特斯拉Model S駛入了對向車道中。據了解,研究人員在地面上粘貼了三張白色小貼紙,發現Model S的自動駕駛系統將貼紙識別為障礙物,並控制車輛自動駛入到了一旁的對向車道中。
  • 特斯拉升級可視化系統 可識別錐桶
    蓋世汽車訊據外媒報導,特斯拉再次更新了其基於Autopilot的駕駛可視化系統,可以識別交通錐,並且規劃繞過錐桶的行駛路徑。在過去幾個月中,特斯拉一直在努力改進其駕駛可視化系統。該系統的工作基於Autopilot的傳感器,以及該公司的計算機視覺系統,車輛可以對車身周圍情況進行渲染,並顯示在車內屏幕上。雖然該系統並不能完全替代司機對車身周圍的觀察,但是它一直被看作是讓消費者提升對Autopilot的信心的工具。
  • 別把特斯拉吹上天,美國IIHS測了5款車 缺陷最嚴重的就是它!
    特斯拉自從問世以來,一直就被當成是當今最先進技術的化身,似乎它永遠站在時代的前沿,也永遠站在正確的一面,但再先進的都不是靠吹噓出來的,而是靠不斷實驗不斷改進而來的,千萬別把特斯拉吹上天。據海外媒體報導,8月7日美國公路安全保險協會(IIHS)公布了一份測試報告,報告警告稱,裝有電子駕駛輔助系統的車輛可能會探測不到靜止的物體,如果駕駛員不注意,甚至可能引起碰撞事故。
  • 騰訊安全雲鼎實驗室利用騰訊安全自主研發的系統到底是什麼
    騰訊安全雲鼎實驗室利用騰訊安全自主研發的「defylibrary」和騰訊安全開放雲平臺聯合打造了基於anyway.os的開源系統——anywaylab系統。騰訊安全雲鼎實驗室表示:「anywaylab計劃旨在面向未來企業級系統應用,開發高效、可擴展、安全的解決方案,創建跨運營商、雲計算、ai、5g、物聯網等多場景大生態,推動產業創新發展。」
  • 特斯拉秒變遊戲廳,體驗特斯拉V10.0版本軟體
    ,我們最耳熟能詳的黑科技當屬「Autopilot」自動輔助駕駛系統,不吹不黑的說,這是一套目前市面上最接近「全自動駕駛」的系統。 9月29日,特斯拉正式向中國車主開始推送V10.0版本軟體,而此次升級主要是針對娛樂系統,比如增加了騰訊視頻
  • 騰訊實驗室使用AI 算法解決二進位安全問題
    圖文無關;圖片來源:攝圖網數據算法騰訊安全科恩實驗室使用 AI 算法解決二進位安全問題的一項研究被 NeurIPS 2020 接收,該研究首次提出了基於 AI 的二進位代碼 / 原始碼端到端匹配算法,與傳統算法相比效果非常出色,準確率大幅提升。