給卡車穿上「隱身衣」,讓自動駕駛車輛撞上它:這場自動駕駛比賽,比...

2020-12-14 澎湃新聞

蕭簫 發自 凹非寺

量子位 報導 | 公眾號 QbitAI

自動駕駛算法,在這場比賽中成了實驗品:

24小時內,不僅要在特定的場景中,讓它被攻破;還要在競速情況下盡力優化它,讓車跑得更快。

如果這兩個方向均能脫穎而出,就能奪得第一名。

這是全球首個自動駕駛CTF (Capture The Flag,意為奪旗賽,一種網絡安全領域的技術競技)的比賽方式,參賽者是來自各地的知名CTF戰隊。

在9月26~27號的24小時裡,加州大學爾灣分校(UCI)的小隊ASGuard脫穎而出,以745分的成績一舉奪魁。

一起來看看, 比賽中都有哪些題目。

比賽題目長啥樣

這次比賽包含了多種和自動駕駛安全密切相關的題型, 既有Binary,Reversing等傳統CTF賽題,也有機器學習安全(AML)和自動駕駛算法(Mad Race)等全新賽題。

從下圖可見,題目難度不小,「懸賞分」最高的題目是GPS欺騙,就沒有一個小組在限定時間內解出(累計得分0)。

部分題目具體的畫風,是下面這樣的:

到底是攻擊對手,還是讓自己跑更快?

如何在限定時間內,超越所有小隊的賽車,並獲得競速賽第一名?

這是競賽題目Mad Race的規則:

要求參賽隊伍實現自動駕駛的路線規劃和控制算法,跟其他隊伍同場競技,最快完成比賽者得最高分。

然而,也許是舉辦方「有意為之」,這題背後還隱藏著一個邪惡的獲勝方法:題目允許攻擊其他車輛的漏洞。

所以,比賽的方式不止一種。畢竟如果將路上的其他車輛都攻破了,那麼自己的車子就穩操勝券了。

不過,獲勝團隊最後沒有選擇加入攻擊算法,而是集中全力提升了自己的路線規劃和控制算法,這也使得他們與第二名快速拉開了差距。

獲勝團隊表示,如果車輛優化得夠好,攻擊算法就追不上它,其實也能成為一種取勝策略。

一張「貼紙」,讓卡車消失

除此之外,自動駕駛算法的避障也是一個重要的技術。

所以,盡力騙過自動駕駛算法,讓它撞上障礙物,其實也是一種檢測算法漏洞的方法。

在名為消失的卡車題目中,參賽者需要提交Patch(一個圖像塊),系統把這個Patch貼到卡車車廂,並同時讓自動駕駛車輛逐漸靠近卡車,要求這期間,不能有一幀檢測到卡車。

說白了,就是利用特殊生成的圖片,騙過目標識別算法。

不過,也沒有這麼簡單,因為參賽者提交的Patch不僅需要欺騙連續多幀的目標檢測,而且還需要考慮車輛行進軌跡中的視角和距離變化、傳感器噪聲、圖像預處理等技術。

畢竟,誰也無法預測自動駕駛算法會在什麼時候、被什麼樣的圖像「欺騙」。

在這道題目中,冠軍團隊讓生成的Patch具有更高的魯棒性,最終成功騙過了自動駕駛算法。

欺騙GPS:全場最難的題目

從得分來看,全場唯一沒有小組解出的題目,就是這道GPS欺騙 (GPS Spoofing)了。

這道題屬於Binary攻擊類型(二進位漏洞攻擊),是全場分數最高的一道題目,但無人解出。

題目要求參賽者攻擊一個伺服器端的GPS Spoofing檢測程序,從而獲得伺服器中Flag文件的內容。

這道題屬於傳統的CTF類型,它的難點在於,參賽者需要了解一種特定GPS數據的解析格式,並構建虛假的GPS數據,來觸發和利用該漏洞。

因此,要解決這道題,除了傳統的Binary攻擊技術,還必須要有自動駕駛中GPS傳感器的知識和經驗,大部分小組都被這一點難住了。

對於冠軍團隊來說,這次的遺憾應該在於沒能解出這道最難的題目。

「最後時刻,我們已經能構造需要的GPS數據格式、且找到了漏洞利用的注入點,無奈最後由於時間不足,未能完成,非常可惜。」

為何舉辦自動駕駛CTF

拼盡全力攻破自動駕駛算法,究竟有什麼意義?

或許大家還記得今年6月,的事故:

高速路上,一輛貨車側翻在地,後續來車紛紛避讓。

但一輛白色特斯拉Model 3,以110公裡的時速,直接撞向了如此明顯的貨車障礙物。

針對這一類自動駕駛的安全事故,這次的CTF定位與實際生活中自動駕駛展現的安全問題密切相關。

例如,那道利用對抗樣本生成能讓白色卡車「消失」的Patch,就是自動駕駛中障礙物識別的一項極大挑戰。

而賽題的場景,就是從特斯拉在高速上的安全事故取材的。

畢竟,只有知道了攻擊自動駕駛算法的方法,才能更好地優化自動駕駛算法,讓車輛行駛更安全。

冠軍團隊介紹

這次比賽的冠軍團隊由6人組成,主要來自加州大學爾灣分校的ASGuard(Autonomous Sysems Guard)研究組,導師為Qi Alfred Chen,其中4名成員Junjie Shen、Takami Sato、Ningfei Wang和Ziwen Wan均為在讀博士生。

此外,還有一名來自清華大學的準一年級博士生Yunpeng Luo、以及目前在CMU就讀碩士、本科曾就讀於UCI的Zeyuan Chen。

而ASGuard研究組平時的研究方向,就是自動駕駛軟體安全。

ASGuard的組員也表示,參加這場比賽最大的獲勝點,是技能點、研究方向剛好覆蓋所有賽題類型。

因此,他們的團隊分工也非常明確,其中Junjie Shen,Ziwen Wan,Yunpeng Luo和Zeyuan Chen負責Binary、Reversing和Mad Race,而Takami Sato和Ningfei Wang則負責機器學習模型安全(AML)。

不過,這次的比賽對於冠軍組來說,也並非一帆風順。

可以看出,在最後的奪冠之前,團隊經歷了相當長時間的無進展期,但在最後時刻一舉解出兩道題目,最終反敗為勝。

— 完 —

本文系網易新聞•網易號特色內容激勵計劃籤約帳號【量子位】原創內容,未經帳號授權,禁止隨意轉載。

原標題:《給卡車穿上「隱身衣」,讓自動駕駛車輛撞上它!這場自動駕駛比賽,比誰攻得快》

閱讀原文

相關焦點

  • 谷歌母公司旗下Waymo聯手戴姆勒共同開發自動駕駛卡車
    戴姆勒卡車管理委員會主席馬丁·杜姆(Martin Daum)表示,本次合作並不涉及戴姆勒對Waymo的投資。他說道:「一起看過戲或看場電影之後,不一定就要結婚。但是我們兩家公司之間正在進行緊密的合作。」這並非戴姆勒首次涉足自動駕駛卡車技術。
  • 特斯拉在臺灣撞上側翻貨車 L2級自動駕駛未反應
    也就是說,特斯拉自動駕駛的傳感器並沒有發現前方有一輛側翻的貨車。東森新聞報導稱,隨著車輛逐漸接近側翻的貨車,車輛的自動緊急制動系統檢測到存在障礙物。根據現場監控視頻,在事故發生前1~2秒,這輛特斯拉Model 3的車輪處冒出一股白煙,車輛採取了自動緊急制動措施。在經過數十米的制動之後,最終還是撞上了側翻的貨車。
  • 加州DMV提出在公路上測試自動駕駛車輛的規則
    目前,有許多公司在加利福尼亞的公路上開發和測試自動駕駛汽車,但是根據法律的規定,團體不允許測試輕型運輸車輛。多虧了一個新提議,這很快就會改變。加利福尼亞州機動車輛部(DMV)上周發布了一份行動建議通知,表明其打算改變有關在公共道路上測試無人駕駛輕型運輸車輛的規則。這一切都歸結為「機動卡車」,加州法律將其定義為「主要用於運輸財產的設計,使用或維護的機動車」。
  • 谷歌母公司旗下Waymo聯手戴姆勒開發自動駕駛卡車
    戴姆勒卡車公司是世界上最大的運輸卡車公司之一,而Waymo則是自動駕駛領域的先鋒和領頭羊。戴姆勒卡車管理委員會主席馬丁·杜姆(Martin Daum)表示,本次合作並不涉及戴姆勒對Waymo的投資。他說道:「一起看過戲或看場電影之後,不一定就要結婚。但是我們兩家公司之間正在進行緊密的合作。」這不是戴姆勒第一次涉足自動駕駛卡車技術。2019年8月,戴姆勒收購了一家名為Torc Robotics的公司的多數股權,這是一家位於美國維吉尼亞州的自動駕駛企業。與Waymo一樣,Torc專注於開發L4級自動駕駛技術,即車輛可以在特定的地理或道路條件下完成自動駕駛,無需人類駕駛員的參與。
  • 自動駕駛卡車是否會率先駛進我們的生活中
    亞馬遜是Aurora的投資者之一,它遲早會成為自動駕駛卡車的主要玩家。其他物流公司也是Aurora的潛在客戶。沃爾沃卡車公司在其採礦設備和相關車輛上使用自動駕駛技術。他們還為自動駕駛卡車進行了概念驗證研發。沃爾沃卡車公司尚未公開選擇與哪家自動駕駛卡車軟體供應商合作。目前尚不清楚沃爾沃卡車公司是否會開發自己的AV軟體平臺或使用合作夥伴。
  • 自動駕駛初創公司Nuro收購自動駕駛卡車創企Ike
    【TechWeb】12月24日消息,據國外媒體報導,軟銀支持的自動駕駛初創公司Nuro已收購自動駕駛卡車初創公司Ike。不過,這筆交易的具體條款並未披露。Ike由蘋果、谷歌和Uber的資深員工創立,是一家專注於運送長途貨物的自動駕駛卡車初創公司,有大約60名員工。
  • 自動駕駛丨Waymo挖來13位Anki機器人專家研發自動駕駛卡車
    【TechWeb】6月28日消息,據國外媒體報導,當地時間周四,Alphabet旗下自動駕駛子公司Waymo表示,該公司將聘請已倒閉的機器人初創公司Anki的13名機器人專家,來研發自動駕駛卡車,其中包括Anki前執行長(CEO)鮑裡斯•索夫曼(Boris Sofman)。
  • 停工命令下 帕卡仍在測試自動駕駛卡車
    蓋世汽車訊 一名工程師將一輛貨車的開到了一條空測試跑道上,然後,該工程師扳動開關,將手從方向盤上移開,腳從油門踏板上移開,車就自動行駛了起來。
  • 特斯拉開啟自動駕駛,撞上大貨車,車主:這是「自動送命」吧!
    特斯拉絕對算得上是新能源汽車中的佼佼者,出色的動力再加上高端的配置可謂俘獲了眾多消費者的芳心。一直以來,有關特斯拉的黑料就在網上頻頻爆出,比如自動駕駛功能就飽受大家詬病,很多特斯拉車主表示新車途中真的不敢啟用這一功能,只能望而卻步。近日有位特斯拉車主就在自動駕駛途中發生了事故。
  • 崇尚Less is More 的 Starsky 要怎樣贏得自動駕駛卡車之戰?
    雷鋒網(公眾號:雷鋒網)註:圖片來自網絡雷鋒網按,每當我們談論自動駕駛卡車,大家總會覺得它在複雜程度上與其他自動駕駛汽車相比有過之而無不及。許多權威專家甚至預言,這項技術至少得再進化 10 年才能有所成。
  • Uber宣布關停自動駕駛卡車業務,專注研發無人駕駛小汽車
    目前,它停止了從自動駕駛技術公司Otto那裡收購的自動駕駛貨運平臺的開發。「我們已經決定停止自動駕駛卡車項目的開發,並專心研發自動駕駛汽車,」Uber Advanced Technologies Group的負責人Eric Meyhofer在一份聲明中表示。「我們最近邁出了重要的一步,重新回到了匹茲堡的公共道路上。
  • Aurora加大自動駕駛卡車業務範圍至德克薩斯州
    重型卡車則將於今年年底在德克薩斯州的公路上行駛。Aurora表示正在招聘各種職位,包括技術人員,團隊負責人,卡車司機和車輛操作員。Aurora正在開發一種用於自動駕駛汽車的全棧解決方案,稱為「駕駛員」。自2017年推出以來,這家初創公司曾表示,其自動駕駛堆棧(可為自動駕駛車輛提供決策的軟體和硬體組合套件)可應用於任何車輛。但是,在最初的兩年中,Aurora的合作夥伴關係和公眾意見都集中在Robotaxi上,而不是物流運輸上。
  • TuSimple和Navistar打造NVIDIA DRIVE驅動的自動駕駛卡車
    此次合作讓兩家公司成為開發自動駕駛卡車的先驅。在過去的十年中,自動駕駛卡車開發商停留在對傳統卡車進行改裝,即為這些卡車配備上自動駕駛所需的傳感器、硬體和軟體。但如果能從頭開始建造這些卡車,公司就可以根據自動駕駛系統的需求做到全定製化,並利用量產卡車製造商在基礎架構上的已有優勢。TuSimple首席產品官Chuck Price表示,這種過渡是從研究到廣泛部署的第一步。
  • 特斯拉剛發布的自動駕駛卡車,對於卡車司機意味著什麼-虎嗅網
    據悉,電動卡車Semi的單次續航裡程高達500英裡(約800公裡),最大載重量達8萬鎊(約36噸)。這部卡車可以在高速公路上自動駕駛。卡車配備了增強型的特斯拉自動駕駛系統Autopilot,具備自動剎車,車道保持和車道偏離告警等功能。
  • 自動駕駛時代,離我們還有多遠
    該車型通過搭載5個毫米波雷達、6個攝像頭、12個超聲波雷達作為主要傳感器,可實現3個360度車外環境感知,最大探測距離大於200米、測量精度達10釐米,可有效識別駕駛環境中的車輛、行人、騎行者及車道線、護欄、交通標識牌等信息,進而引導汽車安全地自動行駛。9月初,一汽解放研製的首款L3級自動駕駛重型卡車J7正式發布。
  • 上海開放L3自動駕駛試點,促進商業車自動駕駛
    自動駕駛是一種發展趨勢,為了促進智能網聯汽車的發展,在上海新港片區的推為輔助駕駛L3級試用區,其實自動駕駛技術發展雖是趨勢所向,但早在幾年前關於商業車自動化需求已相當迫切。試用區目的是推進有條件上高速或者高架的自動駕駛車輛發展,率先試點無安全員的無人駕駛區域,另一方面是促進自動駕駛載貨的商業化。
  • Waymo披露卡車自動駕駛計劃 下半年擴大測試
    蓋世汽車訊 據外媒報導,近日,Waymo卡車運輸商業化負責人Charlie Jatt概述了該公司自動駕駛送貨部門Waymo Via的運營計劃。未來,Waymo將與OEM和Tier 1供應商合作,為基於雲的卡車配備自動駕駛系統。此外,Waymo將與車隊合作,提供軟體服務,並提供地圖和遠程車隊援助等支持。
  • 知乎精選 | 特斯拉高速撞上靜止大貨車,這鍋該自動駕駛背?
    自動駕駛的毫米波雷達雖然可以檢測靜止物體,但濾波算法會有意去除檢測到的靜止物體。(本文由知乎答主「迪迪」撰文,騰訊科技整理,作者系小鵬汽車大數據工程師。)近日,特斯拉又出事了。6月1日,一輛特斯拉Model 3以110公裡的時速,直直撞上了高速路上側翻的大貨車。
  • 戴姆勒聯手waymo,研發L4級自動駕駛卡車
    本次合作中,全球最大的自動駕駛汽車公司和商用卡車製造商之一將聯手打造L4級自動駕駛卡車,即車輛可以在特定的地理或道路條件下完成自動駕駛,無需人類駕駛員的參與。  雙方早期的合作重點,是為經過改裝的Cascadia貨櫃貨車配備Waymo Driver,這款卡車將於未來幾年在美國上市,但雙方並未明確給出此次合作的時間框架。
  • 淺談自動駕駛車輛編隊行駛技術的發展與影響
    自動駕駛車輛編隊問題的研究來源於多智能體系統(Muti-Agent System,MAS)任務規劃及協作問題的研究,作為車路協同系統中的一個重要技術熱點和前沿課題,它主要是針對多自動駕駛車輛在複雜多變的交通環境下,通過調節自身的