科技先生頻道∣公眾號:zgkjsir
隨著人臉識別技術不斷普及,便利店、商場、甚至水果攤前都立起了一個個「掃臉付」的機器,仿佛一切事物都在變得越來越輕鬆省力。但是剛剛來自清華的瑞萊智慧發布了一個全新的人工智慧安全平臺,這讓人臉識別暴露出了迄今為止最重大的漏洞。
在這次測試中,測評人員選取了全世界最著名的兩位球星——梅西和C羅,並將他們的人像圖放到了人臉識別系統中。在用原圖測評的時候,人臉識別系統可以輕鬆識別兩者的差別,相似度僅有24%。
但通過RealAI團隊的平臺添加過「對抗樣本」之後,人臉識別系統就完全認不出來了。在我們眼中幾乎沒什麼變化的兩個人,在人臉識別系統中的相似度竟然從24%飆升到91%!
如果這種技術應用到了現實生活中,後果就更為可怕。比方說在馬路上貼一張這種貼紙,就可以讓處在自動駕駛下的車拐進逆行道;在眼鏡上貼一張幹擾貼紙,就可以解鎖任何一部你想要解鎖的手機。
目前,這家出身於清華大學AI研究院的公司,已經通過這種技術破開了幾乎所有主流平臺的人臉識別系統,就連全球級的巨頭亞馬遜和微軟也不例外,可見人臉識別系統中的安全隱患有多嚴重。
實際上,人臉識別系統自誕生以來就頗受爭議,這也不是第一次有團隊破解系統了。去年12月,美國的人工智慧企業kneron就宣稱,自己能夠通過製作面具的方式破解微信、支付寶等app的人臉識別系統。
雖然話是這麼說,但是這家公司畢竟沒有給出足夠有說服力的證據。而這次瑞萊智慧是實實在在的發布了新平臺供大家測驗,也提出了相應的解決辦法,對目前的人臉識別系統進行修護和提升。
由此可見,人臉識別系統目前仍存在著很多的不確定性,難以讓人完全放心。但技術進步的趨勢是不會倒退的,發展的問題只能用發展來解決。隨著各行業群策群力、主流平臺的重視監管,人臉識別終究還是會不斷普及開來。