黑客騙過人臉識別?清華系AI公司發布首款人工智慧殺毒軟體

2020-12-12 AI財經社

騙過人工智慧的「眼睛」已經不再是一件難事。

今年美國東北大學和麻省理工大學等大學和研究機構做了一項創新實驗，共同研製出了基於「對抗樣本」的T恤衫，對抗樣本是指一種由攻擊者精心設計的特殊樣本，科研人員就對T恤上的原圖案進行了修改，通過了一定的技術手段將圖案生成了有較強幹擾性的圖案，以此來改變T恤的視覺效果，導致AI人體檢測攝像頭無法準確地檢測出穿著該T恤的行人。

類似的技術戲法如今已被廣泛應用，黑客可以通過一副「對抗樣本」眼鏡輕鬆實現身份偽裝，破解手機面部解鎖，或是偽裝成他人完成銀行和政務系統的身份認證，甚至打開人臉識別門鎖，竊取財產。

提升AI能力需要最大限度的挖掘數據價值，但是在金融、醫療、公共安全等場景的AI應用中，需要用到的數據往往涉及個人隱私信息，這些攻擊行為都給AI落地帶來了巨大的挑戰。

在近日舉辦的2020第三代人工智慧產業論壇上，中國科學院院士、清華大學人工智慧研究院院長張鈸指出，現在很多人工智慧公司估值很高，但是營收很少，問題在於沒有解決算法和數據的不安全性，造成深入到更多高價值的場景速度較慢。「企業要做大做強，必須解決安全和魯棒（穩定強健）的問題。」

論壇上，依託於清華大學人工智慧研究院孵化設立的瑞萊智慧RealAI發布了旗下兩款最新AI產品——隱私保護機器學習平臺RealSecure和人工智慧安全平臺RealSafe2.0 版本。其中RealSafe可以理解為是針對AI算法的殺毒軟體和防火牆，2.0 版本新增了對抗樣本檢測方法、對抗訓練等解決方案。據了解，目前，RealSafe已在工信部重大建設項目以及某電網公司落地應用。

瑞萊智慧RealAI CEO田天對AI財經社說，在行業裡，如果無法保障AI安全，很多業務場景根本沒辦法開展。比如金融行業的一些解決方案要求補充數據，這個時候就涉及到數據安全隱私保護，要通過隱私網絡機器學習平臺，在合規前提下才能把銀行內部的數據和外部打通，只有這樣才能打破數據孤島，支持上層的AI用戶得到更多的數據，進而更形成更好的系統。「保障AI安全不只是錦上添花，實際上是在解決一些根本性的問題，讓更多的創新應用場景成為可能。」

他還提到，現在很多刷臉支付的廠商對於人工智慧的安全問題都非常重視，因為自己沒有辦法研發，都在尋找一些類似AI防火牆的產品，這塊的商業需求已經非常強烈。

田天說，雖然阿里、Facebook等公司也在關注這個領域，但主要是偏實驗室檢測和技術工具。整體來看，AI安全在市場上還是一條比較新的賽道，公司在包括貝葉斯深度學習、可解釋機器學習、AI對抗攻防等第三代AI核心技術方面有一定的積累，產品相比起來是一個面向企業級更加商業化的技術平臺。（文|AI財經社 唐煜）

相關焦點

  • 人臉識別再曝安全漏洞:清華創業團隊推出全球首個AI模型殺毒軟體
    機器之心報導參與：澤南瑞萊智慧剛剛發布的首個 AI 安全平臺，發現了迄今為止最為「重大」的人臉識別安全漏洞。4 月 7 日，來自清華的 RealAI（瑞萊智慧）發布了 RealSafe 人工智慧安全平臺，隨之推出的測試結果令人驚訝：通過平臺對微軟、亞馬遜雲服務的人臉比對演示平臺進行測試顯示，基於 RealSafe 平臺生成的對抗樣本「噪音」能夠極大幹擾兩大主流人臉比對平臺的識別結果。
  • 黑客用一副紙眼鏡,就能「弄瞎」人臉識別算法
    鏡頭三：視頻網站B站，瑞萊智慧RealAI公司（下文簡稱「RealAI公司」）的研究人員，戴上一副紙眼鏡，秒級「弄瞎」人臉識別算法。這已經不是我第一次尋訪研究對抗攻擊算法的科學家，這次我探訪到了RealAI公司的安全算法負責人，蕭子豪。這位畢業於清華大學計算機系的碩士，夏天酷愛穿一件簡單的T恤。他總是聲調冷靜，節奏緩慢，像一潭沉靜的湖水。
  • GeekPwn2020完美落幕,清華-RealAI聯合戰隊斬獲虛假人臉AI識別大賽冠軍
    本次大賽聚焦雲、AI、5G等前沿技術，結合社會熱點安全話題，發起首屆CAAD虛假人臉AI識別大賽，RealAI與清華大學計算機系聯合戰隊TSAIL以絕對比分優勢拿下該賽目的冠軍。AI遇上假臉傻傻分不清楚？
  • ...AI發布首個企業級隱私保護機器學習平臺與升級版AI模型殺毒軟體
    驅動AI產業「第二增長曲線」，清華系RealAI發布首個企業級隱私保護機器學習平臺與升級版AI模型殺毒軟體
  • 驅動AI產業」第二增長曲線」,清華系RealAI發布首個企業級隱私保護...
    清華大學人工智慧研究院院長、中科院院士張鈸，清華大學教授、中科院院士王小雲，清華大學教授、安全人工智慧創新中心主任朱軍、北京智源人工智慧研究院院長黃鐵軍，清華大學技術轉移研究院院長王燕、瑞萊智慧RealAI CEO田天等出席大會。本次會議上，瑞萊智慧RealAI旗下兩款第三代AI新品——隱私保護機器學習平臺RealSecure和人工智慧安全平臺RealSafe2.0 版本正式發布。
  • 人工智慧有了「殺毒軟體」 可在線測評算法模型安全性
    人民網北京4月9日電（趙竹青）大規模的網絡攻擊曾經倒逼了殺毒軟體的誕生，應用日漸廣泛的人工智慧，又該如何抵禦「病毒」的攻擊？記者從清華人工智慧研究院獲悉，該院RealAI（瑞萊智慧）創業團隊8日推出針對算法模型本身安全的檢測平臺，意味著人工智慧也有了「殺毒軟體」。
  • 360城市安全:AI安全時代來臨,360視覺構建人臉識別安全生態
    2018年，315晚會報出人臉識別的不安全性；同年，人大代表提出人臉識別安全性有待提升，不建議使用；2019年，人臉識別某公司洩露客戶百萬條人臉識別數據；2020年，江蘇常州某社區居民因擔心人臉識別洩露隱私而集體拒絕使用……
  • 人臉識別如何侵犯公民個人信息?不法分子製作3D人臉模型騙過支付寶
    這些判例披露的犯罪行為，主要集中在網貸平臺通過非法獲取公民人臉識別信息開通網貸帳號，或將人臉識別信息共享給催收公司，或將這些信息變賣獲利。此外，也有電信公司人員在未告知公民的情況下，違法採集公民個人信息開通手機卡。值得注意的是，有兩份判例披露了不法分子製作3D人臉模型騙過支付寶人臉識別系統，進而實施詐騙的情況。
  • 驅動AI產業「第二增長曲線」,清華系RealAI發布第三代AI產品
    清華大學人工智慧研究院院長、中科院院士張鈸，清華大學教授、中科院院士王小雲，清華大學教授、安全人工智慧創新中心主任朱軍、北京智源人工智慧研究院院長黃鐵軍，清華大學技術轉移研究院院長王燕、瑞萊智慧RealAI CEO田天等出席大會。
  • 上萬人臉識別廁紙機進駐上海?政協委員多年提案拒用人臉識別
    圖源/首聯智能12月9日，天津首聯發布聲明稱，首聯智能人臉識別供紙機不存儲、洩露人臉信息，設備的工作原理是通過離線的人臉識別模塊進行識別，公眾可在無聯網狀態下使用，並且在設定時間內（一般少於10分鐘）在本機內自動消除
  • 人臉識別成AI發展核心,人工智慧嗅覺去哪了?
    人臉識別成AI發展核心，人工智慧嗅覺去哪了？ 《2020胡潤全球獨角獸榜》共586家公司中，有63家公司從事人工智慧研發，總價值為1304億美元，絕大多數專注於自動駕駛和人臉識別技術，並沒有出現以人工智慧嗅覺為主的公司。中國科學院發布的《全球人工智慧企業TOP20榜單》中，幾乎全部都以計算機視覺技術、自然語言處理技術或自主無人技術為發展重心，至今尚未出現AI嗅覺領域的獨角獸公司。
  • 清華孵化、張鈸加盟的這家公司,現在把「第三代人工智慧」落地了
    首個編譯級隱私保護機器學習平臺RealSecure，讓隱私保護學習從「雕版印刷」走向「活字印刷」 首個企業級人工智慧安全平臺RealSafe，相當於AI算法的「殺毒軟體」 還有可解釋機器學習建模平臺、拿下了世界冠軍的deepfake「殺手」…… 張鈸院士還在親自給這家公司的產品路線定下了關鍵詞
  • 黑客繞過人臉識別,銀行Ⅱ、Ⅲ類戶開戶到底有多少風險?
    其在註冊帳戶過程中，先輸入本人身份信息，待進行人臉識別步驟時，利用軟體抓包技術將銀行系統下發的人臉識別身份認證數據包進行攔截並保存。黑客第一次按自己身份提交了，自己的身份證和人臉識別比對通過，說明加密數據部分被伺服器接受了，黑客把這部分加密數據截取下來，返回輸入身份證的步驟，重新填寫了偽造的信息，拼湊上截取的人臉識別加密數據，一併提交：
  • 瑞萊智慧的「長期主義」:走出清華,給AI產業畫一條新的「增長曲線」
    在這些基礎設施的支撐下，數據和算力的快速增長作為「外部驅動力」，帶動了AI產業在包括人臉識別、語音識別等領域的一波浪潮，驅動AI產業「第一增長曲線」的出現。這也就是清華人工智慧研究院提出「第三代人工智慧」的出發點。在2018年的CCF-GAIR峰會上，張鈸院士就提出，今後發展的方向是把第一代人工智慧知識驅動的方法和第二代人工智慧數據驅動的方法結合起來，發展安全、可信、可靠和可擴展的人工智慧技術，從而推動人工智慧的創新應用。
  • 360視覺入局人臉識別:終結行業「裸奔」,「安全」是終極法則
    而這一次挑戰的則是人工智慧領域目前最為成熟的人臉識別。 360視覺科技是360城市安全集團旗下專注於做人臉識別產品開發和技術應用的AI公司。今年4月份，360高調宣布進軍人臉識別行業，並推出了由360視覺科技打造的5款人臉識別終端硬體產品、5套人臉識別管理軟體，以及5大智慧(601519,股吧)解決方案。
  • 審視人臉識別:一種AI技術的全球性濫用
    2019 年下半年，NIST 發布了一份報告，描述了人臉識別在 2018 年期間的巨大進步，包括一對多搜索和一對一驗證兩大任務。NIST 圖像小組負責人的電氣工程師 Craig Watson 表示：「我們發現人臉識別的準確性有了顯著提高，這很大程度上是得益於卷積神經網絡的出現。」
  • 驅動AI產業「第二增長曲線」,清華系RealAI發布首個企業級隱私保護...
    比如信貸模型中「倖存者偏差」、人臉識別的種族歧視等一系列算法公平性問題的出現，以及技術濫用引發金融欺詐，甚至是政治宣傳引導輿論等等。
 要突破「三大關卡」，AI原生基礎設施需要實現三大塊能力，分別是算法可靠、數據安全和應用可控，以實現對現有AI平臺升級賦能，拓展AI在各類場景上的可用性。田天認為，這是現階段人工智慧產業需求，也是產業目標。
  • 人臉識別,禁!
    比如，廣為流傳的2018年麻省理工學院媒體實驗室和史丹福大學的一篇論文，針對來自三家主要商業公司發布的面部分析程序分析發現，人臉識別系統顯示出皮膚類型和性別偏見。 在研究人員的實驗中，三家公司的人臉識別系統在確定淺膚色男人的性別方面的錯誤率從未低於0.8％。但對於膚色較黑的女性，錯誤率急劇上升，其中一種錯誤率超過20％，另一種錯誤率超過34％。
  • 人臉識別再爆爭議
    Clearview 已經很大程度上讓這個想法成為了可能，這家公司設計了一款人臉識別程序，比如說你給某個人拍張照片，把照片傳到程序上面，就可以查看這個人的所有公開照片，包括這些照片的地址連結。https://clearview.ai/肆無忌憚的網絡數據爬取引發擔憂儘管此類系統可以為警方的辦案過程提供便利，但不可避免的是，警方在使用人臉識別算法的過程中伴隨著風險。
  • 進軍人臉識別,360 的「安全觀」與「大局觀」
    ；在後臺伺服器 上，人臉識別數據也將經過 360 安全大腦的漏洞檢測、防黑客滲透等安全加固防護。在人臉識別防偽攻擊方面，360 採用了業內最全的 36 種防偽攻擊算法，可以有效屏蔽各種照片、視頻、3D 面具等欺騙性攻擊，真正做到安全防護+防偽識別雙 重保障的人臉識別系統。「說實話，我們測試過業界各大小廠商數十款人臉識別設備，可以說 360 的人臉識別產品是目前業界安全防護級別最高的。