360:AI關鍵基礎設施正面臨三重風險人臉識別有漏洞

2020-12-05 和訊科技

新浪科技訊 8月26日晚間消息,360公司表示,AI關鍵基礎設施正面臨三重風險,包括某些人臉識別設備能讓任意人通過,不僅AI算法存在漏洞,其所依賴的關鍵基礎設施也同樣會被攻擊。

360 AI安全研究院表示,目前AI的三重風險包括:學習框架風險、硬體風險及雲平颱風險。

第一,針對深度學習框架安全風險。深度學習框架主要可以劃分為雲端學習框架和終端學習框架。雲端框架安全風險主要來自於自身代碼的實現以及第三方的依賴庫問題;終端框架安全風險主要存在於模型網絡參數、模型網絡結構,以及模型轉換過程。

第二,針對硬體相關的安全風險。據英偉達官網統計,截至今年7月,關於GPU驅動漏洞的數目達到數百個;晶片漏洞以幽靈、熔斷為例,幽靈漏洞可以造成洩露敏感數據、執行特定代碼,熔斷漏洞導致用戶態獲取特權內存的數據,這些漏洞影響了Intel、部分ARM的處理器。

第三,針對雲平臺的安全風險。用於深度學習任務的節點性能強大,因此總會有一些攻擊者想要非法使用這些資源進行挖礦。比如,今年6月,微軟通報部分Kubeflow存在未授權訪問的問題,導致大量設備被非法挖礦。

「只有在確保AI系統的安全,才有可能放心享受AI的便利,那麼保證系統中AI關鍵基礎設施的安全至關重要」,360 AI安全研究院表示,AI關鍵基礎設施的安全問題可以通過權限控制、訪問隔離、參數過濾等措施進行緩解,針對AI關鍵基礎設施的安全問題,需要建立多維度、一體化風險評估方法以及對應防禦措施。(大鵬)

(責任編輯:王治強 HF013)

相關焦點

  • 「人臉識別」,我們還能承受多少風險?
    科技現已成為我們生活中一個關鍵的基礎設施,如果不能及時更新技術——或者更糟的是,簡單做出終止技術服務的決定——可能帶來各種意想不到的後果。正如薩提亞在我們的內部談話中多次指出的那樣,政府正在以電子郵件為工具幫助非法移民家庭團聚。如果我們把郵件系統關掉,誰知道會發生什麼。這讓我們得出結論,抵制美國政府機構是錯誤的做法。
  • 人臉識別有什麼漏洞,活體檢測又是怎麼防偽?
    隨著人臉識別技術日益成熟,商業化應用越來越廣泛,人臉登錄、人臉支付、人臉乘梯、人臉閘機等等,在安防、金融、教育、醫療等領域廣泛應用,人臉識別技術的智能快捷在國內得到迅速發展,但人臉識別極其容易被照片、視頻、仿真模具等方式矇混過關,網上也頻頻傳出各種破解方法,因此人臉識別系統具備活體檢測功能成為必然
  • 人臉識別存在法律風險該如何防範?
    人臉識別技術通常包括人臉檢測、人臉跟蹤、人臉比對三個部分。該技術的研究始於20世紀60年代,隨著計算機技術和光學成像技術的發展在80年代後得到提升,而真正進入初級應用階段則在90年代後期,並且以美國、德國和日本的技術實現為主。
  • 人臉識別時代,我們該如何保護自己的隱私?
    人們刷臉支付、刷臉安檢、刷臉入住酒店……幾乎時時處處都要把臉推到前臺,但是頻繁刷臉背後是否存在安全隱患,我們的「臉」有沒有被盜用或濫用,到底應該如何在享受便利的同時保護自己的「臉」。凡此種種,都成為生活在人臉識別時代的我們需要關注的問題。「新技術總會有安全問題,人臉識別本身為生活提供了便利,而它最大的風險在於信息洩露。」
  • 人臉識別賽道再添新玩家:360 正式發布五款人臉識別終端產品,主打...
    4 月 15 日,360 公司召開人臉識別新品雲端發布會,宣布「亮劍」人臉識別科技領域,主打「安全牌」,推出了由 360 城市安全集團視覺科技打造的 5 款人臉識別終端硬體產品、5 套人臉識別管理軟體,以及 5 大智慧解決方案。
  • 人臉識別技術和產業風險凸顯 需構建相應的監管機制
    居民掃描人臉後,可將垃圾放到拍照處識別,若垃圾識別成功,垃圾桶開啟,完成垃圾分類。CB Insights「2019 年全球AI企業100強榜單」中,排在前11位的5家中國公司成立年限僅3~8年,多為5年內催熟而成,在基礎研究領域普遍缺乏深度和定力。另一方面,數據裸奔導致隱私洩露現象漸重。
  • 數據風險、算法黑箱怎麼破?這家創企用AI化解安全難題
    基於對抗樣本技術,黑客可繞過整個網絡和系統安全防禦機制,僅通過簡單偽裝,就從AI算法引起的新漏洞讓應用出錯。  比如戴上一副「對抗樣本」眼鏡,就能破解手機或智能門鎖的人臉識別解鎖,或是偽裝成他人完成銀行和政務系統的身份認證,竊取財產。  穿著「對抗樣本」T恤,亦可逃開監控,在目標檢測算法下宛如來去自如、不被知曉的「隱形人」。
  • 人臉識別和生物識別在支付領域上的風險
    而識別準確率目前在特定情況下也能達到指紋識別相同水準。三是其它生物識別技術。首先是虹膜,具有高準確率,信息採集難度高等特點,一般應用於國家安全、軍事設施特別敏感的門禁或權限管理場合;其實是聲紋,與人臉識別類似,準確率相對較低,採集難度和私密性很低,而且驗證過程很容易被盜取。
  • UCloud優刻得推出人臉識別測溫平板和智能防疫一體機
    加之海外疫情仍處於大規模爆發狀態,如何做到外防輸入、內防反彈是當下抗疫工作所面臨的兩大挑戰。為此,UCloud優刻得結合自身在AIoT領域的技術優勢,與中車集團中城捷運合作推出了兩款疫情防控產品:人臉識別測溫平板和智能防疫一體機,可分別應用於不同場景。人臉識別測溫平板通過AI算法進行人臉識別和無接觸測溫;一體機在平板功能的基礎上,更增加了360度消毒功能。
  • 人臉識別:AI產品經理需要了解的CV通識
    最近整理了CV方向的一些產品基礎知識,我的上一篇文章《看AI產品經理如何介紹「計算機視覺」(基於實戰經驗和案例)》算是這個系列的第一篇;本文是本系列下的第二篇,主要針對人臉識別進行梳理。後續還會有多目標跟蹤、OCR等方向的內容。
  • 人臉識別技術存在重大網絡安全風險
    2017年春運人臉識別在部分火車站進站檢票時開始應用,引起很多關注,部分媒體也報導了生產商的核心技術掌控在日本企業手中,以及由此引發的對信息安全的擔憂。前不久央視「3·15」晚會現場對於人臉識別的實驗演示,再一次將網絡產品的人臉識別的風險清晰展示在觀眾面前。
  • ...晚報:林世偉將出任小米CFO 白宮將宣布投10億刀設AI和量子研究所
    #人工智慧#1、360:AI關鍵基礎設施正面臨三重風險8月26日消息,360公司表示,AI關鍵基礎設施正面臨三重風險,包括某些人臉識別設備能讓任意人通過,不僅AI算法存在漏洞,其所依賴的關鍵基礎設施也同樣會被攻擊。
  • ...面面觀】做好關鍵信息基礎設施安全防護 打造網絡安全「金鐘罩」
    在有組織的、高強度攻擊面前,關鍵信息基礎設施面臨著巨大挑戰。  在當下,關鍵信息基礎設施事涉國家安全、國計民生以及公共利益,對於國家網絡安全和信息化建設意義重大。關鍵信息基礎設施一旦遭到破壞或者喪失功能、數據洩露,將對社會產生嚴重危害。因此,加強關鍵信息基礎設施的網絡安全保護刻不容緩,是網絡安全工作的重中之重。  預警不斷襲來,威脅可防可控。
  • 人臉識別技術面臨的困難與挑戰
    據微信公眾號"App個人信息舉報"29日消息,一份萬人問卷調查顯示,人臉識別技術的便捷性受到認可,但受訪者對其安全性感受一般,很多時候遭遇強制要求使用現象;六成受訪者認為人臉識別技術有被濫用的趨勢。  網絡平臺過度掠取信息  2020年國家網絡安全宣傳周特別節目對部分App應用人臉識別技術過程中的典型問題進行曝光和分析。
  • 人臉識別60年︱法律能保護人們的「臉」嗎?
    報告第一章的第1部分審視了這些監管生物識別信息的法律法規,它們在實施過程中已經暴露出一些關鍵問題。數據保護法的出臺,促使政府和企業在個人數據的收集、保存和使用方式上有了根本性改變,但它們在應對新形式的數據驅動技術時存在局限性,比如生物識別和分析技術。現有的數據保護法聚焦於對個人的危害(而非群體),未能有效解決數據歧視和算法畫像等問題。
  • ...平安集團首席科學家肖京:行人重識別是智慧社區等應用的關鍵要素
    中國平安首席科學家肖京博士認為,行人重識別是視頻結構化技術及智慧社區等相關應用的關鍵要素,本屆大賽定位於城市服務生態圈中的一個學術難度高、產業應用背景廣闊的課題,競賽中產生的各種思考和嘗試無疑會對相關產業帶來新的進步,提升行人重識別的技術能力。
  • 人臉識別的「囚徒困境」
    2018年,人臉識別這個美麗神話到底如何發展?人臉識別的「囚徒困境」一方面是大量資本湧向這個行業,另外一方面,則是人臉識別的變現渠道遙遙無期。因此,人臉識別行業被圈內人號稱「囚徒困境」,要多尷尬有多尷尬。
  • 人臉識別主要依靠了基於圖像的空間邊緣檢測技術
    ai換臉技術引起很多人的擔憂,怕外貌損害。這次任性哥帶你回歸本源,用人臉識別,再現青澀年華,你也可以擁有金融界鼻祖級的辨識力。最近我們也在研究人臉識別這個方向,今天就針對這個做個簡單的介紹。什麼是人臉識別?
  • 應用層下的人臉識別(三):人臉比對
    人臉算法人臉算法效果決定了人臉識別的上限,也是人臉比對最關鍵的要素。隨著深度學習技術的普及,各大公司的人臉算法效果差距也越來越小。目前主流的人臉識別算法可以分為以下四類:基於人臉特徵點的識別算法基於整幅人臉圖像的識別算法基於模板的識別算法利用神經網絡進行識別的算法2018年11月20日公布的,有工業界黃金標準之稱的全球人臉識別算法測試(FRVT)結果(如下圖):
  • 擔憂人臉識別技術有照片洩露風險 如何應對?
    當你的臉變成 一串「密碼」之後……不少人對於人臉識別技術的應用表示擔憂,主要認為其有照片洩露的風險。照片洩露就是人臉識別技術的「鍋」嗎?面對洩露風險,我們要如何應對?伴隨著人臉識別技術的發展,其爭議始終存在。