人臉識別技術和產業風險凸顯 需構建相應的監管機制

2020-12-05 新浪財經

作者:劉秋娜

「你是什麼垃圾?」這樣的靈魂拷問,或許將被人工智慧技術終結。

今年8月,一款名為「火星男孩」的智能廚餘垃圾分類機出現在長沙市嶽麓區望城坡街道長華社區。居民掃描人臉後,可將垃圾放到拍照處識別,若垃圾識別成功,垃圾桶開啟,完成垃圾分類。

不僅是垃圾分類,隨著以人臉識別為代表的生物識別技術迅速普及,行業投融資日益活躍,各種「刷臉」應用不斷湧現:火車站刷臉檢票進站、高考考生刷臉進考場、城市救助管理刷臉尋人……

但如火如荼的發展盛景背後,生物特徵數據的安全風險也隨之凸顯,亂象漸增。

一方面是虛火漸旺。CB Insights「2019 年全球AI企業100強榜單」中,排在前11位的5家中國公司成立年限僅3~8年,多為5年內催熟而成,在基礎研究領域普遍缺乏深度和定力。

另一方面,數據裸奔導致隱私洩露現象漸重。阿里首席風險官邵曉峰測算,我國相關黑產從業人員超150萬,市場規模達千億元級別,但卻難有法律跟進——網絡安全法尚缺落地細則;行業、企業標準較多但缺乏強制效力,致使監管缺少抓手,執法層面困惑。

如此背景下,不少行業人士呼籲,構建與之相適應的市場環境和監管機制,迫在眉睫。

攻防持久戰

當下,生物識別技術逐步向深度學習進化,協助各行業各領域從業人員將經驗數位化,節省人力,提高效率。

例如,生物識別技術的應用場景已逐漸從最初的員工考勤、小區門禁等延伸至智慧醫療、智能家居等諸多領域。維護社會治安、識別侵入人員、保證財產安全、人證核驗、監控安防、線上支付等方向的技術應用,已經大範圍落地。

然而,技術升級必然伴隨著攻擊手段的升級,攻與防、正與邪始終處在持久戰之中,「反人臉識別技術」「反生物識別產業」等黑科技、黑產業也隨之漸火。

例如,矽谷Bellus3D公司研製出Face Camera相機,能從各個角度捕捉人臉輪廓,然後3D列印出一張逼真的人臉面具;美國卡耐基梅隆大學開發的CMU眼鏡可幹擾計算機視覺,混淆佩戴者的性別、年齡等絕大部分面部特徵;線上換臉工具Deepfake能把上百張人物樣圖輸入一個算法中完成「換臉」,生成普通人無法辨識的假視頻。

因此,防禦機制也必須持續升級。

「光流分析、3D結構光、飛時測距(TOF)等技術日益成熟,使用微紋理、多光譜、運動信息等可有效抵禦2D及3D假體攻擊。此外,虹膜識別、靜脈識別、步態識別等其他的生物識別技術也取得積極進展。」中國人民銀行科技司司長李偉介紹。

此外,為應對近來全國多地出現的基於「反人臉識別技術」的資金盜刷案件,金融機構開始疊加「聲紋+語音」技術系統來識別欺詐行為。

「刷臉之後,還可讓消費者面對屏幕讀出隨機出現的幾個數字。」清華大學信息技術研究院語音語言技術中心主任鄭方介紹,「一是每人的聲音各異,二是通過這種活體檢測可識別其轉帳行為的真偽。」

這一安全防護技術也可用於多個社會化服務領域。遠鑑科技投資總監王秋明以自己公司的應用舉例說,要進入遠鑑科技有限公司的辦公區,就需要「人臉+聲紋+語音」的驗證方式,每位員工在刷臉之後還須讀出屏幕上隨機產生的八位數字,才能算考勤打卡成功。

「通過手機端的APP就實現了打卡,APP只有在進入辦公區範圍內才能夠啟用,這樣的考勤方式既便捷又安全。」王秋明說。

 數據在「裸奔」

「生物識別技術在大步快進,難免會重速度不重安全,這或許會造成一些不可逆轉的風險。」信聯智慧創始人楊楠認為。

這已經成為全球性難題——在世界經濟論壇2018年和2019年的《全球風險報告》中,排名三四位的是網絡攻擊、數據詐騙及數據洩露風險。全球範圍內,數據及網絡安全已連續兩年成為除自然因素以外的最嚴重風險。

而生物特徵數據的洩露危害尤甚。

李偉表示,生物特徵數據具有唯一性,通常不隨個人主觀意願而變化,因此難以針對不同業務、不同渠道、不同場景進行安全隔離。生物特徵一旦被非法竊取利用,基於此特徵的身份認證系統均可被輕易繞過,導致大規模隱私洩露,或致系統性風險。

「由於採集難度、硬體需求等不同,各種生物識別技術的防攻擊性差別各異。虹膜、指靜脈等生物特徵相對安全,人臉、指紋則完全暴露於外,過度採集、過度存儲的現象非常普遍。」楊楠表示。

如今,人臉識別技術被廣泛用於高鐵、飛機、紅綠燈監控等公共場所,識別和採集範圍最遠可至10公裡。不法分子可通過遠程、非接觸方式,在本人毫無察覺之下「無聲無息」地批量採集生物特徵數據,手段極具隱蔽性。

一些開展相關採集業務的第三方技術商以及各類手機APP運營商,也常在用戶不授權、未授權情況下偷採、存儲數據,造成洩露風險。

比如Facebook就在2018年因「未經照片主體同意的情況下,定期對照片進行掃描和生物特徵匹配」而遭到起訴;今年2月,深圳深網視界公司發生大規模用戶信息洩露事件,超過250萬用戶的身份證號碼、人臉圖像及拍攝地點等信息外洩。

面對這一系列問題,當前的治理手段卻相對有限。

數據行業專家隋欣池分析,首先,大多數企業維護資料庫安全的意識薄弱,且這一安防能力需要長期的技術積累,企業水平參差不齊。其次,企業大多將算法而非數據當作自己的核心資產,倒賣數據的行為很普遍,防不勝防。

虛火漸旺時

「不僅是一些企業發展『重量難重質』,更有大批跟風現象和資本簇擁,已致使一些領域陷入惡性競爭,造成劣幣驅逐良幣。」鄭方說。

他以售賣一款基於人臉識別技術的身份核驗系統舉例,去年有少數技術公司給銀行出價8萬元,已經算是虧本了,今年更是有公司提出為銀行免費服務,「大家都是先搶市場再說」。

這種情況自2018年產業規模開始井噴就已經出現。

CVSource報告顯示,2018年上半年AI創業公司融資事件驟增至130次,總額402億元,超過了2017年全年。而2013年,進行融資的AI創業公司數量還只有21家。

此景象頗為眼熟——與2015年網貸行業「大爆發」如出一轍。當年,紅杉、IDG、老虎等投資人先後進駐111家網貸平臺,共發生總額為188億元的121次融資事件,海爾、鏈家、恆大、綠地等產業巨頭,也紛紛以併購和設立子公司的方式迅速佔位。

如今,當年大手筆「催熟」網貸的資本方紛紛轉戰AI,掀起另一股熱潮。胡潤數據顯示,截至2018年年底,紅杉資本共捕獲了49家AI企業,在投資企業數量上高居榜首,IDG、老虎等機構也相當活躍,恆大、聯想、海爾等公司也大筆砸錢。

但沸沸揚揚之下,中國的AI產業實力卻並不能與之匹配,無論是AI公司的成長質量、數量還是研發能力,均與發達國家存有一定差距。

鄭方分析,中國AI創業公司與西方國家一些優秀企業的差距主要在於:中國機構重在應用層面投入,對晶片、硬體、算法等基礎技術有所忽略。相比之下,歐美一些企業的投資更加全面和立體,不僅重視商業應用,還有大批實力雄厚的企業投身於基礎研發,並高度重視智慧財產權保護。

「一些企業急於求成,並無核心技術,只是利用開源軟體對各路數據進行簡單訓練,形成一些不成熟的解決方案,卻最終因為『會講故事』而獲得資本青睞造成市場估值畸高,擠兌了一些『良幣』的生存空間。」鄭方為此憂慮。

多位受訪人士警示,網貸行業早前就是在經歷了亂象叢生、監管整頓、破產爆雷之後大幅縮水,至2019年一季度已不足200家平臺仍能良性運營。「新技術、新產業應以此為戒。」

立法防走偏

在不少受訪專家看來,數字經濟時代,新技術、新產業正深刻改變經濟發展方式和軌跡,亟待對此建立多維度、立體式的管理體系,防止數字經濟業態「走偏」。

當前我國並無生物識別領域的專項法,對其規範更多依託於個人隱私保護的相關法律法規,但目前我國直接涉及個人數據保護的相關法律法規相對分散,在執行上也羈絆頗多。

對此,有專家認為可適當借鑑歐美經驗。

去年3月,比利時出臺法規禁止私人使用人臉識別等基於生物特徵的視頻分析攝像機,全面整頓視頻監控市場;

去年5月,歐盟實施《通用數據保護條例》(GDPR),將生物識別數據納入監管,任何收集、傳輸、保留或處理涉及到歐盟所有成員國內個人信息的機構均受該條例約束;

今年2月,俄羅斯央行以去年出臺的第4859-U號條例為參考頒布了新規,降低個人生物識別數據收集和處理過程中的風險。

簡單的「拿來主義」在中國顯然行不通。「我們可以選擇GDPR中適合國情的部分予以借鑑。比如從業機構處理和使用數據需要徵得用戶同意」,鄭方認為,GDPR規定「控制者需證明數據主體已經同意對其個人數據進行處理,且數據主體應當有權隨時撤回其同意。」因此,用戶有權要求網際網路服務商停止信息採集,也有權選擇不被營銷廣告打擾。

同時,儘快完善國民生物特徵資料庫也是良策之一。

鄭方認為,首先應建立覆蓋全國的人口資料庫,並適時升級為居民身份核驗庫,逐步建立管理平臺、申請領證(申領)平臺、認證平臺和追溯平臺,構建起「一庫四平臺」的頂層架構。由國家有關部門統一管理,杜絕數據洩露。

「國家級的居民身份核驗庫建立之後,有需求的機構可以在相關部門的管理和督導下,與核驗庫的運營機構建立合作關係,研發和輸出經由脫敏、加工、過濾後的產品,將一切納入監管之中。」楊楠說。

曠視科技副總裁謝憶楠認為,在這一過程中,要深化政企合作,加強行業組織、科研機構等作用,推動頭部企業成為相關資料庫及其使用標準的積極響應者、貫徹者。

李偉認為,要處理好安全與創新的關係,既不能盲目冒進,神化生物識別技術的作用;也不能裹足不前,漠視其優勢。要加強技術研究,深入分析不同技術在效率、安全性上的優劣,尤其要重視技術中性對公眾隱私、國家安全的影響,趨利避害。在風險可控的前提下選取較為成熟、安全性高的技術穩妥應用。

相關焦點

  • 人臉識別存在法律風險該如何防範?
    「人臉識別系統」集成了人工智慧、機器識別、機器學習、模型理論、專家系統、視頻圖像處理等多種專業技術,同時需結合中間值處理的理論與實現,是生物特徵識別的最新應用,其核心技術的實現,展現了弱人工智慧向強人工智慧的轉化。   廣義的人臉識別包括構建人臉識別系統的一系列相關技術,如人臉圖像採集、人臉定位、人臉識別預處理、身份確認以及身份查找等。
  • 人臉識別和生物識別在支付領域上的風險
    人臉識別目前應用場景不多,早期人臉識別主要用於密集人群中的人數測定、人像攝影時輔助對焦等場景,只需要識別出「是人臉」,而不必分辨出「是誰」;但隨著大數據和人工智慧等技術的發展,其識別準確率也日漸成熟,如門禁與考勤識別,銀行、電信、公安、海關等實名驗證,逃犯追捕等諸多場景中。其特徵是無需識別對象主動配合,信息採集難度低,個人的人臉信息可被隨意獲取,基本不是私密信息。
  • 人臉識別技術風險的法律防範
    人臉識別技術通常包括人臉檢測、人臉跟蹤、人臉比對三個部分。該技術的研究始於20世紀60年代,隨著計算機技術和光學成像技術的發展在80年代後得到提升,而真正進入初級應用階段則在90年代後期,並且以美國、德國和日本的技術實現為主。
  • 人臉識別技術存在重大網絡安全風險
    2017年春運人臉識別在部分火車站進站檢票時開始應用,引起很多關注,部分媒體也報導了生產商的核心技術掌控在日本企業手中,以及由此引發的對信息安全的擔憂。前不久央視「3·15」晚會現場對於人臉識別的實驗演示,再一次將網絡產品的人臉識別的風險清晰展示在觀眾面前。
  • 「人臉識別」,我們還能承受多少風險?
    這項技術正在為科技行業和政府創造一個先手機會,如何用一種重點突出而又切實具體的方式來處理人工智慧的道德和人權問題,而它們能否抓住這個機會,就要看它們怎樣決定來監管人臉識別技術了。對於大多數人來說,最初簡單場景的應用,如編目和搜索照片,現在已經變得日益複雜。很多人已經習慣了依靠人臉識別,而不是用密碼,來解鎖iPhone或Windows筆記本電腦。
  • 兩元錢能買到上千張人臉照片 人臉識別存在信息洩露風險
    目前,在生活中使用最多的生物識別技術是指紋識別和人臉識別  ● 人臉信息屬於個人信息中的敏感個人信息,其一旦洩露或者被非法使用,可能導致人臉的主體受到歧視或者人身、財產安全受到嚴重威脅或危害  ● 在法律法規已有明確要求的「強認證」場景(如公共安全、金融支付)下,使用人臉識別完成精確的身份比對和驗證,有其必要性和合理性,但也要對人臉數據進行妥善保管,不得洩露、濫用。
  • 人臉識別技術面臨的困難與挑戰
    但可以確定的是,人臉數據的洩露,所帶來的潛在的安全風險,遠比手機號與帳戶信息的洩露更為嚴重。  人臉識別技術存隱患  近幾年,人臉識別技術日益創新突破,在各產業之間落地的應用項目有目共睹,但以目前技術來說仍然跟不上瞬息萬變的社會變化和市場需求,例如今年新冠病毒突襲下,導致我國大批人臉產品無法在戴口罩的情況下進行掃描識別,事後各大廠商立即更新算法,但從此時也提醒了我們,面對未來的不確定性,技術不能一成不變,需要不斷創新與突破。
  • 遍地開花的人臉識別,被忽視的巨大風險
    圖 / 視覺中國10月1日,我和勞東燕在清華園東南邊的書店,就「人臉識別」展開了一次談話。我們聊到技術的風險與反噬性,聊到有待完善的法律框架,也聊到身處龐大系統中的普通個體可以如何「掙扎」。她反覆表達了自己的擔憂,人臉識別技術如若不加以規制,將會影響整個社會的走向。以下是對話內容:人物:你是怎麼關注到人臉識別技術帶來的風險的?
  • 擔憂人臉識別技術有照片洩露風險 如何應對?
    當你的臉變成 一串「密碼」之後……不少人對於人臉識別技術的應用表示擔憂,主要認為其有照片洩露的風險。照片洩露就是人臉識別技術的「鍋」嗎?面對洩露風險,我們要如何應對?伴隨著人臉識別技術的發展,其爭議始終存在。
  • 生物識別技術:歷史、風險和未來
    一個利用指紋等「生物密鑰」來進行身份識別和管理的時代被全面開啟了。生物識別技術的發展在之後的一百年中,指紋識別的技術被不斷改進,其應用也得到了不斷的深化。與此同時,人們還發現人臉、虹膜、聲紋、DNA等都有和指紋類似的獨特、唯一的性質,可以被用來進行人的身份識別和管理。
  • 探討人臉識別支付在AFC系統的應用
    人臉識別是基於人的臉部特徵信息進行身份識別的一種生物識別技術,結合了計算機圖形學、可視化技術、機器學習、模式識別、專家系統、數字圖像處理等多種專業技術。  人臉識別技術在銀行、超市、安保等行業應用廣泛,但是在地鐵AFC行業尚未大規模採用。本文根據人臉識別技術特點及AFC系統使用要求,主要從地鐵過閘和購票兩個環節,來談一下人臉識別技術的解決方案。
  • 兩元能買上千張人臉照片 專家:人臉識別亟待完善法律防止濫用
    目前,在生活中使用最多的生物識別技術是指紋識別和人臉識別  人臉信息屬於個人信息中的敏感個人信息,其一旦洩露或者被非法使用,可能導致人臉的主體受到歧視或者人身、財產安全受到嚴重威脅或危害  在法律法規已有明確要求的「強認證」場景(如公共安全、金融支付)下,使用人臉識別完成精確的身份比對和驗證,有其必要性和合理性,但也要對人臉數據進行妥善保管,不得洩露、濫用。
  • 識別監管更精準 風險防控更科學
    服務海南自貿港建設,我省建立全天候進出島人流、物流、資金流監管系統識別監管更精準 風險防控更科學海南日報記者 邵長春通訊員 羅歡 韓智 潘彤彤9月2日上午,海口新海港,一輛輛貨車滿載貨物
  • 人臉識別技術濫用存在哪些風險?在法律上又該如何築牢防線呢?
    隨著國內「人臉識別第一案」日前宣判,人臉數據信息保護問題再一次引發關注和討論。11月20日,杭州野生動物世界因強制刷臉入園,被判賠償當事人郭先生1038元。緊隨其後的21日,合肥市公安局也在政務平臺上答覆了市民對刷臉門禁是否會洩露信息的擔憂。與快速應用的人臉識別技術共同發展起來的,是人們隱私保護意識的不斷增強。那麼,人臉識別技術濫用存在哪些風險?
  • 人臉識別 有溫度更要守法度
    專家介紹,目前人臉數據一般存儲於人臉識別應用的運營方或技術提供方的資料庫中。無論是在本地伺服器還是在雲端,一些企業缺乏有效的安防措施。一旦伺服器遭到入侵,人臉數據就面臨著洩露風險。事實上,對人臉識別的爭議已在全球多國出現,處於風口浪尖的科技巨頭首當其衝。
  • 反人臉技術並非壞事 促進人臉識別技術進化和成熟
    人臉識別技術作為十大突破性技術之一,可見其無法比擬的優勢和發揮的商用價值,近幾年,基於人臉識別技術的產品和解決方案層出不窮,隱隱有著百花齊放,百家爭鳴的發展趨勢,所應用的場景也涉及到了各行各業,尤其是在支付、驗證、通行等等場景應用尤其突出。科技向善,隨著人臉識別技術的深入和成熟,「反人臉識別技術」也逐漸頻繁的出現,僅用照片、模型等方式方法幹擾人臉識別技術的新聞也不少。
  • 近紅外技術前景廣闊 人臉識別場景日趨多元
    事實上,不論是銀行、支付安全、生活娛樂,或是安保、門禁、考勤等領域,都逐漸將人臉識別技術加入其中。  入駐青瓦創業基地的企業和團隊成員,每天都靠「刷臉」打卡上下班。在這裡工作的人,只要一靠近門口,攝像頭便能自動識別並開門,同時進行籤到及進出時間管理、考勤等。這套人臉識別門禁系統――「智能前臺」,正是出自青瓦基地裡的創業企業廈門帕米科技有限公司之手。
  • 什麼是人臉識別?你真的了解人臉識別技術嗎?
    由於人工智慧的發展,近年來,基於海量數據的人臉識別技術被廣泛應用於各個領域。火車、地鐵通道、人臉通道、微郵服務、一些工作人員測繪設施等都是人臉識別技術的特殊應用。要了解人臉識別保護個人信息的難點,首先要了解人臉識別技術被廣泛應用的原因及其適用範圍,這樣才能對人臉識別技術保護個人信息進行法律監督。
  • 人臉識別技術廣泛應用,是推進社會治安管理還是加速信息洩露?
    現如今人臉識別技術大範圍應用,智能門鎖、手機開鎖、釘釘打卡等全都離不開面部識別,在技術的迭代升級中,指紋解鎖逐漸被無接觸式的人臉識別取代。在某種意義上,是現代化進程的加速邁進。在《中國新聞周刊》的報導(《人臉識別十字路口:臉的恐慌》),有專家稱,「 中國人每天要暴露在各種攝像頭下超過500次。
  • 新技術變成「危險武器」 誰在濫用人臉識別?
    近期,濟南一位看房者戴著頭盔進入售樓處,這樣滑稽的行為,揭開了一條關於技術開發者、使用者和受益者的利益鏈條,人臉識別沒有成為服務消費者的技術,反而成為房地產開發商精準營銷的工具。 對於用戶而言,如果風險無法避免,只能選擇全面避開人臉識別技術。 技術的開發者和推廣者也會陷入沮喪,技術並不是一開始便帶有惡意。