人臉識別60年︱歐盟通用數據保護條例真的算「史上最嚴」嗎

2020-12-12 澎湃新聞
2018年5月,歐盟《通用數據保護條例》(GDPR)正式生效。此後,法國對Google開出了高達5千萬歐元的罰單,認為其服務條款不夠透明,違背了取得用戶「有效同意」的原則。瑞典數據監管機構也依據該條例對一所高中開出罰單,認為使用人臉識別記錄出勤違背了「必要性原則」。

據統計,截至2020年1月,歐盟各國數據監管機構接到的違規舉報超過16萬件,而各國開出的罰單總金額達1.14億歐元。

GDPR被譽為「史上最嚴格數據保護法」,也影響了其後多國的數據立法,包括中國剛剛出臺的《個人信息保護法(草案)》。但面對更為敏感的生物識別數據,比如人臉數據,GDPR仍存在局限性。比如,它未能覆蓋「數據生命全周期」,原始數據採集過程中的風險性就被大大低估了。

本文節選自紐約大學AI Now研究中心報告「Regulating Biometrics:Global Approaches and Urgent Questions」(生物識別技術監管:全球舉措及關鍵問題)的第四章。為便於理解,我們對原文進行了必要的補充和修改。

2004年,歐盟頒布了一項法律,要求各成員國在公民的護照和旅行文件中存儲面部圖像和指紋信息。大約同時,歐盟建立了一個大型資料庫,涵蓋申根地區所有尋求庇護者和申請籤證者的生物識別數據。

不久,生物識別的應用在公共部門和私人企業得到了進一步擴張,用於控制人流、公司的電子門禁,以及校園監控。技術的優越性得到了歐洲委員會的承認,但後者提醒,生物識別數據應被視為「敏感」信息,它包含個人的健康狀況、種族等敏感信息,能識別人的身份,能輕易與其他信息扣連,且不可更改。

面對上述風險,法律層面的監管一度「缺位」,無論是一般意義上的數據保護法,還是大多數國家的立法,都未有專門針對生物識別數據使用和處理的具體規定。技術開發和應用的同時,法律相對滯後。

為彌補其間差距,一些國家的數據保護監管機構開始制定生物識別數據的使用框架。比如,強調數據的敏感性、資料庫維護的風險性,以及 「功能潛變」

(編者註:function creep,即出於某一特定目的採集的數據被用於其他目的)

的可能性,還包括使用目的和手段之間是否相稱

(編者註:proportionality,相稱性原則,即需考察為達成某一目的,是否有必要採用生物識別技術)

。然而,這些法案在實際操作時留下了諸多不確定空間。

2016年,歐盟推出了《通用數據保護條例》(General Data Protection Regulation,下文簡稱GDPR),適用於各成員國,涵蓋了生物識別數據在公共和私人領域的應用。此外,歐盟還通過了《數據保護執法指令》(Data Protection Law Enforcement Directive,下文簡稱DP LED),專門針對執法部門,當執法者需為預防、監控、調查或起訴犯罪行為使用個人數據時,需遵守該指令。

DLA Piper律師事務所統計了2018年5月至2020年1月期間,各國數據監管機構依據GDPR所做出的判罰,其中,荷蘭、德國、英國位列數據洩露案件數的前三位。圖片來源:DLA Piper統計報告。

歐盟如何監管生物識別數據?

GDPR和DP LED首次對生物識別數據作出定義:「與自然人的身體、生理或行為特徵相關、經特定技術處理而產生的個人數據,這些個人數據可用於確認該自然人的獨特身份,如面部圖像或皮膚(指紋)數據。」

值得注意的是,

對「特定技術處理」(specific technical processing)的強調排除了那些存儲和保留在資料庫中的「原始」數據,如視頻監控拍到的人臉或錄音,以及用戶發布在網站、社交媒體上的原始信息。

此外,GDPR提及,「照片處理不應被系統地視為處理特殊類別的個人數據……」私人的視頻片段也不被視作生物識別數據,除非它經過特殊技術處理,可以識別出個人。

雖然GDPR規定,禁止「以唯一識別為目的進行生物特徵數據處理」,但這項禁令仍存在許多例外。比如數據「明顯公開」,或「出於重大公共利益的目的」

。這些「例外情況」大量存在,模糊不清

,實際上,GDPR允許了很多場景下生物識別數據的處理和技術應用。作為一個基礎性框架,GDPR也提及,各個成員國可以引入進一步的法規或禁令。

而DP LED則對執法機關使用生物識別數據提出了限制,只有在以下三種情況下執法機關可以使用生物識別數據:獲得了法律授權、保護關鍵利益,或處理已被數據主體公開的數據。

當新技術的應用「可能導致高風險」時,或大規模處理特定類型的個人數據時, GDPR和DP LED要求啟動

「數據保護影響評估」(Data Protection Impact Assessments, DPIA)

。此外,當公共部門系統性監控某個可公開進入的區域時,同樣需要啟用這種評估。

「數據保護影響評估」是一個綜合性評估,包括數據處理的風險性、必要性,以及目的與手段是否相符。某些情況下,當私人機構或公共部門想要使用生物識別技術時,他們需要事先向當地或本國的數據監管部門諮詢,獲得許可。

英國信息委員會辦公室(Information Commission Office)列出的「數據保護影響評估」的基本步驟,其中包括向有關部門諮詢、評估必要性、評估手段與目的是否相符、風險評估、考慮降低風險的手段等。ICO表示,該評估應先於技術的應用。圖片來源:ICO官網

此外,生物識別數據的處理和技術應用需尊重公民的基本人權和自由,當隱私權或個人數據保護權受到侵害時,與人權相關的法律框架也會被啟用。

以下各節概述從這些監管嘗試中獲得的主要經驗教訓,討論了它們的有效性,並重點介紹了未來監管應吸取的經驗。

模糊的定義:原始數據在採集階段的風險性被大大低估

GDPR和DP LED中,生物識別數據被定義為「經過特定技術處理」的數據,

(編者註:由於過多強調數據的處理環節)在採集和存儲環節,除了獲得用戶同意、滿足必要性等原則之外,相較於其他一般意義上的個人數據,生物識別數據並不享有更高級別的保護

正因如此,生物識別數據在採集環節的風險性被大大低估了。一些理應受到保護的敏感數據由於尚未被處理

(編者註:即尚不符合GDPR對生物識別數據的定義)

,而無法被保護。這一點尤為關鍵,特別在執法部門使用時,透明度受限,數據可能在不通知有關個人或公眾的情況下使用。這是GDPR和DP LED法律文本中的漏洞,公司和政府可以收集大型圖像資料庫,這些數據以後可能用於執法目的。

(編者註:2020年初爆發的Clearview AI公司曝出醜聞,該公司從各大主流網站和社交媒體平臺抓取了30億張圖片,並向至少600家美國執法機構提供了人臉識別技術,通過其系統,只需上傳某個人的面部照片,就可以查看他/她在網上發布的公開照片,及照片地址連結。)

2020年,Clearview AI公司引發了巨大爭議,通過一張人臉信息就可以識別出其身份和電子足跡,這也讓更多人意識到現有法律框架的局限。圖片來源:Clearview AI官網。

這也與歐洲人權法院的判例法相違背,後者一再強調,從資料庫中捕獲、收集和儲存人類特徵信息的做法妨礙了個人私生活被尊重的權利。此前,英國人Gaughran就將英國政府告上歐洲人權法庭,

(編者註:2008年Gaughran因酒駕被捕,在警局留下了照片、指紋和DNA信息。其DNA樣本在2015年被銷毀,但其DNA資料、指紋信息和照片仍被無限期保留在警方記錄中。Gaughran將英國告上法庭,要求警方銷毀個人數據或退還給自己。)

歐洲人權法院將人臉識別和面部特徵比對等技術考慮在內,最終判決「保留申請人的DNA檔案、指紋和照片等構成了對他私生活的幹擾。」

更恰當的定義應能為人類特徵數據提供法律保護,這些數據可用於身份識別目的,或可供自動化識別過程,

法規還應對數據的存儲提出限制

。我們嘗試提出另一種生物識別數據的定義:所有滿足以下條件的個人數據:(a)直接或間接與人類獨特的生物或行為特徵有關的數據;(b)可使用或可通過自動化手段使用的數據;(c)可用於身份識別、身份驗證或驗證自然人主張的數據。」

生物識別「禁令」的模糊性

現有的法律未能對不同的生物識別系統進行區分,也未能對不同的數據處理方式設置針對性規範。例如,雖然GDPR的第9.1條列出了一些禁止使用和處理的規定,但它並沒有區分「一對一」 的「驗證」

(編者註:1:1,比如通過電子門禁時,確認進入者身份)

和「一對多」的「識別」

(編者註:1:N,將未知人員的生物特徵樣本與資料庫中的上萬個模板進行比較,確認未知者身份,比如張學友演唱會應用了人臉識別技術來識別逃犯 )

目前,歐洲委員會和許多國家的數據監管部門表示,驗證比識別的風險性小,因為驗證不需要資料庫。

一對多的身份識別存在額外的風險,包括在資料庫中大規模收集和存儲生物識別信息、基於概率的匹配(這引起了人們對準確性和誤報的擔憂),以及對隱私監視的擔憂。但GDPR和DP LED並未區分這兩種功能,這也造成了技術開發者的顧慮,對於希望投資生物識別驗證技術和隱私增強方法的公司來說,這些操作存在法律上的不確定性。

恰當的監管應該更積極地區分不同處理方式的風險性差異,禁止那些構成真正風險的技術,鼓勵那些有可能提供真正隱私和安全保護的功能。

什麼是「例外情況」?

最後,法律中含糊的「例外情況」也存在漏洞,為一些高風險的技術使用方式打開了大門。

GDPR對「例外」的定義極為寬泛,允許基於「重大公共利益」進行生物識別數據處理

(編者註:由於未對「重大公共利益」進行具體界定,它會成為一個寬泛的「筐」)

由於對「例外」情況的界定籠統寬泛,目前尚不清楚其是否可作為授權公共部門或私人機構部署人臉識別技術的法律依據(例如,在大型體育場活動中)。GDPR和DP LED無法回答這些問題的,還需要制定更針對性的法律。

(作者Els Kindt是比利時魯汶大學信息與智慧財產權法中心的博士後研究員。本系列經紐約大學AI Now研究中心授權翻譯發布,更多內容可閱讀官網的報告全文。)

製圖:白浪

(本文來自澎湃新聞,更多原創資訊請下載「澎湃新聞」APP)

相關焦點

  • 人臉識別60年︱校園、課堂、售樓處,人臉識別應該有禁區嗎
    2019年,瑞典數據保護局對一所高中開出罰單,認為校方使用人臉識別技術進行考勤違背了「必要性」原則,人臉信息的敏感性更高,校方完全有其他低風險的選擇。這也是歐盟通用數據保護條例GDPR通過後的首張罰單。
  • 【GDPR】史上最嚴的數據保護法規
    本期專題:【GDPR】本文原標題:史上最嚴的數據保護法規GDPR是什麼?自5月25日GDPR正式實施以來,GDPR已經成為了網絡安全保護領域的熱點話題,當然這主要是因為GDPR是全球數據保護的最大法規,今天給大家介紹下什麼是GDPR。
  • 史上最嚴的個人數據保護條例來了!看完你就明白GDPR是什麼了
    GDPR是英文「General Data Protection Regulation」的縮寫,通常翻譯為「通用數據保護條例」。它由歐盟推出,目的在於遏制個人信息被濫用,保護個人隱私。GDPR在歐盟法律框架內屬於「條例」,此前已經在歐洲議會(下議院)和歐盟理事會(上議院)通過,可以直接在各歐盟成員國施行,不需要各國議會通過。目前歐盟有28個成員國,大約有5億多人可以直接得到GDPR的保護。
  • 今年高考史上最嚴 「人臉識別+指紋驗證」
    今年高考史上最嚴 「人臉識別+指紋驗證」時間:2016-05-26 07:49:30來源:西安新聞網-西安晚報作者:編輯:啟動「人臉識別+指紋驗證」、增加監考力量、嚴禁戴手錶入考場……多地出招保障高考考場紀律。  組織作弊最高可判7年有期徒刑  2015年11月1日起正式實施的刑法修正案(九)明確,在法律規定的國家考試中,組織作弊的將入刑定罪,最高可處七年有期徒刑。作為「作弊入刑」後的首次高考,不少媒體都將今年的考場紀律稱為「史上最嚴」。
  • 「史上最危險的發明」?美480位人臉識別專家爭議道德倫理
    近期,《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。一些科學家正在分析人臉識別技術固有的不準確和偏見,對其背後存在的歧視發出警告,並呼籲加強監管、提高技術透明度。《自然》雜誌對480位從事人臉識別、人工智慧和計算機科學領域研究的研究人員的調查顯示,人們對人臉識別研究的倫理學普遍存在擔憂,但也存在分歧。
  • 瑞典人臉識別進校園被判違反GDPR 歐盟半年內或將迎來立法
    《通用數據保護條例》(GDPR)的罰單,金額為20萬瑞典克朗(約合人民幣14.8萬元)。 「人臉識別技術還處在起步階段,但是發展非常迅速,我們看到了建立一個適用於所有參與者的清晰準則的巨大需求。」瑞典DPA負責人Lena Lindgren Schelin表示。 不僅是在瑞典,英國數據保護監管機構(ICO)也剛剛對一起人臉識別相關事件發起調查。
  • 美企:人臉識別系統 中西看法不同
    美國市場調研公司eMarketer網站10月21日文章,原題:人臉識別的文化衝突:中國與西方選擇不同道路  在美國和西方許多地方,人臉識別系統,包括蘋果、谷歌、亞馬遜、微軟和臉書等公司的人臉識別系統,引發消費者激烈爭論,並因其能夠在未經用戶同意的情況下掃描人臉並識別用戶身份,而遭到隱私權倡導者的猛烈抨擊。
  • 上海迎來「史上最嚴」垃圾分類條例,騰訊手機管家提醒注意相關騙局
    上海迎來「史上最嚴」垃圾分類條例,騰訊手機管家提醒注意相關騙局 2019年06月27日 15:34作者:網絡編輯:宏偉   7月1日,上海將正式開始實施《上海市生活垃圾管理條例》,在規定了細緻的垃圾分類規則的同時,也發布了相應的懲罰措施:個人如果混合投放垃圾,最高可罰款200元;單位混裝混運,最高可罰5萬元,而且違規還將列入徵信,被網友稱為「史上最嚴」垃圾分類條例。
  • 歐盟首個數據保護條例GDPR生效,你可能需要這份中文版的全文...
    經過歐盟議會長達四年的討論,歐盟《一般數據保護條例》(General Data Protection Regulation,簡稱GDPR)終於將在2018年5月25日生效。 在一些媒體的報導中,這一保護條例被稱為「史上最嚴數據保護條例」。
  • 人臉識別時代要不要說「不」
    作為AI技術的最典型應用,人臉識別持續成為爭議的風口。  一面是技術的不斷突飛猛進:作為一項前沿技術,人臉識別被用於安防、交通等領域,效果立竿見影,如今已經在支付轉帳、實名登記、解鎖解密等場景中廣泛應用,人們也確實享受著人臉識別技術進步所帶來的便利。
  • 歐盟「史上最嚴」數據保護法 GDPR 生效;騰訊上線「下飯視頻」;中...
    歐盟「史上最嚴」數據保護法 GDPR 生效昨日,通用數據保護條例(The EU General Data Protection Regulation,華為在公告中稱,為了更好的保護消費者的體驗,避免刷機後引入的一系列問題,決定對所有 2018 年 5 月 24 日後新上市產品停止解鎖碼服務,已經上市產品自公告發布之日起 60 天后停止解鎖碼服務。在去年 9 月 7 日,華為已經關閉 SD 卡升級包的獨立下載,升級方式統一變為 OTA 在線更新。
  • 人臉識別「熱」中的冷思考:道德倫理問題值得深思
    一些科學家正在分析人臉識別技術固有的不準確和偏見,對其背後存在的歧視發出警告,並呼籲加強監管、提高技術透明度。  《自然》雜誌對480位從事人臉識別、人工智慧和計算機科學領域研究的研究人員的調查顯示,人們對人臉識別研究的倫理學普遍存在擔憂,但也存在分歧。
  • 人臉識別「熱」的冷思考:道德倫理問題發人省
    從厄瓜多的基多到肯亞的奈洛比,從俄羅斯的莫斯科到美國的底特律,數百個城市安裝了有人臉識別系統的攝像頭,有時該系統可提供數據,作為應對犯罪的「安全城市」或「智能城市」解決方案的一部分。人臉識別系統已經給我們的城市帶來諸多方便。然而,在許多國家,對人臉識別的抵抗聲也在不斷高漲。研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。
  • 「人臉識別第一案」宣判,為何說本案對社會具有風向標意義?
    日前,杭州市富陽區人民法院敲響法槌,備受關注的「人臉識別第一案」宣判。杭州野生動物世界被判賠償當事人合同利益損失及交通費共計1038元,刪除其辦理指紋年卡時提交的包括照片在內的面部特徵信息。由於涉人臉識別訴訟在國內並無先例,因此該案也被寄予了遠超個案的期待。
  • 人臉識別十字路口:臉的恐慌
    作為AI領域目前最成熟的技術,人臉識別正深入教育行業,在刷臉籤到、學員身份查詢、校園安防、課堂檢測等諸多場景應用。一個繞不開的疑問是:人臉識別在校園裡使用的邊界到底是什麼?在儲朝暉看來,人臉識別技術在校園唯一適合的場景就是安防,用於識別非學校人員,保護學生安全,其餘場景都用不上。「技術對於教學只能是錦上添花,不能替代教與學的位置。」儲朝暉對《中國新聞周刊》說。
  • 困於人臉識別
    而勞東燕最擔心的是數據風險。她無法想像「物業有何動力維護和保護這個數據系統」。她問:「數據由誰保管?怎麼保護?」對方給出三種方案:存放在物業的區域網,交給便民服務中心,公安部門也可以保管。那時,已經有居民錄入人臉信息,但存放方案始終未有定論。這些方案本身也反映了國內個人信息保護的現狀——在使用和管理數據上,公權力和商業機構間並沒有嚴格界限。這些加劇了勞東燕的擔憂。
  • 【深度】人臉識別泛濫,誰有權拿走你的人臉數據?
    值得一提的是,並非所有使用人臉識別技術的設備都會收集人臉原始照片。一些技術較為領先的公司會提取面部的特徵值來替代原始照片,這些特徵值是匿名性數據,經過加密處理後即使被洩露也無法重新定位至某個具體的人。採用這種方式能夠在一定程度上實現對於個人信息的保護。但現實情況是,當大公司們將深度學習算法框架開源之後,人臉識別技術的門檻已經大大降低。
  • 刷臉進小區真有必要嗎? 記者走訪杭州幾個使用人臉識別的小區
    日前,《杭州市物業管理條例(修訂草案)》提出「禁止強制業主通過指紋、人臉識別等生物信息方式進入小區」。這幾天,錢江晚報持續關注人臉識別話題,繼昨天走訪紹興樓盤安裝人臉識別區分客戶後,記者來到杭州一些小區。如今越來越多小區安裝人臉識別系統,而可能帶來的信息洩露風險,引起了很多人的關注。我們的臉在裸奔嗎?
  • 刷臉進小區真有必要嗎?記者走訪杭州幾個使用人臉識別的小區……
    你家小區或者鄰家小區,有沒有裝上人臉識別進出系統?有人覺得方便,不用帶卡,刷個臉就能進門。有人表示擔憂,錄入的信息會不會洩漏,隱私要如何保護?日前,《杭州市物業管理條例(修訂草案)》提出「禁止強制業主通過指紋、人臉識別等生物信息方式進入小區」。
  • 2元買千張人臉照,換臉技術成為詐騙新手段
    換臉視頻全面入侵,人臉識別扛得住嗎? 對於換臉視頻,支付寶安全中心曾在2019年對此作出回應,支付寶方面稱,由於目前金融識別採用的多是三維人臉識別,即通過現實人物的動作來多點面的採集識別信息,因此基本不可能被換臉視頻突破。