好用≠濫用,人臉識別的公共應用邊界在哪裡?

2020-11-29 鈦媒體APP

圖片來源@視覺中國

文丨腦極體

人臉識別技術的廣泛普及應用,已經是現在不爭的事實了。我們對人臉識別在相關安防、出行、金融、安全等領域的產業現狀也有過諸多介紹。

前一陣我們還就「美國開發者用人臉識別技術去對抗執法警察」的話題,討論了AI技術的低門檻造成私人濫用人臉識別的社會風險問題。這使得繼續討論人臉識別的應用風險看起來有些老生常談,但是我們似乎忽視了一個更為嚴重的問題。

相比起國外普通民眾對人臉識別技術保持警惕,我們這邊對人臉識別技術的寬容度實在是有點太高了。以至於一些地方的公共場所和企業商家將「刷臉」當作數位化升級的賣點大幹快上,而完全忽略了對用戶的人臉隱私安全,甚至將人臉識別當作企業營銷和「大數據殺熟」的工具。

現在,作為普通消費者,我們不僅面臨所有線上行為數據隱私的失守,也面臨生物數據的「失身」。

但這並不應該是一場理所當然的「無隱私社會」的狂歡,我們也不應該因為貪圖便利就輕易讓度自己最後的一點隱私,至少要在這些機構、企業拿走我們的人臉數據的時候,質問一句:「請問你將如何使用我的數據,又將保證我的數據安全?」

這一次我們要討論的關鍵問題就是:人臉識別的公共應用邊界到底在哪裡?

人臉識別第一案:我已經錄了指紋,憑什麼要換成刷臉

杭州市民郭兵的一紙訴狀,將「人臉識別技術應用的合法性」這一問題真正帶進公眾視野。

去年4月,郭兵購買了杭州野生動物世界的雙人年卡,當時確定的是指紋識別的入園方式,郭兵也給園區留下了手機號碼,並錄入了指紋。而沒多久,園區就改換了一套人臉識別系統,並單方面要求郭兵和其他購買年卡的遊客改成人臉識別。

身為法學副教授的郭兵認為園區擅自更改合同內容,已經違法,在去年10月正式向法院提起訴訟,要求確認野生動物世界店堂告示、簡訊通知中相關內容無效,並以野生動物世界違約且存在欺詐行為為由要求賠償年卡卡費、交通費,刪除個人信息等。

不久前,法院作出一審判決,認定園方敗訴,需賠償郭兵的合同利益損失以及交通費損失,同時刪除辦理指紋年卡時提交的包括照片在內的面部特徵信息,但法院沒有支持郭兵的其他訴訟請求。

這次判決帶出的最核心信息就是法律主張了郭兵本人對自身人臉信息的隱私權。但法律僅僅只是回應了郭兵本人刪除刷臉信息的訴訟請求,並沒有否定園方使用人臉識別技術本身的正當性,而且在判決中明確了「野生動物世界在經營活動中使用指紋識別、人臉識別等生物識別技術,其行為本身並未違反前述法律規定的原則要求」。

簡單來說,園區單方面更改合同,實屬違約,但人臉識別,可以正當使用。也就是說未來野生動物世界僅只保留「年卡刷臉」這一種入園方式,那麼年卡用戶也就沒有其他選擇了。

「刷臉」入園,有沒有好處呢?對於園方和遊客來說都有好處的。原本的年卡入園,需要根據年卡上遊客本人的照片供檢票人員查驗,但由於照片磨損、照片非近照、相貌變化等問題,可能會出現辨認不清的問題,也會出現有人假冒使用等問題。人臉識別自然可以解決這一問題,使得錄入過臉部信息的年卡遊客甚至不用攜帶年卡都可以入園。

但是,園區已經有一套指紋識別入園系統了。按照《網絡安全法》第41條明確規定:網絡運營者收集、使用個人信息,應當遵循合法、正當、必要的原則。

現在指紋就能識別遊客身份,防止年卡被冒用,那麼,再來一套刷臉技術,實在不符合收集公民個人信息的「必要原則」和「最小夠用」標準。

顯然,杭州野生動物世界成為這場人工智慧風口上的「趕時髦者」。指紋識別系統雖然好用,但略顯老套,人臉識別可是又先進又好用,所以,園方在忘記了還有一大批消費者還有指紋系統使用權的時候,就主動為消費者切換了這套刷臉系統。

也許到現在,花費心思進行升級的園方還會覺得委屈,為何還有用戶不僅不為這樣的技術升級叫好,反而去反對我們。顯然,園區忽視了一個最根本的問題:你沒有給人們提供選擇的自由。

售樓處的人臉識別「殺熟」,催生戴頭盔看房

最近,一則「戴著頭盔去售樓處看房」的視頻在網上大火,視頻的標題就是「為保護個人信息,戴著頭盔去看房」。

就去看個房跟個人信息扯上關係了,不去填個人信息不就行了嗎?原來根據房產業內人士的說法,很多的售樓處都用上了「人臉識別技術」,只要被售樓處攝像機拍到的到訪客戶都會被「忠實」地記錄下來,雖然這個時候可能並不知道你是誰,但未來一旦你真得要在這裡買房成交的時候,他們就知道你是一名「老客」還是一名「新客」。

這裡面有什麼區別呢?據這些行內人透露,很多房企採取著兩種「分銷模式」,一種是自有營銷宣傳,吸引「自然用戶」到店成交,一種是通過中介渠道介紹「關係客戶」到店成交。一般來說,通過中介渠道介紹的客戶都可以享受相應的渠道優惠,少則一兩萬多則數十萬不等。能享受到這些優惠的客戶必須是第一次由中介帶領進店。而如果是之前有過自己到店看房並被人臉識別系統拍下,那麼就被視為「自然用戶」,即使再去找中介,也不能享受這些渠道優惠了。

房企的動機自然就是為了防止飛單而多付渠道中介費,而採取的「先進」技術手段。這套人臉識別系統有多好用呢?根據一些技術方案提供商的介紹,一般來說,只要到訪者進入售樓處,系統就可以根據識別並預測看房者的行動路徑,框選其必經路線,設置攝像頭進行抓拍,即使是帶上墨鏡、口罩也不影響二次識別的準確率,甚至一些技術公司為提高戴口罩的識別準確率,還用上了人眼虹膜識別。

等看房者確定買房,用「人證一體機」進行身份驗證時,系統後臺就會將身份證信息綁定到此前的記錄上,「相當於人、人臉、手機號、所有來訪記錄進行比對」,這樣就把一個人的「老客」身份鎖定好了,哪怕你可能之前就是來售樓處上了個廁所,哪怕夫妻雙方只有一方露過臉也不行。

最為過分的是,售樓處可以堂而皇之地用你曾經出現在售樓處的人臉信息,來判定你是否有資格享受這些優惠。當然,他們很多不會是在成交前告訴你,而是有些是在成交並答應返還相應的優惠款的時候,才給到購房者這一「無權享受優惠」的結果。這樣通常讓購房者陷入「退房扣違約金,買房成冤大頭」的尷尬境地。

房企想要實現利益最大化是無可厚非的,但如果是建立在侵犯消費者的個人信息隱私權的條件下,這一方案則是以違法為代價的,最終房企們也要被自己的聰明所誤。

用戶知情和可選擇:人臉識別公共應用邊界的基本點

回應人臉識別技術在公共應用的邊界問題,其實源自這樣一個不爭的事實,那就是除了在公共安全領域和一些特殊執法領域,人臉識別技術已經被各類機構、場所和企業無限制地使用,比如現在進入很多社區、學校、園區、寫字樓、坐車、坐飛機,刷臉已經是一種標配,甚至於快遞櫃取件要刷臉、超市存個包要刷臉,最為隱蔽的就是像售樓處、商場、商鋪這些經營性場所暗戳戳地使用人臉識別系統來記錄到場用戶的人臉信息,再通過跟消費記錄、會員登記的方式建立起全方位的用戶畫像,為企業提供營銷決策上的參考。

在這些場景下,首先要劃界的就是用戶的知情權。根據《網絡安全法》和《民法典》的規定,收集、使用個人信息,應當遵循合法、正當、必要原則,公開收集、使用規則,明示收集、使用信息的目的、方式和範圍,並經被收集者同意。

這其中最核心的原則,就是首先要告知被收集者該場地已經進行人臉識別採集,同時要經過被收集者的同意,才能保留相關採集數據。可能在大多數場合中,我們已經「不得不」同意過相關的條款,想要使用人家提供的服務(如買票驗票、APP認證、進入該場所)就必須默認這一選項。但是對於那些在不告知用戶就收集人臉數據的公司則明顯存在違法行為,消費者理應維護自身的合法權益,要求其刪除個人信息,並賠償因使用這一技術的獲利所得,甚至應該是以集體訴訟的方式進行懲罰性賠償。

其次,是給用戶以選擇權。對於已經採用人臉識別技術的主體,理應保留原有的認證渠道。就如同鐵路、機場仍然保留了人工檢票通道,那麼社區、園區等場所理應還是保留那個人工查驗或原本查驗的方式。對於邀請刪除個人信息的用戶,應當予以及時的處理。

第三,是技術使用者的權責統一。既然這些機構、企業作為使用者掌握了用戶極為重要的個體生物信息,享受了因此帶來的降本增效的好處,那麼就不僅必須要做到不故意洩露、出售和非法使用這些信息,還要在這些信息被侵害時,承擔起相應的侵權責任,給予侵權者以合理的賠償。

當然,這麼說仍然是紙上談兵,因為每一次用戶信息洩露,很難判斷是從哪一個渠道或環節洩露,每一個經營者都可以推脫責任。因此,未來這些經營者機構和企業想要上馬人臉識別技術,必須由技術提供方提供經過相關機構審查的安全認證文件,經營方也得定期進行檢查,彌補安全漏洞,像消防檢查一樣成為一個常態化措施。如果沒有條件達標,就不要輕易上馬人臉識別系統。

人臉識別僅僅作為一種技術應用,我們自然並不會一味地反對,但是作為一項涉及個人隱私、人身財產安全的公民權利,就必須要進行更為明確的條件限制和完善的使用規範。

在這裡,我們提供的原則可能會提高人臉識別的應用成本和門檻,但正是有了這些剛性約束,才能逼迫經營者不能輕易上馬人臉識別技術,更不敢濫用。

如果我們對人臉識別技術一直採用「先用了再說」的態度,而使得大眾的人臉數據一直在無序混亂的狀態下「裸奔」,那麼,未來一旦出現非常致命的安全風險,傷害的不僅是普通用戶;對於AI技術以及這些技術應用的行業,也都是非常致命的打擊。

套用「奧卡姆剃刀」的「如無必要,切勿增加實質」這一原理,在人臉識別的應用邊界上,可以說成是「如無必要,切勿增加刷臉」。

這裡有一非常典型的場景,有些公廁為了防止廁紙被多拿、偷拿,也開始嘗試「刷臉」取紙。那對於愛佔小便宜的人來說,他還會在意刷了臉就不好意思多拿嗎?難道第二次來上廁所,難道還要封殺、限流麼?不如另闢蹊徑,換個掃碼限量限次出紙的自動化方案,不也是很好的麼?

相關焦點

  • 人臉識別應用邊界何在
    新技術在生活場景中廣泛應用個人信息遭洩露引發公眾憂慮人臉識別應用邊界何在● 生物識別技術是指通過計算機利用人體所固有的生理特徵進行個人身份鑑定的技術。目前,在生活中使用最多的生物識別技術是指紋識別和人臉識別● 人臉信息屬於個人信息中的敏感個人信息,其一旦洩露或者被非法使用,可能導致人臉的主體受到歧視或者人身、財產安全受到嚴重威脅或危害● 在法律法規已有明確要求的「強認證」場景(如公共安全、金融支付)下,使用人臉識別完成精確的身份比對和驗證,有其必要性和合理性,但也要對人臉數據進行妥善保管,不得洩露、濫用。
  • 兩元錢買到上千張人臉照片 人臉識別應用邊界何在
    新技術在生活場景中廣泛應用個人信息遭洩露引發公眾憂慮  人臉識別應用邊界何在  生物識別技術  《人臉識別應用公眾調研報告(2020)》(以下簡稱《報告》)顯示,受訪者更能接受基於安防場景的人臉識別應用,如公共安全攝像頭、闖紅燈記錄系統。此外,《法治日報》記者在調查過程中發現,普通人更加關注獲取到個人信息的主體,相比較一些私企、小公司,人們普遍認為官方通過人臉識別等技術進行信息核驗的方式,在安全性上更有保障。
  • 人臉識別,應明晰法律邊界!
    對於人臉識別技術,人們早已不陌生,並被廣泛應用於安防、支付、交通、門禁等領域,滲透於大眾生活的方方面面。人臉識別技術最早應用於公共安全領域,它與大數據、人工智慧等先進技術相結合,在犯罪偵查與預防、出入境管理、安保等方面發揮了巨大作用。在金融支付方面,近年來,「刷臉」支付作為一種全新的支付方式,也正在取代掃碼支付。
  • 被濫用的人臉識別?
    回答人臉識別是否被濫用的問題前,我們先看看是誰在用人臉識別,怎麼用的。目前,人臉識別的使用者主要有以下幾類主體。一是政府機關,其使用場景主要有兩個:安防和智慧政務;安防方面,公安系統會利用人臉識別技術尋找罪犯和失蹤人口;智慧政務方面,典型的應用是線上辦理政務手續時,用人臉識別核實身份。第二類是經營、運營一些公共服務場所的企事業單位,包括車站、機場、醫院、銀行、學校等服務單位。
  • 當人臉識別對準執法者,AI的應用邊界博弈
    我們不得不面對AI在應用中的這一問題:「AI for Good」還是「AI for Evil」,更為複雜的是,一些AI技術應用,比如人臉識別,也正陷入到了新的博弈困境,比如,人臉識別技術能否成為普通人對抗強者的工具,還是說,這些AI應用必須徹底禁止就行?這恐怕並不容易能夠立刻做出回答。
  • 「人臉識別」普及需要怎樣的邊界
    「人臉識別」引發的關注和質疑由來已久。由全國信息安全標準化技術委員會等機構發布的《人臉識別應用公眾調研報告(2020)》顯示,九成以上受訪者使用過人臉識別,六成受訪者認為人臉識別有濫用趨勢,還有三成受訪者表示已因為人臉信息洩露、濫用而遭受到隱私或財產損失。
  • 誰在濫用人臉識別?
    在美國,人臉識別技術正成為侵犯人權和數據濫用的罪魁禍首,今年6月,微軟、亞馬遜和IBM相繼停止了人臉識別技術的應用。  IBM執行長克裡希納在致國會信中寫道,「IBM堅決反對並且絕不容忍將任何技術(人臉識別技術)用於大規模監視,種族貌相,侵犯基本人權和自由,或任何與我們的價值觀和原則相牴觸的目的。」
  • 「人臉識別第一案」判了!刷臉技術的應用邊界在哪裡?
    當人臉識別在單位和小區門禁中泛濫使用的境況下,浙江理工大學特聘副教授郭兵因不滿杭州野生動物世界採用人臉識別方式入園,而以侵犯隱私權和服務合同違約為由將杭州野生動物世界告上法庭。去年7月、10月,野生動物世界兩次向郭兵發送簡訊,通知年卡入園識別系統更換事宜,要求激活人臉識別系統,否則將無法正常入園。野生動物園將年卡用戶的入園方式從指紋識別再度升級為人臉識別。郭兵認為人臉信息屬於高度敏感個人隱私,不同意接受人臉識別,要求園方退卡。雙方協商未果,2019年10月28日,郭兵向杭州市富陽區人民法院提起訴訟。同年11月3日,杭州市富陽區人民法院正式受理此案。
  • 人臉識別濫用引爭議 人臉信息安全誰來保障
    落地場景多 濫用引爭議選好商品,在櫃檯前選擇刷臉支付,通過人臉識別後,只需輸入手機號碼後幾位就可完成付款——在北京一家甜品店內,不少消費者通過刷臉支付設備為所購商品結帳。「刷臉支付比手機掃碼還要便捷一些,解決了手機沒電時的支付難題。對很多不會用手機的老年人來說,刷臉支付也可以減少不便。」消費者胡榮說。
  • 濫用人臉識別存信息安全隱憂
    點完餐看一下攝像頭就能完成支付,住酒店刷臉後才能登記,上公廁用廁紙也得刷個臉才能取。隨著人工智慧的發展,人臉識別技術得到廣泛應用,「臉」的應用場景被不斷拓寬。人臉識別技術看似「高大上」,但其存在的個人生物信息被過度採集和濫用的風險也不容忽視
  • 人臉識別技術應用加速落地,該踩踩剎車了
    到了2018年,智慧型手機迎來了人臉識別技術應用的爆發,同時人臉識別將不再只是高端旗艦機的專屬標籤,帶有人臉識別解鎖的智慧型手機越來越平民化。除了個人智能終端產品之外,憑藉其在電商、安防、銀行等領域的優勢,人臉識別技術應用開始被廣泛的應用於公共運輸出行場景、線下消費支付場景、企業/住宅安全和管理場景等。
  • 人臉識別濫用風險還需警惕
    點完餐看一下攝像頭就能完成支付,住酒店刷臉後才能登記,上公廁用廁紙也得刷個臉才能取。隨著人工智慧的發展,人臉識別技術得到廣泛應用,「臉」的應用場景被不斷拓寬。人臉識別技術看似「高大上」,但其存在的個人生物信息被過度採集和濫用的風險也不容忽視。
  • 濫用存風險,人臉識別應用需要有尺度
    智能製造網訊 不用帶鑰匙,刷臉就能開門;不用帶錢包,刷臉就能支付;不用再打卡,刷臉就能考勤……如今,人臉識別在人們生產與生活中的應用,正變得越來越廣泛、越來越多樣。而刷臉的日益普及,雖然給人們的生活帶來了諸多便捷性,但與此同時也暴露出不小的信息安全隱患。在此背景下,未來人臉識別的成熟應用還需保持理性和尺度。
  • 人臉識別是AI技術落地的濫用?
    打開APP 人臉識別是AI技術落地的濫用?尤其是人臉識別,作為 AI 技術落地最廣泛的場景之一,所面臨的安全、倫理和道德等挑戰愈發嚴峻。   經過近些年的快速發展,人臉識別已和智能硬體解鎖、支付,以及公共服務等身份驗證直接綁定在一起。因面部信息的唯一性,以及作為個人隱私中最敏感、重要的組成部分,一旦出現問題,將會對個人隱私、公共安全造成巨大威脅,故對技術的安全要求和標準相對更高。
  • 新技術變成「危險武器」 誰在濫用人臉識別?
    在美國,人臉識別技術正成為侵犯人權和數據濫用的罪魁禍首,今年6月,微軟、亞馬遜和IBM相繼停止了人臉識別技術的應用。 IBM執行長克裡希納在致國會信中寫道,「IBM堅決反對並且絕不容忍將任何技術(人臉識別技術)用於大規模監視,種族貌相,侵犯基本人權和自由,或任何與我們的價值觀和原則相牴觸的目的。」
  • 海氪日報 |人臉識別濫用風險需警惕
    隨著人工智慧的發展,人臉識別技術得到廣泛應用,「臉」的應用場景被不斷拓寬。人臉識別技術看似「高大上」,但其存在的個人生物信息被過度採集和濫用的風險也不容忽視。相關專家表示,人臉識別技術不是萬能的,收集、處理個人信息應當遵循合法、正當、必要的原則,基於身份驗證等需要收集相關信息後也應盡到嚴格保管的責任和義務。
  • 人臉識別,邊界在哪
    人臉識別在替代什麼想要探究出人臉識別為何會大行其道,就必須知道它究竟在替代什麼過時的技術。在識別比對領域,人臉識別應運最為廣泛還要算政府公共服務領域,它在廣泛的替代曾經的人工比對方法。在這個領域上,人臉識別的技術大大提高了政府公共服務的效率,比如出行中在高鐵站、機場等廣泛應運的人臉識別技術。
  • 你的人臉信息只值5毛 人臉識別雖好但應謹防被濫用
    對,你沒看錯,只花5毛就能買到一份人臉信息。當下,用戶信息和個人隱私洩露現象非常普遍,但萬萬沒想到,人臉信息也近乎處於「裸奔」狀態,甚至自己完全被蒙在鼓裡,想想都很可怕。人工智慧應用落地,最典型的當屬人臉識別。近年來,火車站、酒店、部分小區、學校、購物支付等場景,都能靠刷臉搞定,而且發展態勢非常迅猛。
  • 垃圾分類搞人臉識別?智能應用該誰說了算
    但快真的就意味著好嗎?那些沉浸在短視頻當中無法自拔的年輕人,那些被時代的腳步拋下的老年人,還有隱私不斷被濫用的所有人,我們到底是在利用科技的力量,還是成為科技力量的「傀儡」,我們是生活在現實的時空,還是生活在算法構築的平行世界?帶著這些問題,讓我們來說說「智能時代的煩惱」,以下為第五篇。
  • 兩元錢能買到上千張人臉照片 人臉識別存在信息洩露風險
    新技術在生活場景中廣泛應用 個人信息遭洩露引發公眾憂慮人臉識別應用邊界何在● 人臉信息屬於個人信息中的敏感個人信息,其一旦洩露或者被非法使用,可能導致人臉的主體受到歧視或者人身、財產安全受到嚴重威脅或危害● 在法律法規已有明確要求的「強認證」場景(如公共安全、金融支付)下,使用人臉識別完成精確的身份比對和驗證,有其必要性和合理性