清華法學教授勞東燕表示，和指紋相比，人臉信息的風險更突出，因為它具有非接觸性。如果要獲取我的指紋，我是知道的，而且指紋洩露後，別人也不知道這個指紋是我的；但人臉洩露後，馬上就能知道是我，其他人都可以迅速鎖定我。人臉識別技術的推廣者往往會用「便利」、「安全」的說法，但普通民眾更可能是「冤大頭」的角色。
在現代社會，一個人的匿名性相當重要。你並不想所有舉動都被毫無遺漏地永久記載下來，曝光在每一個人的面前。匿名性是現代社會運作的基礎。
文 |湯禹成
編輯 |槐楊
運營 |一凡
進入日常縫隙處
今年3月，勞東燕發現，小區每單元的電梯裡都貼上了通知，要求業主下載一個APP，錄入人臉信息，用於門禁升級。勞東燕是清華的法學教授，從去年起，她發現人臉識別被運用在越來越多的場景——分類安檢的地鐵口，AI換臉的手機遊戲，就連法學院的自動咖啡機也有了人臉支付這一選項。
看到通知的那一刻，她意識到，這項技術，已經從高鐵站、飛機場這些公共領域，進入工作地點、生活住所，試圖滲入人們日常生活的每一個縫隙——這在後來被一步步證實。借著疫情防控和智慧小區建設的趨勢，人臉識別系統很快在城市的多個小區迅速推開。2017年，北京住房和城鄉建設委員會啟動智慧小區建設時，早已提出這樣的暢想：「您能想像未來小區沒有門禁卡就能開門，停車共享車位、分時租賃，居家老人實現機器人陪護的生活嗎？」
但是，嶄新科技所敘述的振奮人心的故事，同樣也存在被科技打破的風險。一位麻省理工學院計算機科學專業的博士告訴我，通過人像收集與機器學習，黑客不僅能將你的臉替換至色情視頻，也可以用「對抗攻擊」（Adversarial attack）技術迷惑機器學習模型，代替你進入高鐵站，你工作的單位，甚至是你的家。
生物數據，包括指紋，一直存在洩露和被偽造的風險，但隨著機器學習技術的發展以及人臉識別大規模應用，人臉信息變得更為敏感。理論上來說，「你在社交媒體上公開的所有照片，都可能成為被利用的生物信息」。
另一些事實證明，儲存和維護數據的系統並沒有那麼強大。2018年7月，浙江紹興一名叫張富的大專畢業生，利用非法購買的公民個人身份信息，將相關公民的照片製成3D頭像，通過支付寶人臉識別認證。在他被查獲的電腦裡，警方發現了2000萬條公民個人信息。2019年，18歲、初中文化的田某，通過抓取、攔截、保存銀行系統下發的人臉識別身份信息數據包，在一個手機銀行APP內使用虛假身份信息成功註冊了帳戶。
勞東燕知道這項技術的隱憂。她將收集到的材料發在了一個兩百多人的小區微信群中。一位關心此事的居民，又將她拉進了接近500人的小區業主群。在那裡，她發的材料獲得更多共鳴，許多業主表達了對風險的擔憂。此前，業主們主要的不滿是：「幹嘛要收集房產證信息？」
▲ 杭州居民戴口罩刷臉進小區，該系統在居民戴著口罩的情況下，也可以精準識別。圖 / 視覺中國
「掙扎」
3月15日，勞東燕寫好詳細的法律意見，指出小區的收集行為與現行法律框架相違背。一式兩份，寄給物業和居委會。郵寄是她特意選擇的方式——通過快遞寄送，對方一旦籤收，就能代表送達。
幾天後的一個傍晚，街道辦主任給她打電話，邀請她一起討論。在場的還有居委會和物業的工作人員。勞東燕察覺到，街道辦的工作人員更關注法律風險。當她提醒「單方通知不代表同意，不經同意就獲取，在刑法上就會界定為非法獲取」，他們問，應該如何規避這樣的風險。
而勞東燕最擔心的是數據風險。她無法想像「物業有何動力維護和保護這個數據系統」。她問：「數據由誰保管？怎麼保護？」
對方給出三種方案：存放在物業的區域網，交給便民服務中心，公安部門也可以保管。那時，已經有居民錄入人臉信息，但存放方案始終未有定論。這些方案本身也反映了國內個人信息保護的現狀——在使用和管理數據上，公權力和商業機構間並沒有嚴格界限。這些加劇了勞東燕的擔憂。
街道辦主任試圖勸服勞東燕。先用「便捷」。在他們的敘述中，因為每個單元的門禁都壞了，街道幫大家免費更新人臉門禁系統，相當於給小區居民提供福利。「你看使用多便利呀，一刷臉就行了。」勞東燕答，「刷臉省的幾秒鐘，對我沒有多大的價值。」
在場的業委會主任則以「房價」為談判籌碼：「我們小區管理好了，房價也會跟著上去」，這句話令勞東燕印象深刻。
再是「安全」。他們先提及疫情：「附近小區有從武漢回來的人，當時鄰居發現後，就不讓他們進來。如果你家對門或者你單元裡有從武漢回來的人，你肯定也希望能事先發現而阻止他們吧。」勞東燕答：「我不希望知道，他們有權利回自己的家。」
「這樣的技術可以更好地打擊違法犯罪分子」，對方繼續說服。
「如果監聽全國所有人的手機通信，可以發現更多犯罪分子，我們會允許監聽監控所有人的手機嗎？打擊犯罪只是社會的一個目標，甚至不是基本目標。」
討論到最後，街道辦給出3種可替代方案，不願錄入人臉的居民，也能依靠刷門禁卡、身份證登記或使用手機APP回到自己的家。
9月23日午後，在一場主題為「小區門禁能否人臉識別」的專題研討會上，勞東燕簡單地講述了這段經歷。在場另一位嘉賓說她是「為了權利而鬥爭」。勞東燕笑了笑，擺手解釋：「沒有，我也只是稍微掙扎了一下」。
▲ 人臉識別已經進入到我們生活的方方面面。圖 / 視覺中國
「壞了的門牙」
有人試圖更劇烈地「掙扎」一下。2019年4月，浙江理工大學特聘副教授郭兵，在杭州野生動物世界辦了一張價值千元的年卡，憑藉這張卡和指紋，郭兵和家人可以一年不限次數暢遊。但10月17日，他收到一條野生動物世界發來的簡訊，「即日起，未註冊人臉識別的用戶將無法正常入園。」
郭兵以違背《消費者權益保護法》為由，將杭州野生動物世界告上了法庭。將近1年後，他和我敘述當時的初衷：除了感到權益受到侵害，作為一個教授法律的大學老師，他更希望推動一個具有公益性質的訴訟——在個人信息失控的當下，促成相關制度的完善。
郭兵說，他辦年卡時，並不知道要錄指紋，交完錢去拿卡時才被要求，他知道生物信息的敏感性，出示身份證就可以證明身份，為什麼還要錄指紋？對方告訴他，入園處只有指紋這一種方式。孩子在哭，妻子在催，他妥協了。但打官司時，他發現動物園向法院提交的證據中包括自己的一張照片——當時沒有人告訴他這張照片的用途，他以為是貼在年卡上，但動物園的解釋是「遊客當時同意拍照，就視為同意園方收集面部信息用於人臉識別」。在郭兵的敘述裡，面對更為強勢的商業機構，個體的意願已經在渾然不知中被扭曲和剝奪。
案子在今年6月開庭，按正常流程，法院本應在9月給出判決。但承辦人告訴郭兵，法院認為屬於「疑難複雜案件」，案子的審限到期前經法院院長批准又延了6個月。郭兵說，他從決定去起訴後就一直明確拒絕調解。
郭兵的訴訟案和去年10月勞東燕發表的一篇講述人臉識別隱憂的專欄文章一起，成為引發人們關於人臉識別技術反思的「蝴蝶翅膀」。今年9月初，趙逢（化名）決定也掙扎一下。他住了7年的小區開始實行人臉識別門禁系統，在居委會阿姨的催促下，他在小區門口錄入了人臉信息，此後，他陷入一種擔憂，人臉信息是否有洩漏的風險？
他去找過居委會，居委會負責人同樣以「便利」與「安全」來說服這個「大驚小怪」的年輕人。又過了幾天，他在網上看到了勞東燕在那場研討會上的分享——他意識到，「當沒有完善的法律保障時，個人信息極有可能被濫用」。
他給12345投訴信箱寫信，介紹前因後果，質疑合法性，繼而要求刪除他的人臉與個人信息。進展比預料的更順利，在街道辦的協調下，他在9月底來到物業，看著物業工作人員對著他的人臉信息按下了刪除鍵。
「一種未知的恐懼」，趙逢說。為了更精確地解釋這種感受，他舉了一個例子：他曾修整過門牙，結果門牙壞了，這件事的具體風險是——假如有天吃一個蘋果，牙齒可能會被磕掉。這種具體的風險是有應對方法的，磕掉了就再去做一顆，「但它會導致一種不自由的狀態，就是你沒辦法隨心所欲地吃蘋果了」。
走出物業時，他鬆了口氣。他知道他仍處在一個巨大的、關乎個人信息的系統裡，但他獲得了一種暫時的安全感：「我要是不掙扎，我就沒有答案。我就永遠要背上那個問號。」
2018年5月，歐盟實施了被稱為「史上最嚴」條例的通用數據保護條例，規定違規收集個人信息(其中包含指紋、人臉識別等)、沒有保障數據安全的網際網路公司，最高可罰款2000萬歐元或全球營業額的4%。在美國，今年6月，IBM、亞馬遜、微軟公司先後發表聲明稱，不會向警察部門出售人臉識別服務。看上去，對這項新技術的反思與規制，在世界範圍內已經成為一種趨勢。政治與商業機構，都在警惕這項新技術帶來的種種憂患。而在杭州，開庭結束的當天下午，郭兵又驅車到距離法院並不很遠的杭州野生動物世界。檢票口的工作人員不認識他，他詢問指紋年卡會員的入園方式，對方的回答依然不留餘地：「只能刷臉入園。」
▲ 山東某景區，工作人員正在引導遊客刷臉入園。圖 / 視覺中國
10月1日，我和勞東燕在清華園東南邊的書店，就「人臉識別」展開了一次談話。我們聊到技術的風險與反噬性，聊到有待完善的法律框架，也聊到身處龐大系統中的普通個體可以如何「掙扎」。她反覆表達了自己的擔憂，人臉識別技術如若不加以規制，將會影響整個社會的走向。以下是對話內容：
人物：你是怎麼關注到人臉識別技術帶來的風險的？
勞東燕：由於人臉識別的底層技術在2018年有很大突破，去年下半年開始，我注意到人臉識別商業化的推廣在中國「遍地開花」，連我們學院的咖啡機都通過少付1元錢而引誘人們使用人臉識別支付。到了10月底，又傳出北京地鐵要實行人臉識別分類安檢的消息。我一直在研究「風險社會」，在風險社會中，預防風險的措施本身可能會帶來新的風險。關注人臉識別時，我不僅關注機器學習、數據洩露可能導致的財產與人身威脅，還會關注相關部門運用這種技術所帶來的社會風險。
人物：在人臉識別這項技術的使用和接受度上，疫情前後有不一樣的感受嗎？
勞東燕：去年下半年我還挺欣慰的，對於個人信息保護，整個主流輿論有所轉向，一些主流媒體也開始報導「人臉識別」潛含的風險，不像以前那樣漠不關心。後來疫情來臨，我們需要通過人臉識別認證健康碼，交出我們的軌跡，讓渡我們的個人信息。為了保持正常的生活，不得不這麼做。疫情對整個社會走向的影響太大了，更多人開始接受這樣被監管的狀態。
人物：你認為，人臉識別技術帶來的風險主要有哪些？
勞東燕：從最淺的層面說，如果你的生物信息被別人獲取，別人就可能用你的臉結合你的身份證信息，去登陸你的銀行帳戶，轉移帳戶中的錢，進入你本該進入的單位、小區，或者噁心你一下，把你的臉換到淫穢視頻裡。這些風險，是和居民的日常生活最相關的。而且人臉、指紋這樣的生物信息，一旦洩露，無法改變，也無法獲得救濟，你可能永遠暴露在這樣的風險下。
和指紋相比，人臉信息的風險更突出，因為它具有非接觸性。如果要獲取我的指紋，我是知道的，而且指紋洩露後，別人也不知道這個指紋是我的；但人臉洩露後，馬上就能知道是我，其他人都可以迅速鎖定我。清華新聞學院的一位教授，在接受《中國新聞周刊》的採訪時曾提到，我們每天有500次被攝像頭照到的機會。其中有多少攝像頭具有人臉識別的功能，或者收集提取了我們的人臉數據，我們根本不知道。
人物：為什麼生物信息一旦洩露，就無法救濟呢？
勞東燕：假設你的人臉信息洩露了，你想通過民法途徑救濟，民法講究「誰主張，誰舉證」，現在這麼多地方在收集，你不知道是誰收集的，不知道是從何處洩露的，也不知道洩露或濫用的人是誰。你舉證不了。
想走行政法或刑法保護的途徑，也不那麼容易。只有大規模的數據洩露，才可能推動公安機關啟動偵查活動。但是，即便公安機關把犯罪分子抓住了，也只是把他關在監獄。你的信息洩露了就是洩露了，他已經賣給下家，下家可能又賣給另一下家，已然失控，你沒辦法恢復原狀。
人物：所以人臉識別應用「遍地開花」的現象，本身就潛含巨大的風險？
勞東燕：我們眼下管控風險的能力，跟技術製造風險的能力相比，完全不配套，這是普遍問題。無論是法律手段還是政治手段或其他社會治理手段，進化上都是很慢的，跟不上技術的迭代以及商業化的快速推進。
眼下，好像任何一個機構，都可以推廣人臉識別。其中最有動力的是科技公司，它們可以賣設備，接下來還可以收取後續維護的費用。人臉識別的推廣會帶動這個產業的發展。但這個產業的發展跟全社會利益相比微乎其微。一些部門也有動力，因為這樣更便於維護治安，對流動人口的管理也會更容易，但這樣可能損害了同樣重要甚至更為重要的社會價值。小區物業也在推廣，但它根本沒有動力和財力升級系統、維護數據安全。所以「遍地開花」是最可怕的——安全問題有短板效應，網際網路時代的特點是，問題不會出在安防水平最高的地方，而是出在水平最低能力最差的地方。多組織、多中心地收集信息，比單一中心的收集，風險要更大。
人物：除了剛才談到的那些，還有什麼更長遠、隱蔽的風險嗎？
勞東燕：一旦手機上、電腦中，還有這些遍布在各個角落的攝像頭所獲取的數據全被打通，人就變成透明人了。數據的擁有者，可以知道你的一切，你每天回家的路徑，你開什麼車，跟哪些人交往，你的購物喜好，你的網頁瀏覽記錄，你的立場，這些信息串起來後，相關部門可能比你更了解你自己。在這樣的情況下，一切將變得不可控，甚至會影響現代社會的基本制度。國外已出現商業公司通過分析個人數據來影響選舉的新聞。技術可能會把社會帶向一個跟我們追求的目標徹底背道而馳的方向。
人物：目前的法律足以保護我們在生物信息上的權利嗎？未來，關於個人信息保護的法律框架，會往什麼方向發展？
勞東燕：目前對個人信息的保護仍主要建立在對傳統社會的想像上，法律上將數據當作與財物一樣的東西。對財物保護來講，最重要的是佔有，如果你不告而取，我就要懲罰你。但實際上，數據與財物不一樣，數據具有共享性，使用時不具有排他性。在數據的問題上，不告而取地收集當然有其危害，但是即便經作為數據主體的當事方同意，接下來難道就可以隨意使用他相應的個人數據嗎？肯定不能。
眼下我們法學界基本達成共識，以同意機製作為核心的保護機制是有問題的。未來，法律上可能會將保護義務更多放在信息的收集者和控制者身上。信息的控制者要承擔信息保護方面的任務，而個體需要對自己的數據掌握一定的控制權。比如，你同意別人收集了你的個人數據之後，接下來後續種種，他應該告訴你，接下來會怎麼使用，作為提供數據的個體也應該有權提出刪除。其次，在風險的分配問題上，由於數據收集者和處理者的收集和使用行為製造的風險，誰製造風險，誰就要對風險造成的結果來負責；同時，誰從中獲取最大的利益，誰也就應該負責其中主要的風險。
最近剛公布的《個人信息保護法（草案）》在落實知情-同意的機制上有了比較切實的舉措，10月1日生效的新版《個人信息安全規範》對信息收集者也提出了更具體的要求，這些都表明好的改變正在發生。我認為，我也希望，整個法律能夠強化對個體權益的保護。至少從我的觀察來看，我們刑法中對於秩序利益、安全利益的關注，遠遠超過對於個體權益的保護。
人物：人臉識別技術的推廣者往往會用「便利」、「安全」的說法，你怎麼看待這點？
勞東燕：他們所說的「便利」對我沒有誘惑力。我並不覺得自己的幾秒、十幾秒時間如此地有價值。但在人臉識別推廣中，說服大家接受時，用得最多的就是這個理由。在人臉識別這項技術的推廣中，最大的受益方肯定不是民眾，普通民眾更可能是「冤大頭」的角色。
從「安全」角度來講也有明顯的問題。為了抓幾個罪犯，把所有人的生物信息都收集走，收集後的保管與使用環節又無法保證基本的安全。這樣一來，我們的信息被洩露、被濫用，不就是我們的安全受到威脅了嗎？「公共」不是虛的概念，公共就是指公眾的安全，而我們每個人都是公眾中的一員。現在這樣的做法是想獲得小的安全，但其實會危及更大的安全。
▲ 第二屆數字中國建設成果展覽會，觀眾在展覽會上體驗人臉識別技術。圖 / 視覺中國
人物：李彥宏說過中國人願意「用隱私換便捷」，你認同這一點嗎？
勞東燕：我不認同。我覺得，根本的原因，是因為信息披露得不充分不完整，相應風險被告知得不夠，讓大家誤以為其中只有好處而沒有風險或風險很小。你只要告知相應的風險，人們不見得就一定喜歡用隱私換安全換便利。我往兩個小區群裡發文章，沒一個業主出面反對，反而有很多贊成的。只要如實地披露其中的風險，人們馬上就會意識到，不應該用隱私換便捷，這很可能是在與魔鬼做交易。人在所接受的信息不充分不完整的情況下，可能會更注重眼前利益，那是因為你沒有告訴他其中的風險所在，以及這個事情可能會往什麼方向發展。
人物：是不是這種風險也有隱蔽性、滯後性，所以人們很難真切地感受、強烈地重視。
勞東燕：對，從人臉信息被買賣、洩露到發生風險往往會有一段時間。但你想，有人買你的人臉數據，如果無利可圖，他怎麼會買呢？再往前想幾步，你的人臉信息掌握在一個想用來謀利的人手裡，就等於有雷埋在那裡，只是你不知道這個雷什麼時候會爆炸。
人物：你在學術論壇上說，自己向小區抗議人臉識別門禁，只是「掙扎了一下」。你怎麼看待這樣的掙扎？
勞東燕：有的時候，你會發現掙扎一下是有用的。
在小區這樣的場景中，由於物業沒有內在動力去推行，如果有反對聲告訴他存在的法律風險，可能就退讓了。這也是在一些小區人臉識別沒有繼續推行下去的原因。其他場景中，掙扎可能就不管用，比如在賓館抗爭使用人臉識別，賓館會拒絕讓你居住。掙扎有時需要付出代價，也受到很多現實的制約。日常生活裡，我會告訴我的孩子不要貪小便宜而使用某些技術，也會儘量避免在使用APP時錄入我的人臉信息。
人物：普通人能做什麼？
勞東燕：發出自己的聲音，以使在輿論和社會當中形成合力。這種合力有助於抵制人臉識別技術的濫用，且可能會改變立法與相應的決策。這是我認為當下每個公民都可以做的。
做技術的人總會說技術中性，他們很少思考技術與社會的關係問題，也不關注社會系統如何運作。技術是在現實社會空間中運行的，影響也會波及到現實社會，怎麼可能是中性的？其實我們每個人都困在系統裡，被控制在算法裡，差別只在於程度的不同。對於科技企業決策者、官員而言，他們也是系統中的一部分，也有作為普通人的一面。技術具有不確定性和反噬效應，你如果想控制別人，別人也可能反過來控制你。所以，他們也會面臨個人生物信息被洩露與濫用的風險。
我曾和產業界的人一起參會，一名科技公司的管理人員提到，公司內部討論產品是否要推廣於教育場景時，她提出了反對——在那個時刻，她既是科技領域的企業管理者，也是一位母親。現在沒有遭遇危機，不代表著永遠不會。現在一些小區，對租戶實行人臉識別門禁，業主則可以自由選擇。很多做法的推行都會利用人們的這種心理，在把少數人排除出去侵害他們的權利的同時，通過承諾保障多數人的利益，藉此來爭取多數人的同意，從而讓侵害少數人權利的做法變得可接受。我非常反對這種做法。我們經常覺得，別人的權利被侵害了沒有關係，只要不侵害自己的就可以。但你會發現，下一次你隨時有可能成為少數人，到那時，你的權利被侵害，自然也沒有人站出來為你說話。
人物：在現代社會，個人信息為什麼會如此重要？
勞東燕：個人信息是否值得保護，不取決於這個信息是否涉及隱私，而取決於通過這個信息能否識別到你。如果可以通過某個信息或結合其他信息識別到特定的自然人，這樣的信息就是法律要加以保護的。這次《民法典》也在隱私權之外，額外地規定了個人信息權利。在現代社會，一個人的匿名性相當重要。你並不想所有舉動都被毫無遺漏地永久記載下來，曝光在每一個人的面前。匿名性是現代社會運作的基礎。不然，你可能發現，在任何地方，都可能有一隻眼睛始終在盯著你。你因此喪失了自由，並且也不見得會擁有安全感。
文章為每日人物原創，侵權必究。