人臉識別「熱」中的冷思考:道德倫理問題值得深思

2020-12-11 環球網

圖片來源：視覺中國

科技日報11月27日報導，人臉識別系統已經給我們的城市帶來諸多方便。然而，在許多國家，對人臉識別的抵抗聲也在不斷高漲。研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用，揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。然而，技術發展的潮流浩浩蕩蕩，更多人認為該技術的存在是「不可避免的」，但是其背後存在的道德倫理問題值得我們深思。

近期，《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。一些科學家正在分析人臉識別技術固有的不準確和偏見，對其背後存在的歧視發出警告，並呼籲加強監管、提高技術透明度。

《自然》雜誌對480位從事人臉識別、人工智慧和計算機科學領域研究的研究人員的調查顯示，人們對人臉識別研究的倫理學普遍存在擔憂，但也存在分歧。

有些未經同意獲取數據

為了使人臉識別算法正常工作，必須對大型圖像數據集進行訓練和測試，理想情況下，必須在不同的光照條件和不同的角度多次捕獲這些圖像。過去，科學家普遍招募志願者，只為收集各種角度的照片；但現在，大多數人未經許可即被收集人臉圖像。

在《自然》雜誌的480位受訪者中，當被問及對應用面部識別方法從外表識別或預測個人特徵（如性別、年齡或種族）的研究有何看法時，約三分之二的人表示，此類研究只能在獲得面部識別者知情同意的情況下進行，或者在與可能受到影響的群體代表討論後進行。

大多數人認為，使用人臉識別軟體的研究應事先獲得倫理審查機構（例如機構審查委員會）的批准。他們認為，對於在學校、工作場所或由私人公司監視公共場所時使用人臉識別進行實時監視感到最不舒服，但是他們通常會支持警察在刑事調查中使用人臉識別系統。

從法律上講，目前尚不清楚歐洲的科學家是否可以未經人們的同意而收集個人人臉的照片以進行生物識別研究。歐盟的通用數據保護條例並沒有為研究人員提供明顯的法律依據。在美國，一些州表示，商業公司未經其同意使用個人的生物識別數據是非法的。

受訪者強烈認為，應該有其他法規來規範公共機構使用人臉識別技術。超過40％的人則希望禁止實時大規模監視。

存在性別和種族偏見現象

人臉識別系統通常是專有的並且保密，但是專家說，大多數系統涉及一個多階段過程，該過程通過深度學習對大量數據進行大規模神經網絡訓練。

美國國家標準技術研究院（NIST）在去年年底發布的報告中稱，人臉識別的準確率有了顯著提高，深度神經網絡在識別圖像方面效果明顯。但NIST同時也證實，相對於有色人種或女性，大多數人臉識別對於白人男性面孔的準確性更高。特別是，在NIST的資料庫中被歸類為非裔美國人或亞裔的面孔被誤認的可能性是那些被歸類為白人的面孔的10—100倍。與男性相比，女性誤報的可能性更高。

領導NIST圖像小組的電氣工程師克雷格·沃森認為，這種不準確很可能反映了每家公司培訓資料庫構成的不平衡，一些公司可能已經開始解決這個問題。

有待嚴格立法和監管

致力於人臉識別或分析技術的研究人員指出，人臉識別有很多用途，比如尋找走失的兒童，追蹤罪犯，更方便地使用智慧型手機和自動取款機，通過識別機器人的身份和情緒來幫助機器人與人類互動，在一些醫學研究中，還可以幫助診斷或遠程跟蹤同意的參與者。

人臉識別技術有好處，但這些好處需要根據風險進行評估，這就是為什麼它需要得到適當和細緻的監管。

目前，許多研究人員以及谷歌、亞馬遜、IBM和微軟等公司都呼籲在人臉識別系統方面出臺更嚴格的監管措施。

麻薩諸塞州波士頓東北大學研究面部監控的計算機科學家、法學教授伍德羅·哈特佐格說視人臉識別技術為「史上最危險的發明」，說如果美國立法者允許公司使用人臉識別，他們應該編寫規則，從健身房到餐廳都應當禁止「面部指紋」的收集和儲存，並禁止將人臉識別技術與自動化決策（如預測性警務、廣告定位和就業）結合使用。

尚須謹慎研究和思考

密西根州立大學東蘭辛分校的計算機科學家阿尼爾·賈恩說：「在我們的社會中，我們需要大量正當而合法的人臉和生物識別應用。」但一些科學家表示，研究人員也必須認識到，在人們不知情的情況下對人臉進行遠程識別或分類的技術從根本上是危險的，應該努力抵制其被用來控制人們的做法。

作為人工智慧領域的首要會議之一，神經信息處理系統會議是今年首次要求進行這種道德考量，即提交有關人臉識別論文的科學家必須添加一份聲明，說明他們的工作中存在的倫理問題和潛在的負面後果。

此外，《自然機器智能》雜誌也在試圖要求一些機器學習論文的作者在文章中加入一項聲明，考慮到更廣泛的社會影響和倫理問題。

紐約伊薩卡市康奈爾大學從事技術倫理研究的社會學家凱倫·利維認為，研究人臉識別的學者意識到道德倫理問題，「感覺像是科學界真正的覺醒」。

（原題為《道德倫理：人臉識別「熱」中的冷思考》）

相關焦點

  • 人臉識別方便了誰?這樣做或許能躲過「被識別」
    視頻中的字幕顯示：「為保護個人信息，戴著頭盔去看房」。事實上，以「買房」搭配「頭盔」、「口罩」、「面罩」、「墨鏡」等詞在網上檢索，類似的故事並不少見。而這些故事最後都不約而同地指向了「售樓處人臉識別系統」。據報導，有地產中介表示：房企安裝人臉識別系統，與其「分銷模式」有關。
  • 如何治理科技發展中的倫理問題?
    如何治理科技發展中的倫理問題，防止科技濫用、科技作惡、學術不端？中國倫理學會副會長江暢認為，當前亟須健全科技倫理治理體制，包括完善科技倫理治理學術研究機制，健全科技倫理監管制度，建立科技人員自律機制。  完善科技倫理治理學術研究機制 完善科技倫理治理學術研究機制，是健全科技倫理治理體制的重要基礎。
  • 天獄:人機衝突中的倫理問題
    未來學家戈爾德·萊昂哈德在《人機衝突——人類與智能世界如何共處》中，將人類的這種處境形容為：「我們正處在天堂與地獄的混合體中，這被稱之為天獄（Hell Ven）。」在人工智慧技術的支持下，人臉識別技術被別有用心地濫用已經愈演愈烈。
  • 六國隱私態度研究:中國人最關注隱私,對人臉識別接受度最高
    數據安全技術的使用能普遍減少個人信息被搜集的介意程度，但對人臉識別相關功能的使用態度影響不大。以上結論來自光華人工智慧與社會科學交叉學科平臺和曠視人工智慧道德倫理委員會的聯合研究。孟涓涓表示，團隊從中國、日本、新加坡、美國、德國、沙烏地阿拉伯六國選取了代表性樣本4500人，在2020年11月份進行在線問卷調查。
  • 智能人臉識別+紅外熱成像一體機
    智能人臉識別+紅外熱成像一體機 蜂鳥智能型號：HC-SJP08S-T 概述 智能紅外熱成像人臉識別是基於人的臉部特徵信息進行身份識別的一種生物識別技術，它的唯一性和不易被複製的良好特性為身份鑑別提供了必要前提。
  • 李開復致歉背後的曠視科技:引發人臉識別爭議的為何總是它?
    公開信息顯示，2019年，曠視的在線人臉身份驗證平臺已為超過4億用戶提供驗證服務；全中國超過70%的安卓手機使用曠視的技術完成刷臉解鎖。電影裡說「能力越大，責任越大」。作為行業領頭羊的曠視，自然會受到更多關注。而昨天的風波，也並非曠視第一次因為人臉識別業務陷入爭議。2019年9月，一張打著曠視標誌的圖片在網上熱傳。
  • 哆啦A夢登上熱搜榜第1,網友請願提出5點要求,背後問題值得深思
    所以當哆啦A夢登上了熱搜榜第一，並且網友請願提出五點要求之後，背後的問題值得深思。成為第一熱搜首先當各位漫迷第一眼看到哆啦A夢、網友請願以及刪除戲份，這些組合詞放在一起的時候，心裡都忍不住要咯噔一下。而將這五點要求簡單歸納就是：在後續哆啦A夢的相關製作中，不能再增加擅闖浴室的劇情，就算為了劇情完整需要保留的片段，在播出時也應該標註警示標語。至於劇中其它不尊重人的動作，也應該被視為不當行為。
  • 「看」臉時代 人臉識別應用引來爭議
    事實上，人臉識別帶來的爭議遠不止此，從AI換臉淫穢視頻到ZAO App的用戶協議爭議，再到人們對人臉識別進校園、惡搞視頻泛濫的迷惑，這些都從不同維度反映著民眾對人臉識別技術的擔憂。記者體驗某公司智慧課堂人臉識別技術相關系統。
  • 「戰鬥機器人」對倫理道德問題提出重大挑戰
    「戰鬥機器人」對倫理道德問題提出重大挑戰  Winnie Lee • 2019-12-23 11:50:52　來源：前瞻網　E2753G1
  • 人臉識別在醫院中的應用
    打開APP 人臉識別在醫院中的應用 全球物聯網資訊 發表於 2020-11-29 09:50:21 　　隨著信息技術的飛速發展，人臉識別系統在安防管理中逐步得到廣泛應用。人臉識別也叫面部識別，俗稱刷臉，是一種基於人的臉部特徵信息進行身份識別的生物識別技術。其原理是：從視頻或者圖片中的人臉提取相關特徵，與已有資料庫中的人臉特徵相比較，然後計算出待測人臉的特徵與資料庫中哪一類人臉（面紋編碼）最相近，進而得出被測人的身份。
  • 前沿|人臉識別技術走到了「十字路口」
    其實，在網際網路技術席捲全球之初，個人信息安全問題就如影隨形。特別是AI技術落地的廣度和深度在無限拓展之時，其陰影面開始暴露無遺。人臉識別更易被盜取「人臉識別是生物特徵識別，是不可逆的。一旦掌握存儲了用戶的面部特徵，對用戶來說，這個安全識別以後就失效了。」
  • 三個應用場景聊聊「人臉識別」,「黑科技」帶來的風險與無奈
    直到今年十月，郭先生收到動物園發來的簡訊，簡訊內容是這樣的：「園區年卡系統已升級為人臉識別入園，原指紋識別已取消，即日起，未註冊人臉識別的用戶將無法正常入園。」動物園年卡改成人臉識別，其他人是什麼反應呢？有記者蹲點採訪，大部分遊客表示，很方便。
  • 其中難道不會產生倫理道德的問題嗎?
    在周朝時期，隨著《周禮》的完善，人們開始接受倫理道德的規範，遵循天地君親師的思想。而發展到現代社會，文明程度進一步提升，人們對於道德倫理的要求也越來越高，歷史上，任何違背道德倫理的觀念和行為都會受萬人譴責。然而在動物界，一些看似不符合道德要求的現象卻屢屢發生。那麼動物回交具體是怎麼一回事？站在人類的立場思考，這其中難道不會產生倫理道德的問題嗎？
  • 如何對人臉識別進行法律規制
    人臉識別技術的特徵、收益與風險人臉識別可簡單地概括為：機器對靜態或視頻中的人臉圖像進行特徵提取、分類識別，以達到身份鑑別的目的。人臉識別技術的應用場景日漸豐富，其功能歸納起來主要是身份驗證和監控。這又可以分為政府機構的公共應用和非政府機構的商業應用與慈善應用等。
  • 人臉識別應明晰法律邊界
    在交通出行中，人臉識別技術大大提升了出行效率，譬如在北京大興國際機場，旅客不用列印紙質登機牌或辦理電子登機牌，通過全程「刷臉」便可實現登機……人臉識別技術的發展一方面維護了公共安全、方便了人民生活、提高了社會效率，但另一方面，原本應用於公共安防等領域的技術卻頻頻「越界」，被很多商業機構加以利用，從而獲取利益。
  • 教育部治理高校App泛濫 採集人臉等信息需經倫理論證
    來源：新京報網原標題：教育部治理高校App泛濫 採集人臉等信息需經倫理論證 新京報快訊（記者 馮琪）11月27日記者獲悉，教育部印發《高等院校管理服務類教育移動網際網路應用專項治理行動方案》（下稱《方案》），要求各高校嚴控app數量，採集人臉等個人生物識別信息的教育App
  • 人臉識別60年︱安巴·卡克:行動者們正在打開「黑箱」
    這份報告收錄了8個來自世界不同地區的案例，我們希望梳理目前生物識別技術在應用中的諸多困境。澎湃新聞：人們對於人臉識別技術的擔憂似乎存在一些地區差異，比如，美國的研究和行動者聚焦在種族歧視問題，人臉識別技術對於少數族裔的誤識率很高，當它應用於警察執法會造成偏誤。而中國更關注數據隱私和安全性等問題。
  • 2020高考作文練習題目:正確運用人臉識別,方能造福社會
    (60分)　　對於人臉識別技術，有人說，人臉識別技術被越來越廣泛地運用到人們的日常生活中，給社會帶來很多便利;也有人認為，人臉信息會侵犯人們的隱私權，人臉識別技術的運用要有明確的邊界;也有人說刷臉越來越多，消費者要有能夠說不的權利……對此，文德中學準備召開一次討論會，讓參與討論的學生發表自己的看法。請結合材料內容，以參加討論會的學生的身份寫一篇發言稿，闡述你的觀點與思考。
  • 論見|94歲老人被抬到銀行做人臉識別?別讓「人臉識別」吞噬「人的...
    近日，有網友爆料稱，湖北廣水94歲的老奶奶行動不便，為了社保卡激活，被人抬到銀行進行人臉識別。此事發酵後，涉事銀行迅速做出「以此為戒，舉一反三，開展專項整治行動」的致歉。 一位腰身佝僂、腿腳不便的九旬老人，顫顫巍巍地被人硬架到櫃檯上去做「視頻認證」，這個畫面看得讓人實在難受。
  • 人臉識別訪客系統
    1、 系統介紹　　利用移動互聯技術和人臉識別深度算法進行結合，實現全新的人臉識別自助訪客系統。隨著人臉識別技術的成熟，越來越多的企業逐步將傳統的「守候式」門衛訪客登記系統更新為自助驗證加人臉識別聯動授權的模式，增加了訪客審核的安全性，同時節省了訪客驗證的效率和企業單位的人力成本。