以人臉識別為代表的新技術濫用 如何趨利避害?

2020-12-19 硬派科技

以人臉識別為代表的新技術濫用 如何趨利避害?

來源:工人日報 2020-12-16 11:43:23

據媒體報導,近日,陝西西安一名八旬老人接到自稱是北京公檢法工作人員的電話,稱其涉嫌洗黑錢,要求其將238萬元打到所謂的「安全帳戶」,並指揮她使用遠程控制軟體完成人臉識別認證,隨後將錢轉走。老人意識到被騙後報警,目前案件已告破。

本質上說,此番案件仍屬傳統的電信詐騙,即行騙者通過電話騙術操縱受害人實施轉帳匯款的行為。但不同的是,行騙者藉助了當下十分流行的人臉識別方式。

眾所周知,手機銀行轉帳可以設置安全驗證環節,比如指紋、人臉、數字密碼或圖案密碼等,這本是為了讓資金更安全,然而卻被一些騙子惡意利用。以往,騙子要麼騙取受害人密碼後自己操作轉帳,要麼指揮受害人到銀行窗口或ATM機轉帳,但銀行增加了轉帳確認、延時到帳環節後,騙子得逞機率大大下降。而操縱人臉這種「密碼」可以實時轉帳,可以減少「節外生枝」。上述被騙的老人就是因為不知道什麼是人臉識別,才會輕易按要求「眨眨眼」「動動嘴」,幫助騙子提交「密碼」。

一系列與人臉識別有關的財產損失案件,已經引起人們對信息安全尤其是指紋、人臉等不可更改的生物信息安全的焦慮。不久前,廣西南寧十幾位業主委託某中介賣房,在不知情的情況下刷臉查詢房產信息後,房子就莫名其妙地過戶給了別人。如今,此案雖已告破,但給人們帶來的陰影恐怕一時難以消散。

以人臉識別為代表的新技術濫用、個人信息採集過度,必須用「猛藥」來規制。

目前,有關方面對人臉識別技術濫用的危害已有明確認識,相關政策、法律也在不斷完善,如網絡安全法規定,網絡運營者收集、使用個人信息,應當遵循合法、正當、必要的原則,公開收集、使用規則,明示收集、使用信息的目的、方式和範圍,並經被收集者同意。但有些規定和約束還是比較粗線條,在部分案例和實踐中,仍存在「缺乏具體參照和依據」的情況。

在信息使用層面,人臉信息採集方往往不會向用戶說明使用規則及範圍,後續存儲等環節也缺乏有效措施,甚至不具備相關風險抵禦能力。對此,監管部門應當從源頭規制過度採集個人信息的行為,明確能夠採集個人信息的主體,監管使用流通過程,同時要著力探索個人信息洩露後的補救和止損機制。

今年3月,國家市場監督管理總局、國家標準化管理委員會發布《信息安全技術個人信息安全規範》,其中明確要求個人生物識別信息需單獨告知使用目的、方式和範圍。此前,江蘇南京要求多家售樓處拆除人臉識別系統,一些城市也擬立法保護人臉等個人信息。這些都是規制過度採集個人信息的積極信號。希望相關防線可以儘快築好築牢。

相關焦點

  • 「人臉識別」是一柄雙刃劍,如何趨利避害?
    據了解,目前有80%以上售樓處安裝有人臉識別系統,有些開發商把人臉識別系統用於判客,以此識別購房者的類型。這些「無感人臉識別」或「被人臉識別」場景,讓人臉信息被濫用、被盜用風險加大。據新華熱點報導,前不久,一些網絡黑產從業者利用電商平臺,以「人臉信息0.5元一份」倒賣。
  • 防止人臉識別技術被濫用
    近日,「人臉識別第一案」一審宣判,引起廣泛關注。浙江省杭州市富陽區人民法院公開開庭宣判原告郭某與被告杭州野生動物世界服務合同糾紛一案,判決野生動物世界賠償郭某合同利益損失及交通費共計1038元,刪除郭某辦理指紋年卡時提交的包括照片在內的面部特徵信息;駁回郭某提出的其他訴訟請求。
  • 人臉識別技術發展迅速,導致出現濫用現象
    打開APP 人臉識別技術發展迅速,導致出現濫用現象 人工智慧實驗室 發表於 2020-12-09 16:43:18   AI人臉識別已經註定成為未來發展的趨勢,廣泛應用於各個領域和行業中,尤其是在疫情期間更是起到了極大的作用。然而隨著該技術的廣度和深度逐漸拓展,一些問題也逐漸暴露,其中濫用人臉識別技術的現象相當嚴重。   例如上文提到的售樓處採集人臉信息的現象,不只存在於南京,許多地方的售樓處都會採集人臉信息,而且很多時候是在不告知用戶的情況下。
  • 五位專家大咖縱論:如何防止人臉識別技術濫用?| 新京智庫
    近期,一系列事件引發了公眾對於人臉識別技術濫用的廣泛關注。隨著人工智慧技術不斷發展,人臉識別大規模地應用於安防、支付等日常生活場景中,但這項改變生活的技術當前卻處於爭議中。在「人臉識別第一案」中,動物園就屬於商業機構,其收集很難說是為了公共利益。 >>詳情請掃描下方二維碼 劉興亮:我是一個技術派,人臉識別剛出來的時候感覺還是很酷的。在車站、機場刷臉通過,非常快捷。但現在越來越多的地方和場景都在濫用人臉識別。
  • 審視人臉識別:一種AI技術的全球性濫用
    最近,Nature 官網連續刊登3篇文章,集中反映了以人臉識別為代表的 AI 技術濫用及其效應。這三篇文章分別是《Is facial recognition too biased to be let loose?》
  • 天津立法杜絕信用信息場景下濫用人臉識別技術,法律規制技術背後並非「一刀切」
    在段偉文看來,天津的《條例》中規定的禁用人臉識別技術,面向特定場景下的市場信用信息採集者,「這意味著在上述領域中可能存在技術濫用的情況。」他判斷,一些人臉識別信息有可能會用來進行掠奪性貸款或成為一些不良金融平臺的黑產資源。
  • 「人臉識別」技術中「人臉」是帳戶,還是密碼?該如何保護公民的隱私
    最近,圍繞「人臉識別」技術是否濫用的新聞很多。北京一中學發布通知,學生每天進出校門必須在閘機進行人臉識別,否則通報批評;在南京,去年有大學安裝人臉識別設備,「可追蹤、識別學生聽講、發呆、睡覺等上課狀態」;此外,也有多地小區、寫字樓安裝人臉識別系統,甚至有的地方還要求同步上傳戶口本、房本、學歷信息等,不僅如此,現在上公廁用廁紙都得人臉識別取紙。
  • 「這張臉丟不起」,人臉識別濫用不得
    隨著人工智慧技術的逐漸成熟,它已越來越多地走進人們的生活,改變著人們的生活。過去能掌握人臉識別技術的組織只是少數國家部門和鐵路、阿里等這樣的大企業。但隨著人臉識別的技術門檻越來越低,人們無奈地發現,「我現在連回小區都得用人臉識別」。「人臉識別第一案」之所以受到如此多關注,最關鍵的是人們越來越渴求知道人臉識別的邊界在哪?誰有權去做人臉識別?
  • 「人臉識別第一案」宣判,用法律為人臉識別釐清邊界
    身為法學副教授的郭兵把自己的「臉」要回來了,這是法律為人臉信息撐腰。不過這次訴訟主要還是個案化解決郭兵本人的訴求,沒有確認野生動物園要求刷臉本身的不當性,這未免令人遺憾。事實上,僅從合同法上說,杭州這家動物園就理虧在先:籤合同時約定刷指紋,之後單方面更改合同,要求刷臉,這本身就是違約。
  • 「人臉識別第一案」判了!遏制技術濫用,需要法治「剎車」
    編者按:為加強網絡綜合治理體系建設,進一步推進網絡安全和信息化法律普及工作,弘揚網信法治文化建設,提升網民法律素養和法治觀念,由河北省網信辦主辦,長城新媒體集團承辦的「2020年河北網信普法」活動正式開展。為確保網信普法宣傳入腦入心,生動形象普及法律知識,將創作一批新穎的網信普法宣傳作品,提升宣傳效果,形成濃厚的普法氛圍。
  • 隱私換不來便利,濫用人臉識別將成為過去式
    而針對人臉識別技術被濫用的問題,目前包括天津、南京、杭州在內的多地已經出臺相應政策,其中天津更是用法律法規的方式,禁止採集人臉、指紋、聲音等識別信息。人臉採集陸續在各地迎來強監管在多地針對人臉識別進行管控的背後,無疑是大眾對於人臉識別的忍耐度正在下降。
  • 前沿|人臉識別技術走到了「十字路口」
    文淵智庫研究員王超接受科普時報記者採訪時表示,諸如人臉識別、指紋識別、虹膜識別都是生物特徵識別,但人臉識別更容易被記錄和盜取。廣義的人臉識別實際包括構建人臉識別系統的一系列相關技術,包括人臉圖像採集、人臉定位、人臉識別預處理、身份確認以及身份查找等;而狹義的人臉識別特指通過人臉進行身份確認或者身份查找的技術或系統。
  • 清華大學:人臉識別技術爆出巨大醜聞
    第一步:清華大學的測試人員,把19部國產手機,人臉識別全部綁定為旁邊的「 1號同學 」第二步:讓旁邊的同學、同事,拿起他的手機,進行人臉識別。直接識別,打不開!(被系統發現了)但是,接下來最精彩的部分來了。
  • 走到哪都可能「丟臉」 人臉識別技術的法律邊界在哪?
    「房地產行業的頭部公司大多在用人臉識別技術。」設備提供商負責人熊偉直言。  有專家指出,讓客戶毫無防備地暴露在人臉識別設備下,侵害客戶的個人生物信息安全。記者梳理多地公開報導發現,倒垃圾、取廁紙、乘車、上班「打卡」、課堂點名等近30種生活場景中應用到人臉識別技術。  ——公共場所。甘肅省武威市圖書館人臉識別借還書新功能近日上線。
  • 「人臉識別首案」原告勝訴:為民眾「護臉」也是為法律「長臉」
    但此後園方卻單方面將指紋識別「強制」升級為「刷臉」入園,當事人為此將園方告上法庭。由於涉人臉識別訴訟此前在國內並無先例,該案被賦予了遠超出個案的價值。儘管當事人法律訴求在於個體權益保障,可公眾普遍希望,這起帶有「第一案」光環的案件,能在對具體糾紛定分止爭之餘,也能用司法力量劃定人臉識別技術應用的邊界,為公民信息安全與生物特徵識別技術應用的平衡拿捏「打樣」。
  • 人臉識別時代要不要說「不」
    隨著科技的進步,「人臉識別」被越來越多的場景採用,解鎖、購物、打卡、門禁、買房……進公園人臉識別,進售樓處被人臉識別,濫用人臉識別侵犯個人隱私是近期的社會熱議話題,也引起社會廣泛焦慮。近日,南京多家售樓處被責令要求拆除現有的人臉識別系統,這在全國尚屬首例。隨即,天津立法杜絕信用信息場景下濫用人臉識別技術。
  • 「AI換臉」騙過人臉識別!2元就能買上千張人臉照片
    近日發布的一份報告顯示,有九成以上的受訪者都使用過人臉識別,不過有六成受訪者認為人臉識別技術有濫用趨勢,還有三成受訪者表示,已經因為人臉信息洩露、濫用而遭受到隱私或財產損失。那麼「刷臉」時代,我們的人臉信息安全嗎?
  • Facebook推出人臉識別新技術 不需要看臉也能識別
    Facebook推出人臉識別新技術 不需要看臉也能識別  豹子上樹 • 2015-06-23 14:43:12
  • 人臉識別技術與財產安全緊密相連 監管不能「留白」
    有金融從業人士如此警告,人臉識別技術的應用將人身安全與財產安全緊密維繫在一起,可能將用戶推向更加危險的境地。證券時報·券商中國記者注意到,如今監管與學界都開始探索人臉識別技術應用邊界,相比之下,民眾對於保護個人信息的意識仍顯落後。
  • 人臉識別的安全邊界在哪?專家:完善「社會基礎設施」,確保「人臉...
    (央視財經《正點財經》)近期接連發生的幾個熱點事件,讓「人臉識別」成為了公眾輿論的焦點話題。這項技術是否在某一些場景中正被濫用?我們如何在享有技術所帶來的便利和保護個人信息的安全之間找到平衡?帶著這些疑問,讓我們先來回顧這樣幾個案例。