「深度偽造」的第一個大規模應用:色情機器人

2020-12-27 騰訊網

「深度偽造」（DeepFake）被認為是最危險的人工智慧技術之一，可廣泛應用於業務欺詐、輿論操縱、社會工程等多個犯罪領域。但是直到最近，深度偽造技術才有了第一個大規模應用：深度偽造色情機器人（DeepNude）。

根據英國Wired雜誌報導，自今年7月份以來，至少有10.4萬名婦女受到即時通訊應用Telegram上運行的深度偽造機器人DeepNude的攻擊，受害人數之多令人震驚。每個月都有成千上萬的人使用DeepNude來創建朋友和家人的裸照，其中一些人不到18歲。

據報導，DeepNude能用AI技術「去除」衣服，雖然有些合成照片看上去有瑕疵，但是有些照片可以以假亂真。該機器人每天都會向相關的Telegram頻道發送包含大量「裸體」女性照片的圖庫。而推廣該機器人程序的Telegram頻道也已經擁有50,000多名訂閱者，

DeepFake檢測公司Sensity的執行長兼科學家Giorgio Patrini說：「這是我們第一次看到深度偽造的大規模應用。」該公司正計劃公布其調查結果，以迫使平臺刪除相關深度偽造內容和頻道。

深度偽造機器人侵害的女性實際人數可能遠遠超過10.4萬，因為Sensity給出的這一數據僅涵蓋了公開共享的圖像，而該機器人還向私人提供照片製作功能。

DeepNude的很多Telegram頻道都是俄文，但也提供英語翻譯，Sensity補充說，很多偽造圖片的目標都是18歲以下的女孩。

據稱DeepNude的使用非常簡單，無需任何技術知識，任何人都可以把女性照片上傳到相關頻道，偽造過程是完全自動化的。Sensity的分析師指出，目前這項技術僅適用於女性。該機器人的使用是免費的，但限制每天每人僅能處理10張照片，而且需要付款才能刪除水印，一個高級版本的112張圖像售價約為8美元。

邁阿密大學法學教授瑪麗·安妮·弗蘭克斯（Mary Anne Franks）說：「這令人沮喪，我們對深度偽造技術的恐懼已經變成現實。」

一個更加可怕的現實是：即使您從未擺拍裸照，也從未與某人共享任何私密數據，也會成為受害者，不肖之徒所需要的只是一張您的臉部照片。

Vice在2019年6月首次報導了DeepNude，其最初的開發者出於濫用的擔憂而終止了該軟體項目，但短短數天內該程序的下載量就達到了95,000。DeepNude的代碼被快速備份並複製。DeepNude軟體使用深度學習和生成對抗網絡來生成受害者的裸體圖片。其AI算法在一組女性裸體圖像數據上受過訓練，能夠在最終圖像中合成身體部位。

Telegram方面並沒有回答有關色情機器人及其產生的惡意圖像的問題。Sensity的報告還稱，該公司幾個月前向Telegram報告該機器人及其傳播渠道時平臺方面並沒有做出回應。但是根據Telegram的服務條款，人們不應「在可公開查看的Telegram頻道中發布非法色情內容」。

除了Telegram，DeepNude還在俄羅斯社交媒體網絡VK上快速傳播。Sensity的報告指出，已經在VK上發現了大量的Deepfake內容，並且DeepNude還在該網站上有專門的頁面。VK的一位發言人說：「不容忍平臺上的這種行為」，並且「永久性地封鎖了這個社區」。

自從2017年底深度偽造軟體誕生以來，其主要用途就是虐待婦女。在過去的一年中，由於成本和技術門檻不斷降低，其應用呈指數級增長。Sensity之前的一項研究發現，2019年7月網上有14,678個深度偽造視頻。而到今年6月，這一數字激增至49,081。幾乎所有這些視頻都是針對女性的色情內容。

今年八月，《連線》雜誌報導了深度偽造色情影片如何成為主流。每個月有1000多個虐待視頻被上傳到全球最大的色情網站。一部由女演員艾瑪·沃特森（Emma Watson）的臉「拼裝」的30秒視頻被發布到XVideos和Xnxx上，瀏覽量超過3000萬次。事情曝光後，xHamster從其網站上清理了數十個深度偽造視頻。

由機器人生成圖像的技術突破將假冒濫用行為推向了危險的新領域。Telegram機器人並不是在野外使用DeepNude系統的唯一案例。Google Play應用商店的某些應用程式也可以對照片進行像素化處理，將日常照片變成裸照。此外，還有一些不法網站提供付費的深度偽造技術服務，甚至還提供每月20美元的訂閱服務。

更加讓人擔心的是，雖然DeepNude最初的開發者已經終止項目並刪除了項目代碼，但是DeepNude代碼的多個版本仍可在微軟旗下GitHub上公開獲得。在撰寫本文時，兩個DeepNude代碼集上周剛剛更新，提供的指導文檔可以讓任何懂點技術的人在不帶水印的情況下使用該代碼。

參考資料

A Deepfake Porn Bot Is Being Used to Abuse Thousands of Women：

https://www.wired.com/story/a-deepfake-porn-bot-is-being-used-to-abuse-thousands-of-women/

相關焦點

  • 從「深度偽造」到「深度合成」:AI為啥需要一次「正名」?
    自從2017年Deepfake（深度偽造）橫空出世以後，人們驚呼原來AI在造假方面簡直天賦異稟。此後「AI生成內容」技術，特別是GAN算法的突飛猛進更加印證了這一事實。不僅僅是AI換臉，還有AI自動生成文本、語音、圖像、視頻等等一切數字內容。除了AI換臉帶來的色情視頻泛濫之外，人們更進一步擔心AI生成內容技術在隱私侵犯、威脅信息安全、操縱政治選舉等方面帶來全新挑戰。
  • 人人皆可換臉,眼見不再為真:深度偽造如何影響了我們的安全與道德?
    一些人利用深度偽造技術，將她的臉與色情片女主角的臉互換，合成粗糙的短視頻，而這一虛假的圖像騙過了成千上萬的人，在臉書、推特和WhatsApp上廣泛傳播，甚至連家人都來問她：「這是你嗎？」隨後阿尤布的家庭地址等個人信息被曝光在網上，她收到了大量強姦威脅。阿尤布的遭遇並非個例。她的報復者利用了一鍵生成裸照軟體Deepnude，使用者可以上傳任意一張女性照片，系統將自動「脫去」她的衣服。
  • 「聲音」也能被深度偽造,連你親媽都聽不出來
    這種「深度偽造」不僅可以換臉，還可偽造聲音。而目前一些科技公司在面對深度偽造的視頻時，也顯得力不從心。這不禁讓人們擔憂，在深受網絡社交媒體追捧的「超級」新技術背後，可能有哪些安全隱患？語音合成「術」可以模擬任何人語音彭博社記者萬斯使用電腦合成語音給他母親打了個電話，看看他母親能否發現？
  • AI深度偽造視頻橫行?影譜發布鑑定技術方案
    近年，AI深度偽造視頻的出現，讓虛假信息得以「零」成本生成和傳播，針對這樣的問題，影譜科技發布了AI視頻認證方法及產品，希望從源頭上遏制「深度偽造（Deepfakes）」的虛假信息。
  • 真實的虛擬世界:從深度偽造到深度合成
    此後，「AI深度合成」（Deep Synthesis）逐漸從實驗室飛入尋常百姓家，成為普通人數字生活體驗的一部分。朋友圈中刷屏的換臉軍裝照、以假亂真的虛擬主播以及導航軟體中響起的明星語音都是這項技術的應用形式。AI深度合成帶來新奇體驗的同時也激起了眾多疑慮，「深度偽造」（Deepfake）的陰雲揮之不去。
  • 一文告訴你深度偽造技術的發展現狀
    這令人很擔憂，不僅因為這些假貨可能被用來在選舉中左右輿論，或將某人捲入犯罪，而且還因為它們已經被濫用來製作演員的色情材料，並欺騙主要的能源生產商。 面對這一新現實，由學術機構、科技公司和非營利組織組成的聯盟正在研究開發人工智慧產生的誤導性媒體的方法。  他們的工作表明，檢測工具是一種可行的短期解決方案，但是深度偽造軍備競賽才剛剛開始。
  • 深度偽造簡介
    最近，深度偽造已經成為一種合法而可怕的欺騙手段。現如今的深度偽造可以利用人工智慧、結合現有圖像來替代某人的肖像，還能在很大程度上複製他們的臉和聲音。實際上，深度偽造可以模仿真人，讓他們說出自己甚至從未說過的話。
  • 賓果智能第三代幼教智慧機器人大規模落地KK英語
    《科創板日報》（上海，記者 周源）訊，賓果智能第三代幼教智慧機器人產品BINGO-BIII，已在紅黃藍幼兒園子公司KK英語教育領域大規模落地。 8月18日，《科創板日報》記者獨家獲悉，基於深度學習的圖像識別技術，以「端+雲」深度學習算法為底層邏輯，BINGO-BIII能將幼兒在教學過程中的反應等行為數據化和可視化，其教學過程中形成的行為數據，能成為AI訓練的數據源，最終可為「因人施教」提供標準化建議，以彌補幼教師資不足短板和解決幼兒師資水平參差不齊的痛點。
  • 《構建AI應用程式開發者指南:用微軟AI造出你的第一個智慧機器人》
    在本書中，將向你展示如何在雲中創建你的第一個人工智慧應用程式，並在此過程中了解人工智慧資源和功能的豐富程度，這些資源和功能現在正迅速向程式設計師提供。書中創建的應用程式是一個人工智慧機器人，叫「會議夥伴」，它幫助與會者和發言者構建一種新穎的問答體驗。在建造這個機器人的過程中，你將會看到人工智慧如何幫助理解對話，感知大量信息，並做出聰明的反應的。
  • 卡內基梅隆大學機器人學院博士後胡耀鈺:基於深度學習的雙目深度...
    而隨著深度學習的發展，基於深度學習的三維重建方法也開始不斷出現。在傳統三維重建方法中引入深度學習算法進行改進，或者將深度學習算法與傳統算法進行融合、優勢互補，又或者模仿動物視覺，直接利用深度學習算法進行三維重建。
  • 百度何中軍:機器翻譯——從設想到大規模應用
    百度何中軍帶來報告《機器翻譯 —— 從設想到大規模應用》。何中軍，博士，百度人工智慧技術委員會主席，從事機器翻譯研究與開發十餘年，申請專利40餘項，研發了全球首個網際網路神經網絡翻譯系統、首個WiFi翻譯機、首個語義單元驅動的語音到語音同傳系統。
  • 社交應用Kakao涉傳播兒童色情:總裁將受審
    原標題：社交應用Kakao涉傳播兒童色情：總裁將受審 　　【TechWeb報導】12月10日消息，據《韓聯社》報導，剛由即時通訊應用kakao Talk和門戶網站Daum合併而來不久的Daum Kakao公司陷入輿論風波，聯席總裁李碩祐因旗下產品涉黃即將被召入庭受審。
  • 餐飲機器人大規模量產在即 這些A股公司加緊布局
    在終端應用方面,京東、阿里等電商零售巨頭,以及美團、餓了麼本地生活服務平臺都在入局。　　　　從產業鏈結構來看,餐飲機器人上遊涉及晶片、舵機、雷射雷達等底層技術,中遊涉及圖像、語音識別等AI模塊,以及設計、加工、組裝、作業系統研發等,是目前學術研究和初創公司搶佔的熱點。下遊則包含餐廳、食堂、酒店等不同的應用場景。
  • 每周AI應用方案精選:微創外科手術機器人;外骨骼裝置
    方案2：結構光3D攝像頭——Astra系列解決方案簡介：奧比中光目前已將 3D 傳感器技術應用於金融支付、體感電視、機器人、安防等行業，並隨著在 3D 結構光傳感技術領域的不斷探索，奧比中光的產品將在手機、新零售、3D 試衣等新應用方式下繼續前行。
  • 普渡機器人助力2020全球5G應用大賽
    此次盛會由深圳市人民政府指導，深圳市發展和改革委員會主辦，是全球首場大規模5G應用賽事。大賽以「5所不在G往開來——助力產業發展引領5G時代」為主題，深圳市主要領導、研究機構院士專家，華為、騰訊、平安、電信等5G應用領域龍頭企業負責人、創新創業代表等600餘人參加活動。
  • 機器人的大場面 貝拉助力2020全球5G應用大賽
    12月22日，備受矚目的2020全球5G應用大賽（中國·深圳）頒獎禮在深圳灣體育中心盛大舉行。此次盛會由深圳市人民政府指導，深圳市發展和改革委員會主辦，是全球首場大規模5G應用賽事。華為河圖x5G作品榮獲「年度最佳應用獎」，LG U+5G AR/VR服務等5個作品榮獲「優秀場景獎」，5G+網絡3D院線等5個作品榮獲「優秀產品獎」。為眾獲獎代表產品現場頒獎時，出現了一個神秘嘉賓——普渡科技新款配送機器人「貝拉」。
  • 博智林首批大規模工程應用建築機器人交接儀式隆重舉行
    9月29日，博智林首批建築機器人交接儀式在順德碧桂園鳳桐花園項目隆重舉行。在機器人與智能產品研究院、智能製造與建造事業部、廣東博嘉拓建築科技有限公司、廣東博源機器人工程服務有限公司團隊的共同見證下，共有9款43臺建築機器人「列隊服役」，後續將會有12款104臺陸續交付，自此，博智林創立的以建築機器人為核心的人機協同作業施工體系，也正式在一線投入使用，開啟實戰模式。
  • 深度 | 搶鞋機器人大戰開始了
    本文作者：Chantal Fernandez一種由各種代理伺服器和自動化應用程式組成的網絡經濟模式已在依靠炒作驅動的球鞋市場中正式成型但很多品牌的忠實消費者認為，使用搶鞋機器人是一種不道德的行為，他們開始逐漸因為球鞋購買難而感到了沮喪，繼而指責品牌和搶鞋機器人。這種負面情緒的產生，與品牌發行新款球鞋以及限量版球鞋的初始目的背道而馳——它們本來是被用來建立建立顧客忠誠度的（這是相較大規模生產的普通球鞋而言的，普通球鞋才是這些公司的主要收入來源）。
  • AI 的負面應用,Deepfake 正在盜用社交網絡 「自拍照」生成不雅照
    去年 6 月，這款深度造軟體發布僅幾個小時便因訪問請求過大迅速宕機，而其原因是它可以一鍵脫掉女性衣服，製造大量色情圖片。近日，據調查發現，這款色情的軟體再次出現在了即時消息應用程式——Telegram 中。