備受關注的韓國「N號房」事件又有了新進展。據韓媒消息，警方在調查過程發現了多個「色情換臉」聊天室，內有大量韓國女子偶像的換臉照片和視頻。
AI前哨站調查發現，這只是色情黑灰產的冰山一角。如今，包括換臉在內的多種AI技術，已經被深度應用於色情相關產業。
····
警方調查N號房 牽出色情換臉專用聊天室
據韓國網站Naver消息，警方在調查「N號房」事件時，在涉事平臺Telegram上發現了四個「成人換臉合成物」的專用聊天室，換臉對象均為韓國女藝人。
與通過邀請加入的「N號房」不同，這些專用聊天室需要通過輸入複雜的註冊地址進入。在某個以女性偶像歌手為主題的換臉房內，超過2000名會員上傳了換臉照片和視頻。
這並非色情換臉視頻首次被曝光。事實上，AI換臉背後的技術Deepfakes誕生之初，就是被開發者用於色情換臉：在開發者上傳的視頻中，成人女優的臉被換成各種女明星，且效果極為自然。AI換臉技術由此逐漸走入大眾視野。
從2017年誕生到現在，經過近三年的發展，AI換臉技術已經成為色情產業的利器。據AI前哨站此前調查，一些國外的成人網站出現了「換臉專區」，其中包括大量以各國女藝人為主題的色情視頻。
去年，網絡安全公司Deeptrace發布了一份與色情換臉有關的報告。報告顯示，從2018年12月至2019年7月，網上的AI換臉視頻數量幾乎翻了1倍，逼近1.5萬部。其中，色情視頻佔比高達96%。
值得注意的是，韓國女偶像的尷尬處境，在Deeptrace的報告裡已經初露端倪。報告顯示，在觀看量排名前十的女藝人中，韓國偶像歌手佔據三席，其色情換臉視頻數量達到404部，觀看數總計1340萬次。
韓國偶像歌手成為主要受害對象。圖/AI前哨站
韓國女偶像成為換臉重災區，與韓國的女性地位與流行文化有密切關係。
韓國大學國際研究學院的博士生Xi Lin在其論文中指出，韓流文化中存在「物化」女偶像的現象。平均而言，越關注韓流活動的人，越不認可性別平等。
研究韓流和全球文化的南加州大學安娜堡新聞與傳播學院的實踐助理教授Hye Jin Lee在接受外媒採訪時表示，他懷疑是韓國女偶像的「黑粉」製作了色情換臉視頻。對偶像而言，聲譽和形象至關重要。通過色情換臉視頻玷汙她們的形象，能讓黑粉獲得充分的滿足。
在此次N號房事件中，某女子偶像歌手所屬公司的工作人員就在接受韓媒採訪時無奈表示，網絡平臺的內容流動非常頻繁，很難確定生產者和傳播者。因此，即使他們知道藝人的色情換臉照片在網絡上流傳，也只能「放手不管」。「如果要強硬地應對，歌手的形象也將受損，在很多方面都令人頭疼。」他說。
····
不只是換臉 AI技術已被深度應用於色情產業
在AI換臉的洶湧暗潮中，女性成為最大的受害者。
一個對比鮮明的事實是，根據網絡安全公司Deeptrace的統計，也有不少男性藝人、企業家甚至是政客被製作進娛樂性質的換臉視頻裡，比如Facebook創始人扎克伯格、美國總統川普。然而，色情換臉視頻中的被換臉對象，是清一色的女性。
非色情視頻中女性僅佔39%，色情視頻中卻佔100%。
這些女性的換臉視頻被數以萬計的人瀏覽和品評，自己卻可能毫不知情。一些並非藝人的普通女性在社交網站發布的生活照，也被盜取和利用。
事實上，不只是AI換臉，還有其他AI技術被深度應用於色情產業。圖像識別和增強算法的進步，讓AI有了補全畫面缺失部分的能力，由此衍生出「脫衣」或「去碼」工具。
去年6月下旬，AI軟體「DeepNude」現身網絡。它以人工智慧算法為基礎，可以識別並「刪去」照片中人物的衣服，從而把正常照片轉為「裸照」。由於爭議太大，這款軟體在上線數天後就從官網火速下架。但AI前哨站調查發現，那些已被下載和保存的軟體資源，仍然在悄然流傳。
可以去除畫面中馬賽克的「去碼」技術，如今也相當成熟，導致大量所謂「無碼」視頻在網上流傳。去年8月，一段以日本人氣女優三上悠亞為主角的「無碼破壞版」視頻引發熱議，三上悠亞通過Instagram公開回應：「這次的無碼影片流出變成大家討論的話題，但是很抱歉~這是AI電腦合成的喔。」
三上悠亞公開回應。圖自Instagram。
值得注意的是，從Deepfakes到如今的「脫衣」「去碼」工具，相關開發者都始終隱匿在網絡背後，真實身份成謎。而他們所發布的軟體和工具，卻因為開源得到廣泛流傳，並且大大降低了技術應用的門檻——哪怕是沒有人工智慧理論基礎的普通人，也能通過相關教程和說明快速上手使用。
縱觀全球，遭遇AI色情的女性普遍面臨困境：儘管有肖像權、名譽權等方面的維權角度，但網絡的匿名性和流動性等因素，還是讓她們處於維權無門的狀態。
去年以來，各國監管部門紛紛展開探索，希望找到更好地規制方式。
去年5月底，國家網信辦會同有關部門發布《數據安全管理辦法（徵求意見稿）》，其中要求，「網絡運營者利用大數據、人工智慧等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明』合成』字樣；不得以謀取利益或損害他人利益為目的自動合成信息」。
去年10月，美國加尼福利亞州政府籤署了AB 602法案，禁止在未經當事人同意的情況下進行色情活動——「同意」意味著當事人明確知曉並自願籤署協議（協議中應該包括對色情內容的描述）。如果某個加州居民發現有人未經其允許製作了色情換臉視頻，可以向法院提起訴訟並追討賠償。法定的損害賠償不少於1500美元但不超過三萬美元，如果不法行為是惡意實施的，法定損害賠償金最高可增至十五萬美元。
如何防範AI技術作惡？我們或許站在一個新時代的起點。
編輯/何吉川
來源/南方都市報
掃碼進入【重慶商報】微信公眾號
點擊底部菜單【渝康碼】
即可申領/查詢你的「健康碼」