這種技術能將馬賽克人臉變為高清肖像,但應考慮避免種族歧視丨硬科技

2020-12-14 界面新聞

記者 | 徐詩琪1

給圖片加上馬賽克很簡單,但若將馬賽克還原成清晰圖片卻很難。近日,美國杜克大學科研團隊推出了一款AI工具,能將馬賽克級別的模糊人臉,轉換為以假亂真的高清圖像。

這個名叫PULSE的算法,能夠在幾秒內將16x16像素的圖片提升至1024x1024,解析度提升高達64倍。目前該算法僅針對人臉照片,經算法生成的新照片能夠呈現臉上的毛孔、皺紋甚至一縷頭髮。

圖源:PULSE官網不過,算法生成的人像圖片與原始的真實人臉並不完全相符,它也不能被用於人臉識別。這些由算法新生成的高清人臉在現實中並不存在(當然,現實中的60億人裡或許有和他們長得相似的人)。

還原馬賽克照片的工具早已有之。以往的還原方法是在低解析度圖片中添加像素點,而PULSE卻不同,它先利用AI生成一系列高清圖片,再降低它們的解析度,並與模糊的原圖對比,從中找出匹配程度最高、最接近原圖的高清圖像。

PULSE輸出的圖像與其他方法對比。圖源:PULSE官網儘管目前研究團隊的論文以人臉照片作為案例,但理論上,PULSE可以應用至所有物體的低解析度照片,並製作出清晰逼真的圖像。因此,其應用範圍可以包含醫學、顯微鏡學、天文學和衛星圖像等。

該團隊在機器學習中使用了一種名為「對抗生成網絡」(StyleGAN)的工具,這是在相同照片數據集上訓練的兩個神經網絡。其中一個神經網絡通過AI生成經過數據訓練的人臉,而另一個用於比對該人臉圖片能否以假亂真。第一個神經網絡會在訓練中表現得越來越好,直到第二個無法分辨出差異。

就在PULSE引起大眾興趣以後,新的問題也跟著讚譽一起到來。有網友指出,PULSE涉嫌「種族歧視」。

國外網友發現,在PULSE中輸入被模糊後的歐巴馬照片時,該工具輸出的「歐巴馬」高清圖像竟是白人臉孔。後又有許多人進行了相似的測試,結果無一例外——輸入低清的少數族裔人臉照片,PULSE輸出的都是高清的白人特徵照片。

在BLM運動進行正盛的時期,任何一個關於「黑白」的爭論都會挑動人們敏感的神經。很明顯,在網友們發現這一點以前,杜克大學研究團隊並沒有意識到算法的公正性問題。而值得玩味的是,研究團隊的5個人中,至少有3人是有色人種。

對此,杜克大學研究團隊很快在Github上回應稱:「看起來PULSE生成白人面孔的頻率確實比其他有色人種高很多,這種偏見很可能是從StyleGAN訓練時使用的數據集繼承而來的,也可能存在我們不知道的其他因素。」

圖靈獎得主、Facebook首席AI科學家Yann LeCun也加入了這場討論,他同樣認為是數據集的問題:「數據有偏見,機器學習系統就會有偏見。這個算法使每個人看起來都是白人,因為該網絡在FlickFaceHQ上進行了預訓練,裡面大多是白人照片。在塞內加爾的數據集上訓練『完全』相同的系統,每個人看起來都會像非洲人。」

有人質疑,Yann LeCun並沒有考慮到社會倫理因素,例如西方社會對有色人種的長期忽視,而將罪名都推給了不公平的數據集。更何況,絕對公平的數據集是很難實現的。

向來以直言不諱的Yann LeCun在連發數十條推特後,最終做出了道歉聲明:「很抱歉我在Twitter對此事的評論成了話題中心。」

AI行業標杆人物Yann LeCun在推特做出了道歉。目前,研究團隊在PULSE官網置頂了關於爭議的聲明:我們想解決有關PULSE偏見的問題。我們已經在論文中增加了一個部分,並附加了一張能直接解決此偏差的模型卡。

相關焦點

  • AI也會種族歧視?智能算法竟把黑人看成黑猩猩
    在人工智慧愈發普及的當下,越來越多的地鐵、商場或其他公共場所,都已出現了人臉識別的儀器。按理說,這樣先進的技術,本該讓人們的生活更便捷,更自由。然而,在某些時候,這些技術非但沒能造福人類,反而揭開了人類社會中最醜陋的傷疤。
  • 當人臉識別遭遇種族歧視——IBM選擇了政治正確
    6月8日,IBM 的執行長克裡什納宣布要退出人臉識別技術研發,目的是為了進一步消除種族歧視。要知道,人臉識別技術,是未來人工智慧技術發展至關重要的一個環節。IBM的放棄,充滿了壯士斷腕的勇氣和決心,詮釋了對種族歧視問題的堅定立場。縱觀古今這可以看成人類在幾千年的歷史長河中,科技創新與文化之間的又一次較量。
  • 歐巴馬被「去馬賽克AI」洗白,這項新研究惹上種族歧視麻煩
    網友對此反映自然很激烈,有人認為這是一種帶有種族歧視的、非常危險的技術;這一種觀點引起了較多共鳴,還有人緊跟著曬出了其他「種族偏見」的AI算法,比如這位一個將照片變成文藝復興風格的算法也將別人強行洗白:有人乾脆給PLUSE起了個新外號:「白人雷達」但是也有一部分網友認為,算法本身是沒有所謂
  • MIT 因 AI 數據集涉嫌種族歧視致歉並宣布永久下架
    缺乏對權威數據集的關鍵參與,會對女性、種族和少數民族以及處於社會邊緣的弱勢個體和社區造成不成比例的負面影響。」這些群體在 AI 訓練數據集中往往沒有得到很好的表示。這也是人臉識別算法在識別女性和膚色較深的人時遇到困難的原因。今年早些時候,底特律的一名黑人因被面部識別軟體誤認為小偷嫌疑人,而被警察錯誤逮捕。「人們不會考慮這些模型將如何應用,或者它可以用於什麼。
  • 這種馬賽克,能被 AI 一鍵去除了
    至於愛呢,就愛在我們在朋友圈、微博等社交平臺上發照片或者隱私信息的時候,可以選擇用馬賽克把重要的信息給模糊掉。大家都以為,只要打了馬賽克就能避免讓其他人看到自己不想被別人看到的信息。但事實上真是如此嗎?
  • 糊得六親不認也能給你修復了!這個強力去馬賽克的AI,絕了!
    而且這個騷東西最牛逼的地方在於,它不僅能祛馬賽克,還能升級畫質! 也就是說,即便是因為解析度不夠而「糊成馬賽克」的圖它也能修復! 即便你的照片糊得連親媽都認不出來了,它也能給你識別出來!
  • 馬賽克在AI面前可能不安全了 這種馬賽克能被 AI 一鍵去除了
    川北在線核心提示:原標題:馬賽克在AI面前可能不安全了 這種馬賽克能被 AI 一鍵去除了 說到馬賽克這東西,一直以來都讓人又愛又恨。 這東西讓人恨在什麼地方,我就不直說了吧? 各位老司機一定比我這個 18 歲的少女懂的多了去了。
  • 演員換臉、AI 找對象、去馬賽克… 2020 年 AI 圈十大熱議焦點回放
    三、人臉識別濫用:誰來保護我的臉?遠距離高清攝像頭,能在你毫無察覺地情況下,悄無聲息地採集完成你的人臉信息。這種便捷又高效的採集方式,致使刷臉應用愈發盛行。註冊 App 刷臉、買單刷臉、看房刷臉、打車刷臉、倒垃圾刷臉,連取廁紙都安裝上了人臉識別裝置…… 這年頭,刷臉帶來了方便,也帶來了無處不在的安全風險。
  • 谷歌瀏覽器將不再使用「黑名單」一詞:避免種族歧視聯想
    來源:澎湃新聞原標題:避免種族歧視聯想,谷歌瀏覽器將不再使用」黑名單「一詞圍繞種族問題展開的抗議在全球多地發生,形成了一股輿論潮流。在此背景下,網際網路巨頭谷歌決定將在其瀏覽器中棄用一些可能引起種族歧視聯想的表述。據《印度斯坦時報》6月9日報導,由於全球各地反對種族歧視的呼聲高漲,谷歌決定修改Chrome瀏覽器中可能引發種族歧視聯想的表述,包括「黑名單」、「白名單」等詞。
  • 避免種族歧視聯想 谷歌瀏覽器將不再使用"黑名單"一詞
    (原標題:避免種族歧視聯想,谷歌瀏覽器將不再使用」黑名單「一詞)
  • 谷歌公司研發去除馬賽克的技術,是福利還是禍害呢?
    馬賽克在生活中應用的非常廣泛,但是對於很多宅男們來說,馬賽克卻阻止了他們對人類文明深層次的探尋。自從馬賽克被發明以來,如何將馬賽克清除一直以來都是一項熱門的課題。在前幾年,來自谷歌公司的Google Brain研究團隊就對外公布了一項利用機器來實現去除馬賽克的新技術。
  • 2020年AI圈十大熱議焦點:演員換臉、AI找對象、去馬賽克
    三、人臉識別濫用:誰來保護我的臉? 遠距離高清攝像頭,能在你毫無察覺地情況下,悄無聲息地採集完成你的人臉信息。這種便捷又高效的採集方式,致使刷臉應用愈發盛行。
  • 谷歌將撥款支持黑人企業,支持反種族歧視
    如全球最大的搜尋引擎公司谷歌,稱將對內改革,對外支持。對內努力增加公司擔任高級職位的黑人員工數量,對外提供1.75億美元支持黑人企業。谷歌將提供1.75億美元支持黑人企業面對反種族主義歧視的抗議行動的席捲,大各企業也難逃制裁,被推到了聚光燈下。
  • 演員換臉、AI找對象、去馬賽克……2020年AI圈十大熱議焦點回放
    03、人臉識別濫用:誰來保護我的臉?遠距離高清攝像頭,能在你毫無察覺地情況下,悄無聲息地採集完成你的人臉信息。這種便捷又高效的採集方式,致使刷臉應用愈發盛行。註冊App刷臉、買單刷臉、看房刷臉、打車刷臉、倒垃圾刷臉,連取廁紙都安裝上了人臉識別裝置……這年頭,刷臉帶來了方便,也帶來了無處不在的安全風險。
  • 演員換臉、AI找對象、去馬賽克…2020年AI圈十大熱議焦點回放
    三、人臉識別濫用:誰來保護我的臉?  遠距離高清攝像頭,能在你毫無察覺地情況下,悄無聲息地採集完成你的人臉信息。這種便捷又高效的採集方式,致使刷臉應用愈發盛行。  註冊App刷臉、買單刷臉、看房刷臉、打車刷臉、倒垃圾刷臉,連取廁紙都安裝上了人臉識別裝置……這年頭,刷臉帶來了方便,也帶來了無處不在的安全風險。
  • 種族歧視成為「常態」,美國悲劇再重現
    導讀:如今的美國社會中,存在各式各樣的問題,美國政府雖然可以發現問題所在,但是缺乏制止這些問題出現的實際行動,其中,種族歧視問題就是非常典型例子。然而,要想真正追尋種族歧視源頭,還得到美國建國初期,由於白人資產階級與其他階級之間的經濟矛盾,是造成當下美國種族歧視的主要根源。1776年美國《獨立宣言》中明確寫道,人人生而自由平等,但生活在底層的人民都深知平等與他們毫無關係,「平等」對他們來說是遙不可及的夢想,美國種族批判理論學者德裡克·貝爾表示,種族歧視將會是美國持久且主要的標識。
  • 法治傳播中的「馬賽克」與新聞倫理
    但絕大多數的受眾對第二次的這種暴露犯罪嫌疑人面部特徵的方式,能引發認可和歡迎,反映受眾對於一定場合不必全用「馬賽克」的情緒訴求。 二是報導內容應以公檢法機關公開發布的信息和內容為準,因為這些內容大多是經慎重考慮或審定過的;三是報導中發表評論,應符合天理人心。在報導中,凡事要以案情為依據,以法律為準繩,不被複雜的社會輿論所裹挾和左右。
  • 環球深觀察丨「百萬黑人大遊行」25年後 美國系統性種族歧視問題...
    環球深觀察丨「百萬黑人大遊行」25年後 美國系統性種族歧視問題愈發嚴重環球資訊+  作者:  2020-10-18 分析指出,種族主義借疫情升溫
  • 居然可以完美去除日本片的馬賽克?
    這是一種深度學習的模型,包含兩個對立的神經網絡,通過不斷地學習和對抗,能生成極其真實的虛構物。GAN被運用到圖像增強領域,實現一項以前不敢奢求的功能——去馬賽克。 GAN 可以無中生有,創造出世界上不存在,但又極為真實的人臉,下面都是。
  • 和《飄》相關系列博物館,呼應全美反種族歧視抗議調整展陳
    這是自二月全美爆發反種族歧視抗議以來,又一個針對性的機構回應。 狄克森女子合唱團( Dixie Chicks)更名為 The Chicks,把引發聯想的Dixie去掉,避免與美國內戰期間自由州與蓄奴州的界線梅森-狄克森線有任何牽扯。迪士尼考慮重新命名其著名遊樂項目飛濺山(Splash Mountain ride),因為它的設定是建立在迪士尼爭議電影《南方之歌》基礎上的。