哪張臉是真的?研究人員用頻率分析來識別Deep-Fake圖像 算法造圖會...

2020-11-29 手機鳳凰網

在人工智慧和Deep-Fake日益盛行的放下，不少照片看似真實，但實際上是由電腦製作的。不過這些圖像已經相當具有欺騙性——所謂的深度假圖像是由機器學習算法生成的，人類幾乎無法將它們與真實照片區分開來。

Horst Görtz Institute的的研究人員和「大規模對手時代的網絡安全」(Casa)卓越集群開發了一種有效識別深度偽造圖像的新方法。

這種方法被讓那些由計算機算法而不是人類創建的偽造圖像「一覽無遺」。為此，他們還分析了頻域中的對象，這是一種已建立的信號處理技術。

該團隊在2020年7月15日的國際機器學習會議(ICML)上展示了他們的工作，該會議是機器學習領域的主要會議之一。此外，研究人員將他們的代碼免費發布在網上，這樣其他小組就可以複製他們的結果。

兩種算法的相互作用產生新的圖像

deep -fake images是「深度學習」(deep learning)和「fake」(fake)的合成詞，是在計算機模型的幫助下生成的，也就是所謂的「生成式對抗網絡」（Generative Adversarial Networks)，簡稱GANs。

在這些網絡中有兩種算法一起工作：第一種算法根據特定的輸入數據創建隨機圖像。第二種算法需要判斷圖像是否為假圖像。如果發現圖像是偽造的，則第二種算法會向第一種算法發出修改圖像的命令——直到不再將其識別為偽造為止。

近年來，Deep-Fake這種技術已經讓那些深度的算法合成假圖像變得越來越真實。

在一些網站上，用戶可以檢查他們是否能夠區分真假照片。「在假新聞時代，如果用戶不能區分電腦生成的圖像和原始圖像，這可能會成為一個問題，」系統安全系主任託爾斯滕·霍爾茲（Thorsten Holz）教授說。

為了進行分析，Bochum Fake Image研究小組成員使用了數據集，這些數據集也構成上述頁面「哪張臉是真實的」（Which Face is Real）的基礎。

在這個跨學科項目中，系統安全系主任Joel Frank、Thorsten Eisenhofer和Thorsten Holz教授、機器學習系主任Asja Fischer教授、數位訊號處理系主任Lea Schonherr和Dorothea Kolossa教授達成了合作。

圖像頻率分析暴露了假圖像的「偽影」

到目前為止，不少研究團隊已經使用複雜的統計方法分析了偽造的圖像。而Bochum Fake Image研究小組選擇了一種不同的方法，通過使用離散餘弦變換將圖像轉換到頻域。生成的圖像因此表示為許多不同餘弦函數的和。自然圖像主要由低頻函數組成。

變換到頻域的人物圖像：左上角代表低頻圖像區域，右下角代表高頻區域。在左側，您可以看到真實人物照片的變換：頻率範圍是均勻分布的。計算機生成的照片的轉換（右）包含一個在高頻範圍內的典型網格結構-典型的偽像。

分析表明，GANs生成的圖像在高頻範圍內會顯示偽影。例如，在偽圖像的頻率表示中出現了一種典型的網格結構。「我們的實驗表明，這些偽影不僅出現在GAN生成的圖像中。它們是所有深度學習算法的一個結構性問題。系統安全主席Joel Frank解釋說。

「我們認為研究中描述的偽影將始終告訴我們該圖像是否是由機器學習創建的偽造圖像，」 Frank補充道。 「因此，頻率分析是自動識別計算機生成圖像的有效方法。」

編譯/前瞻經濟學人APP資訊組

相關焦點

  • 什麼是Deepfake?為什麼Deepfake生成的假臉會這麼自然?
    為了防範它背後的社會安全隱患，近日，紐約大學的研究人員找到了一種區分真假視頻的可靠方法，他們發現在虛假視頻中，人物的頭部動作和瞳孔顏色通常會很怪異，當人眨眼時，它的眼球會出現詭異運動。 什麼是Deepfake？ 既然要對抗虛假視頻，就讓我們先從Deepfake講起，下面是它的作品「案例」：
  • 新研究訓練小老鼠充當分類器識別Deepfake假聲音,比計算機更靠譜
    會上，研究人員提出，小動物們，特別是小老鼠，在識別自然語音元素方面很有天分。這項成果可能會影響技術公司通過人工智慧來構建系統，去檢測電腦合成的聲音。"Deepfake"的發展令人擔憂「小哥哥網戀嗎？我蘿莉音。」
  • 換臉App背後的恐慌:我的臉什麼時候會被偽造,又該如何辨別?
    當然這些視頻並不是真的，而是藉由AI技術偽造，這種技術因此得名Deepfake。「我只是找到了一個聰明的方法來換臉。」Deepfakes在接受Vice採訪時說, 「有了數百張面部圖像，我就能輕鬆生成數百萬變形的圖像來訓練神經網絡。
  • 找到那張假照片,對抗Deepfake之路
    FakeCatcher是如何實現其「打假」功能，是否會導致Deepfake「反打假」以及兩年後FakeCatcher又有什麼新的突破和創新，今天智東西為你一一道來。論文：https://arxiv.org/abs/2008.11363
  • 《連線》雜誌：AI生成的文字將是最可怕的Deepfake內容
    據《連線》(Wired)雜誌報導，當評論家和研究人員試圖猜測什麼樣的操縱活動可能會威脅到2018年和2020年的選舉時，誤導性的人工智慧生成的視頻往往名列榜首。雖然這項技術仍在興起，但其被濫用的可能性是如此驚人，以至於科技公司和學術實驗室優先研究並資助檢測方法。
  • Deepfake陰影下的「人臉識別時代」全面到來!我們可能遭遇什麼危險?
    小探記得，就在去年年底，矽谷人工智慧公司Kneron曾表示該公司使用Deepfake（深度欺騙）技術成功欺騙了支付寶和微信的支付程序，並且順利通過進入機場、火車站等自助終端的檢驗。那麼，現在全面鋪開人臉識別技術有必要嗎？？我們正在進入的「人臉時代」真的安全嗎？
  • deepfake會通過模擬和翻轉,影響聲音的合成
    證明思考的重要性如果拿著印鈔機來印紙幣，不知道這個風險。第一次見這種標題的消息，就看到說deepfake被曝光但是我本人真的覺得。電影和遊戲還是不要用這種方式更好。確定嗎？這次的事件已經是第四次傳言deepfake，但是得到的回覆都是"很久之前就出現過，但是估計是黃牛炒作"云云。但是這不是重點，重點是這次python等一些軟體已經可以做到將圖片翻轉後，替換聲音、圖像，還原出聲音。
  • 用生物信號檢測Deepfake，這個新方法會很快失效嗎？
    讓 Deepfake 越來越逼真的一個核心技術是 GAN（Generative Adversarial Network），也就是生成對抗網絡。它的原理類似左右手互博 —— 生成器生成假視頻，鑑別器用以鑑別真偽，以此不斷提高造假的質量。正因如此，檢測 Deepfake 的方法很容易被超越。比如在 2018 年，就有研究通過人物的眨眼是否自然來判斷視頻的真偽。
  • AI換臉視頻讓人真假難辨,新技術用AI來識破它
    但日前研究人員通過人工智慧對虛假視頻中的人像眨眼進行分析，從而可以有效將假視頻檢測出來。隨著人工智慧的飛速發展，不少人利用所謂的Deepfake黑科技製作出虛假視頻，這種視頻換臉技術引起了業內的強烈擔憂。正如他們所稱的那樣，Deepfake是數字虛假信息不斷演變的最新的——也許是最令人不安的——表現。修改圖像早已有之，而篡改音頻的方法也在不斷改進。
  • 一個模型擊潰12種AI造假,各種GAN與Deepfake都陣亡
    最新研究發現，只要用讓AI學會鑑別某一隻GAN生成的假圖片，它就掌握了鑑別各種假圖的能力。不論是GAN生成的，Deepfake的，超解析度的，還是怎樣得來的，只要是AI合成圖片，都可以拿一個通用的模型檢測出來。儘管各種CNN的原理架構完全不同，但是並不影響檢測器發現造假的通病。
  • 帶你解析2020 Kaggle DeepFake 排行榜前1.5%技術方案
    Deepfake -假視頻檢測截圖來自kaggle官網最近的2020 Deepfake假視頻檢測挑戰賽，旨在幫助世界各地的研究人員檢測線上視頻及語音是否被偽造和篡改，幫助提升線上人權和保護網絡上個人隱私。
  • AI時代的高科技讀心術:算法解碼腦中圖像
    一臺能讀懂你的心思的電腦會有很多用處，更不用說對於那些癱瘓的、無法正常與人交流的人。如今，科學家們已經創造出了來解釋和準確地再現一個人所看到的或想像的圖像的算法。這項技術可能還需要幾十年的時間才能有實際應用，但科學家們離建立起能夠幫助我們投射內心的系統更近了一步。
  • 黑科技DeepFake，上線五天就遭全球唾棄，這技術到底有多邪惡？
    而且這項技術真的是剛需，因為在初期野蠻發展的這段時間裡，以Deepfake技術代碼的APP製作的視頻中，有96%都涉及色情，當然娛樂圈的公眾人物妥妥的成了首選對象！它依賴於一種稱為自動編碼器的神經網絡，將圖像縮小到較低維空間編碼器和一個從潛在表示中重建圖像的解碼器組成，Deepfake通過通用編碼器來利用此架構，該編碼器可將人的特徵編碼到這個空間中，而特徵包括面部特徵和身體姿勢的關鍵特性
  • 想用GAN和Deepfake瞞天過海,沒那麼容易:這是Adobe和加州伯克利的...
    或許，GAN 和 Deepfake 在「瞞天過海」上也不是萬能的。近來，諸如生成對抗網絡（GAN）的深度圖像生成技術快速發展，引發了公眾的廣泛關注和興趣，但這也使人們擔心，我們會逐漸走入一個無法分辨圖像真實與否的世界。這種擔憂尤其體現在一些特定的圖像操縱技術上，例如用來進行面部風格替換的「Deepfake」，以及逼真的人像生成。
  • 社交網絡上的圖正被Deepfake機器人用來生成果體照
    社交網絡上的圖正被Deepfake機器人用來生成果體照 AI新媒體量子位 發表於 2020-11-23 11:39:24 小心！
  • DeepFake檢測新思路：用心跳做"信號"，背後的"造假"模型也無處可逃
    此類檢測技術，大多都是「二分類」檢測方法，雖然也能達到98%的準確率，然而這些檢測方法往往會受到過渡匹配的影響，也就是說在處理不同類型的圖片時，檢測方法的性能會顯著下降。當前的技術主要是根據解析度、三維信息、眼動等來區分，因為翻拍的照片解析度比直接從真人上採集的照片在質量、解析度上有差別。近日，賓漢姆頓大學和英特爾的研究人員開發了一種算法，號稱能用視頻中的生物信號檢測這個視頻是否是偽造的。
  • 基於STFT濾波算法的指紋圖像識別系統的設計與實現
    本文在充分調研了目前的指紋預處理和特徵提取研究成果之後，分別針對指紋增強、指紋二值化和指紋特徵提取方面提出了三個新的算法，部分解決了目前指紋識別技術面臨的問題與挑戰，並且利用這些新的算法製作了一款指紋圖像識別系統。本文通過緒論、需求分析、系統設計、系統實現、系統測試一步步介紹指紋圖像識別技術在指紋識別系統中的應用情況。
  • 德國研發「無臉」識別 挑戰像素新底線—新聞—科學網
    無臉識別」。 當然，這並非意味著真的沒有臉也能識別，而是這套系統能夠通過模糊相片甚至被部分遮擋的圖片來識別個體。 這並非第一次科研人員對模糊照片進行人臉識別。去年，Facebook旗下的人工智慧實驗室就推出了類似的識別系統。它利用提供免費及付費數字照片存儲、分享的軟體Flickr上4萬張公開照片，讓系統學習演算法學習辨識，最終的算法識別模糊圖片準確率達到83%。研究人員稱這種算法將為FacebookMoments照片應用提供幫助。
  • 依圖NIST奪冠,解密人臉識別算法原理
    2.特徵臉方法(PCA)　　特徵臉方法是90年代初期由Turk和Pentland提出的目前最流行的算法之一，具有簡單有效的特點， 也稱為基於主成分分析(principal component analysis，簡稱PCA)的人臉識別方法。