從圖像、視頻到語音，DeepFake正在建構一個虛假的世界。
我們看到，在馬斯克的這段演講視頻中，Deepfake的換臉技術幾乎達到了人眼無法區別的地步。
不過，隨著技術的不斷成熟，Deepfake卻帶來隱藏的「虛假」風險。自從2017年，一位網友將美國女星和成人電影女主做了人臉交換，偽造了一段色情視頻後，有關濫用Deepfake製造虛假、不良內容的視頻一直充斥於網絡。
為了應對Deepfake換臉技術帶來的種種風險，2019 年，Facebook 斥巨資發起「Deepfake 檢測挑戰賽」，這項挑戰賽一直延續到現在，其識別準確率已經達到了82.56%。
不過，令人擔憂的是，有人又將虛假的矛頭指向了Deepfake語音。有報導稱，一家英國能源公司被敲詐了24萬美元，其背後正是利用的音頻版Deepfake技術。
攻擊者假冒公司CEO製造了一段虛假語音，以電子郵件的方式發給公司下屬員工，要求其向指定帳戶完成匯款。員工介紹稱，假冒音頻中的音調、口吻和口音都與公司CEO頗為相似，對他產生了誤導乖乖轉了帳。其實，諸如此類的詐騙案件已經發生了不止一起。
對此，安全諮詢公司Nisos在分析過偽造音頻後發出警告，Deepfake語音詐騙正在興起，必須提高警惕。
Deepfake語音克隆曝光
最近一家科技公司也收到了一份自稱公司CEO的語音郵件，要求「立即提供協助以完成緊急商業交易」。不過，這次員工發現了語音中的異常，詐騙活動沒有取得成功。
https://www.vice.com/en_us/article/pkyqvb/deepfake-audio-impersonating-ceo-fraud-attempt點擊連結收聽Deepfake偽造音頻
可以聽出這段語音的質量並不是很好，有點機械、不連貫，但員工介紹口音和音調還是基本相似的。
Deepfake語音克隆的質量，主要取決於假冒對象的錄音，數量越多、質量越高，偽造的逼真度也就越高。對於公司高管而言，他們在電話會議，YouTube，社交媒體或者TED演講中的錄音很容易獲得，也由此成為了詐騙團夥的偽造對象。
隨後，該公司將這段偽造的音頻交給了一家安全諮詢公司Nisos。Nisos使用一款名為Spectrum3d的音頻頻譜圖工具，分析了Deepfake的偽造音頻。
Deepfake音頻頻譜圖
可以看到頻譜圖中的音調幾乎一直處於峰值狀態，這與我們日常講話的高低音轉換顯然有很大差異，另外，研究人員稱，他們在音頻中沒有發現任何噪音的痕跡，顯然說明音頻是通過計算機軟體合成的。
與正常人聲的頻譜圖對比來看，結果更是一目了然。音高頻率，幅度更加自然，同時也能夠檢測數微弱的背景噪音。
正常人聲頻譜圖
由於未獲取足夠的樣本，詐騙團夥採用的是何種Deepfake軟體合成技術還不得而知。不過，攻擊者為製造高逼真的欺詐音頻，需要滿足以下幾個條件：
捕獲幾乎沒有背景噪音的高質量音頻。在無法通話的場景下，分階段發送音頻進行溝通以留言的方式進行，避免面對面的交談如何甄別語音欺詐
雖然這次Deepfake偽造音頻存在明顯瑕疵，但只要獲取高質量的語音樣本，其偽造程度還是能夠以假亂真。
另外，Nisos公司表示，音頻的深度偽造不僅與人的語氣有關，還與特定的言語舉止有關。但是這一目標已經能夠實現，比如攻擊者會採用會採用類似於Yandex反向圖像搜索的語音工具，通過大量樣本的建構和訓練，將源語音轉換為目標語音的模型。
目前音頻欺詐案件已經陸續出現，隨著Deepfake軟體的使用更加容易，音頻合成處理的質量越來越高，此類欺詐案件也會愈加普遍。
不過，Nisos公司強調由於技術的局限性，此類欺詐事件還是很容易識破的。比如通過電話溝通確認。
Deepfake技術無法實現連貫的語音通話，因此攻擊者通常採用語音郵件的形式與對方溝通。另外，也可以通過詢問一些只有內部了解到的知識來確認對方的身份。此外，攻擊者會盜用公司高級管理人員的郵箱帳號來與下屬員工進行溝通，因此，加強郵箱安全防護也是非常必要的。
此外，除了經濟詐騙外，攻擊者還可能通過引導員工登錄不安全網站等行為，對公司的網絡或物理資產造成破壞。
引用連結：雷鋒網雷鋒網雷鋒網
https://www.theverge.com/2020/7/27/21339898/deepfake-audio-voice-clone-scam-attempt-nisoshttps://www.theverge.com/2019/9/5/20851248/deepfakes-ai-fake-audio-phone-calls-thieves-trick-companies-stealing-moneyhttps://www.nisos.com/white-papers/rise_synthetic_audio_deepfakes