從圖像、視頻到語(yǔ)音，DeepFake正在建構(gòu)一個(gè)虛假的世界。
我們看到，在馬斯克的這段演講視頻中，Deepfake的換臉技術(shù)幾乎達(dá)到了人眼無法區(qū)別的地步。
不過，隨著技術(shù)的不斷成熟，Deepfake卻帶來隱藏的“虛假”風(fēng)險(xiǎn)。自從 2017 年，一位網(wǎng)友將美國(guó)女星和成人電影女主做了人臉交換，偽造了一段色情視頻后，有關(guān)濫用Deepfake制造虛假、不良內(nèi)容的視頻一直充斥于網(wǎng)絡(luò)。
為了應(yīng)對(duì)Deepfake換臉技術(shù)帶來的種種風(fēng)險(xiǎn)，2019 年，F(xiàn)acebook 斥巨資發(fā)起“Deepfake 檢測(cè)挑戰(zhàn)賽”，這項(xiàng)挑戰(zhàn)賽一直延續(xù)到現(xiàn)在，其識(shí)別準(zhǔn)確率已經(jīng)達(dá)到了82.56%。
不過，令人擔(dān)憂的是，有人又將虛假的矛頭指向了Deepfake語(yǔ)音。有報(bào)道稱，一家英國(guó)能源公司被敲詐了 24 萬(wàn)美元，其背后正是利用的音頻版Deepfake技術(shù)。
攻擊者假冒公司CEO制造了一段虛假語(yǔ)音，以電子郵件的方式發(fā)給公司下屬員工，要求其向指定賬戶完成匯款。員工介紹稱，假冒音頻中的音調(diào)、口吻和口音都與公司CEO頗為相似，對(duì)他產(chǎn)生了誤導(dǎo)乖乖轉(zhuǎn)了賬。其實(shí)，諸如此類的詐騙案件已經(jīng)發(fā)生了不止一起。
對(duì)此，安全咨詢公司Nisos在分析過偽造音頻后發(fā)出警告，Deepfake語(yǔ)音詐騙正在興起，必須提高警惕。
Deepfake語(yǔ)音克隆曝光
最近一家科技公司也收到了一份自稱公司CEO的語(yǔ)音郵件，要求“立即提供協(xié)助以完成緊急商業(yè)交易”。不過，這次員工發(fā)現(xiàn)了語(yǔ)音中的異常，詐騙活動(dòng)沒有取得成功。
https：//www.vice.com/en_us/article/pkyqvb/deepfake-audio-impersonating-ceo-fraud-attempt
點(diǎn)擊鏈接收聽Deepfake偽造音頻
可以聽出這段語(yǔ)音的質(zhì)量并不是很好，有點(diǎn)機(jī)械、不連貫，但員工介紹口音和音調(diào)還是基本相似的。
Deepfake語(yǔ)音克隆的質(zhì)量，主要取決于假冒對(duì)象的錄音，數(shù)量越多、質(zhì)量越高，偽造的逼真度也就越高。對(duì)于公司高管而言，他們?cè)陔娫挄?huì)議，YouTube，社交媒體或者TED演講中的錄音很容易獲得，也由此成為了詐騙團(tuán)伙的偽造對(duì)象。
隨后，該公司將這段偽造的音頻交給了一家安全咨詢公司Nisos。Nisos使用一款名為Spectrum3d的音頻頻譜圖工具，分析了Deepfake的偽造音頻。
Deepfake音頻頻譜圖
可以看到頻譜圖中的音調(diào)幾乎一直處于峰值狀態(tài)，這與我們?nèi)粘Ｖv話的高低音轉(zhuǎn)換顯然有很大差異，另外，研究人員稱，他們?cè)谝纛l中沒有發(fā)現(xiàn)任何噪音的痕跡，顯然說明音頻是通過計(jì)算機(jī)軟件合成的。
與正常人聲的頻譜圖對(duì)比來看，結(jié)果更是一目了然。音高頻率，幅度更加自然，同時(shí)也能夠檢測(cè)數(shù)微弱的背景噪音。
正常人聲頻譜圖
由于未獲取足夠的樣本，詐騙團(tuán)伙采用的是何種Deepfake軟件合成技術(shù)還不得而知。不過，攻擊者為制造高逼真的欺詐音頻，需要滿足以下幾個(gè)條件：
捕獲幾乎沒有背景噪音的高質(zhì)量音頻。
在無法通話的場(chǎng)景下，分階段發(fā)送音頻進(jìn)行溝通
以留言的方式進(jìn)行，避免面對(duì)面的交談
如何甄別語(yǔ)音欺詐
雖然這次Deepfake偽造音頻存在明顯瑕疵，但只要獲取高質(zhì)量的語(yǔ)音樣本，其偽造程度還是能夠以假亂真。
另外，Nisos公司表示，音頻的深度偽造不僅與人的語(yǔ)氣有關(guān)，還與特定的言語(yǔ)舉止有關(guān)。但是這一目標(biāo)已經(jīng)能夠?qū)崿F(xiàn)，比如攻擊者會(huì)采用會(huì)采用類似于Yandex反向圖像搜索的語(yǔ)音工具，通過大量樣本的建構(gòu)和訓(xùn)練，將源語(yǔ)音轉(zhuǎn)換為目標(biāo)語(yǔ)音的模型。
目前音頻欺詐案件已經(jīng)陸續(xù)出現(xiàn)，隨著Deepfake軟件的使用更加容易，音頻合成處理的質(zhì)量越來越高，此類欺詐案件也會(huì)愈加普遍。
不過，Nisos公司強(qiáng)調(diào)由于技術(shù)的局限性，此類欺詐事件還是很容易識(shí)破的。比如通過電話溝通確認(rèn)。
Deepfake技術(shù)無法實(shí)現(xiàn)連貫的語(yǔ)音通話，因此攻擊者通常采用語(yǔ)音郵件的形式與對(duì)方溝通。另外，也可以通過詢問一些只有內(nèi)部了解到的知識(shí)來確認(rèn)對(duì)方的身份。此外，攻擊者會(huì)盜用公司高級(jí)管理人員的郵箱賬號(hào)來與下屬員工進(jìn)行溝通，因此，加強(qiáng)郵箱安全防護(hù)也是非常必要的。
此外，除了經(jīng)濟(jì)詐騙外，攻擊者還可能通過引導(dǎo)員工登錄不安全網(wǎng)站等行為，對(duì)公司的網(wǎng)絡(luò)或物理資產(chǎn)造成破壞。
