如果真的有好友，跟你打視頻電話借錢，你會借嗎？
近日，福州市某科技公司法人代表郭先生就接到了這樣的微信視頻電話。考慮到關系較好，又是真人視頻通話，郭先生毫不猶豫，十分鐘不到，就向對方賬戶打了430萬元。然而，沒過多久，郭先生就意識到他遭遇了一場騙局。
這就是最近不斷興風作浪的AI詐騙。
今年是AI人工智能技術爆發的大年，AI產品已應用于多個領域。但令人頗感意外的是，AI技術竟成了詐騙分子的利器，被騙子玩出各種花樣，防不勝防。
那么，如何打好與AI詐騙的攻防戰？如何用AI技術反AI詐騙？
9分鐘給騙子打款430萬元
據包頭市公安局官微“平安包頭”公布，4月20日11時40分左右，福州市某科技公司法人代表郭先生，接到了好友的視頻電話。兩人短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。
基于視頻聊天見過“真人”的前提下，郭先生沒有多想，于11時49分先后分兩筆，將430萬元打給對方。
錢款轉賬后，郭先生給好友發了一條微信，稱事情已經辦妥。沒想到，好友竟然回過來一個問號。
郭先生見此，趕緊撥打好友電話，對方卻說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。
據“平安包頭”發布，郭先生稱，“當時打了視頻，在視頻中也確認了面孔和聲音，所以才放松了戒備”。
郭先生趕緊報警，并通過警方查詢得知涉案的銀行卡為包頭市蒙商銀行對公賬戶，隨后立即向包頭警方請求協助緊急止付。
無獨有偶。
今年4月，安徽安慶經開區發生一起“冒充好友”詐騙案，騙子利用智能AI換臉佯裝“好友”，與受害人何先生進行了9秒鐘的視頻通話，便以開會為由掛斷電話。
隨后，騙子在QQ上告訴何先生，急需資金周轉。何先生打了視頻電話確認，又基于可信任的“好友”關系，立刻將245萬元打到對方指定的賬號上，不過，事后撥打電話才得知被騙。
隨著人工智能技術的發展，AI應用逐步落地。但出人意料的是，利用AI技術的詐騙分子竟然成為首批吃螃蟹的人，而且，從目前的案例看，AI換臉詐騙成功率十分高，令人防不勝防。
5月24日，中國互聯網協會發布公告稱，伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為屢見不鮮。
AI騙術有哪些花樣？
第五空間信息技術研究院院長談劍鋒告訴中國新聞周刊，從技術原理上看，AI換臉及擬聲技術本質上是對人臉、聲音等生物特征信息二次加工利用，一般可從已知的數據中提取關鍵特征，通過深度學習算法進行模擬運算，最終生成逼真的圖像和語音，這也是近年來人工智能技術的重要成果。
而這樣的前沿技術，卻被詐騙分子應用于多個場景。
綜合已發生的詐騙案件來看，當前AI詐騙主要有變聲、換臉、自動應答等幾類手段。
比如AI聲音詐騙中，詐騙分子通過撥打騷擾電話等，錄音提取詐騙對象及其重要關系人的聲音特征，并進行合成，進而用偽造的聲音實施詐騙。
AI換臉詐騙中，詐騙分子利用AI技術，通過合成視頻或照片來“以假亂真”，詐騙對象幾乎無法辨別。
談劍鋒表示，當今AI換臉技術花樣百出，只靠一張正面照片就能“腦補”出講話、運動等連續動作，也能實時捕捉真人動作“替換”臉部特征。前者可利用最少的輸入信息實現一些規定動作，而后一種技術能在視頻交流中保持場景不變，只是將面部特征替換成另一個人臉圖像中的面部特征，面部表情相對較為自然，也更具有欺騙性。
奇安信安全專家裴智勇告訴中國新聞周刊，僅僅通過換臉，詐騙分子就能演繹出換臉欺詐、換臉敲詐等多種騙術，比如將一個人的臉換到一段不雅照片或視頻上，之后威脅對方。
“尤其可怕的是在AI技術加持下，詐騙分子可以更加智能地選擇詐騙對象，從而精準詐騙”，談劍鋒認為，他們可以充分利用已泄露的個人信息，精準鎖定詐騙對象，長時間謀劃布局，并在“恰當”的時間節點上使用“合適”的方法實施欺詐。這實際上是詐騙術的升級換代，不僅帶來操作手段的精細化，而且詐騙思路也有不同程度的深化，更難對付。
如何反AI技術詐騙
不過，AI詐騙并非毫無破綻。
談劍鋒表示，詐騙分子使用的AI換臉工具眾多，背后技術復雜度、所獲取人臉質量和數量、算法和模型選擇等存在差異，缺陷也不盡相同。但正所謂李鬼不是李逵，通過特定動作及耐心觀察，識別破綻仍然有規律可循。
以AI換臉為例，這一技術仍然有一些缺陷。
一般來說，由于臉部特征數據精確采集并不容易，多數使用正面證件照片進行模擬替換，有些假臉眨眼的頻次明顯少于正常人，甚至不會眨眼，同樣張嘴也是如此，動作可能也非常生硬，紋理也不自如，因此可以通過觀察眨眼、張嘴、轉頭等動作來大致判斷真偽。
另外，由于AI換臉技術需要一定的算力，因此增加場景的復雜性或者突然增加不規則物體，例如要求在臉部晃動手指或者某個不常見物體，假臉就可能出現跳動或變形，從而讓換臉術失效。
“必須提高技術門檻，更好地防止AI詐騙”，裴智勇告訴中國新聞周刊，在AI詐騙的背景下，各類人臉識別系統、人臉數據存儲系統，都有可能成為攻擊者批量盜取人臉數據的目標。
因此，各種基于人臉識別技術的驗證系統必須不斷提升自身安全水平，還應研發多種能夠與人臉識別技術相互配合、更加安全的輔助驗證技術，如大數據分析技術、用戶行為特征分析技術等，目的是在不增加用戶負擔的情況下，提升攻擊者的攻擊門檻。
談劍鋒表示，相關各方需要強化技術治理，提供這類AI偽造技術的廠商應當做好生成內容的醒目標注，并合理限制應用場景。在應用時，尤其是提供實時通訊的各類平臺，可用AI技術來對抗AI的濫用，從而加強對AI欺詐的識別，并進行有效提示。
與此同時，裴智勇認為，在社交網絡流行的情況下，人臉等個人信息很容易擴散，這就使我們不得不面對一個現實：“眼見也未必為實”，個人需要切實提高安全防范意識。
對于互聯網用戶而言，一是要保護好個人信息；二是涉及錢款時，要提高安全意識，多重驗證身份；三是遇到可疑或危急情況，立即撥打96110報警電話。
形成強大高壓震懾態勢
“人工智能教父”杰弗里·辛頓今年初警告，人工智能可以輔助人類做一些繁復和創意性工作，但也很可能有不法之徒用它來做違法之事，畢竟虛假圖像、視頻的破壞力遠大于單純的文字。
談劍鋒認為，由于人臉等屬于唯一性、不可再生性的生物特征信息，AI換臉詐騙不僅讓個體遭受較大的損失，而且能極大程度混淆身份信息，甚至可能令社會信用體系走向崩潰。
“新技術是一把雙刃劍，在造福人類的時候，也易被非法利用，必須加強監管，”北京索朗律師事務所韓利律師向中國新聞周刊表示。
在他看來，監管需多管齊下。首先在完善相關法律法規的基礎上，加強執法力度，加大對AI換臉、變聲服務企業的監管力度，互聯網平臺或收集個人信息企業要承擔應有的義務，如有隨意泄露用戶信息等行為應加大懲處力度。與此同時，要利用新技術提升技術監管能力，采取風險標注、攔截提示、搜索屏蔽等措施，從源頭上予以阻斷。此外，要加大宣傳力度，提升大家的防范意識。
針對技術監管，裴智勇強調有三方面要格外重視：一是在安全要求較高的系統中，應當限制人臉、語音等不安全的驗證方式的使用；二是對于掌握大量人臉信息、語音數據的機構，包括政府和企業，應當要求其不斷提升網絡安全建設水平，避免信息被竊取和泄露；三是研究基于人工智能的視頻鑒偽技術，在必要時刻使機構和公眾有能力借助工具進行鑒偽。
今年4月11日，國家網信辦起草《生成式人工智能服務管理辦法》（征求意見稿），提出AI內容必須真實準確，禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
談劍鋒表示，總體看來，當前我國對保護數據及個人信息等較為重視，也密切關注新技術在信息服務中的應用，下一步，相關監管、立法、執行應該要不斷跟進完善，進一步明確人臉識別等AI技術應用的邊界，提高對人臉信息等個人信息的保護力度。
為此，他建議，對數據買賣的“黑灰產”做到露頭就打；設立“數據銀行”這類新型數據基礎設施來統一保護生物特征等數據。
從執行層面看，在本次郭先生被騙案件中，福州、包頭兩地聯手行動，在多部門的配合下，成功緊急止付涉嫌詐騙資金330多萬元。
對此，韓利表示，聯合執法是遏制與防范AI詐騙的重要探索，通過警方、網信、金融、學校等部門廣泛參與，在打擊詐騙與宣傳引導上不斷發力，形成強大高壓震懾態勢，逐步遏制AI技術詐騙犯罪行為。
作者：劉德炳
