本報記者 丁蓉
近期，中國香港警方披露了一起AI（人工智能）“多人換臉”詐騙案，涉案金額高達2億港元。一家跨國公司香港分部的職員，受邀參加總部首席財務官發(fā)起的多人視頻會議，并按照要求轉賬多次，將2億港元轉賬到5個銀行賬戶內，其后向總部查詢方知受騙。警方調查得知，這起案件所謂的視頻會議中，只有受害者一人為“真人”，其余全部是經過AI換臉后的詐騙人員。
文生視頻模型Sora的橫空出世進一步推動人工智能技術快速發(fā)展，其是否會讓AI換臉詐騙的門檻變得越來越低？
《證券日報》記者就此采訪中國網絡空間安全協(xié)會人工智能安全治理專委會專家、天融信科技集團副總裁薛智慧，他表示：“隨著Sora生成視頻的質量和逼真度提高，確實可能進一步催生AI換臉等詐騙行為。社會各界需要提高警覺，采取有效措施來識別和防范這類詐騙行為，包括發(fā)展更先進的檢測工具和技術、加強對公眾的網絡安全教育以及通過法律和倫理規(guī)范來限制和監(jiān)管這類技術的使用。”
記者了解到，天融信、深信服、佳緣科技、啟明星辰、安恒信息、三六零、綠盟科技、奇安信等多家A股上市公司，均在網絡安全方面加碼布局。
拆解AI換臉詐騙原理
據了解，AI換臉技術能夠將一個人的面部替換成另一個人的面部，堪稱現代網絡“易容術”。這一技術可能被不法分子利用，進行詐騙、誹謗或其他惡意活動。
薛智慧向《證券日報》記者拆解了AI換臉詐騙的原理，他表示：“AI換臉詐騙可概括為兩大部分。第一部分是畫面處理，先利用深度學習算法精準地識別視頻中的人臉圖像，提取出如眼睛、鼻子、嘴巴等關鍵面部特征，再基于這些特征，實現視頻中人臉與目標人臉的對齊，隨后將目標人臉覆蓋、融合到視頻中的人臉上，達到換臉效果，最后借助原始輸入視頻的背景或者利用其他技術虛構的渲染背景，得到最終的輸出畫面；第二部分是聲音處理，借助AI換聲，來模擬目標人物的聲音，用于詐騙的視頻、直播等。”
“面對肉眼越來越難以分辨真假的偽造視頻，在技術層面，可以運用人工智能對抗技術、數字水印技術、身份認證等技術來應對。”薛智慧表示，“具體來看，可以通過不斷改進和提升的人工智能對抗技術來檢測和識別虛假的、構造的圖像、音視頻、文本等內容，也可以應用數字水印技術，將數字水印嵌入到采集的圖像、音視頻數據中，這樣系統(tǒng)在播放時就能通過水印技術來驗證數據的真實性。在一些需要身份驗證、轉賬匯款等特殊場景，可以采用多因子認證，比如生物特征、二次密碼等技術，用以檢測和識別虛假偽造的信息。”
記者了解到，針對AI換臉等，天融信等多家上市公司深入研究其原理，以推動自身技術、產品及服務的升級，更好地應對新技術可能帶來的網絡安全隱患。
網絡安全受關注
Sora對于網絡安全行業(yè)的發(fā)展是把“雙刃劍”?？品降弥菐煅芯控撠熑藦埿略颉蹲C券日報》記者表示：“一方面，Sora的誕生可能催生新的安全漏洞和攻擊手段，給網絡安全行業(yè)帶來新的挑戰(zhàn)。同時，視頻生成技術處理的數據往往涉及個人隱私，如果處理不當或遭受攻擊，可能導致嚴重的隱私泄露事件。這些都將令網絡安全防護成本增加。另一方面，Sora帶來網絡安全需求，將推動行業(yè)的發(fā)展和創(chuàng)新。”
與此同時，人工智能技術在網絡安全領域的應用也越來越廣泛。記者了解到，深信服、奇安信、安恒信息、天融信等10余家公司已經發(fā)布“人工智能+網絡安全”產品，今年這些產品有望進一步鋪開。其中，天融信推出了融入AI技術的防火墻、天問大模型等多款創(chuàng)新型產品。深信服則發(fā)布國內首個企業(yè)級安全GPT云端大模型技術應用——深信服安全GPT，這款自主開發(fā)的大模型可以自動分析用戶安全現狀，生成處置建議，同時可以實現對話式智能交互，提高用戶體驗，降低對運營人員的專業(yè)要求。
北京社科院副研究員王鵬在接受《證券日報》記者采訪時表示：“根據相關數據顯示，我國網絡安全市場規(guī)模已連續(xù)多年保持高速增長。產業(yè)鏈方面，我國已形成了包括硬件設備、軟件產品、安全服務、安全集成等在內的完整產業(yè)鏈。技術方面，我國網絡安全產業(yè)在防火墻、入侵檢測、病毒防護等傳統(tǒng)安全領域已具備較強實力，同時在云計算、大數據、物聯(lián)網等新興技術領域的安全防護能力也在不斷提升。未來要繼續(xù)推動網絡安全產業(yè)的創(chuàng)新發(fā)展。”
