近日，AI“換臉”詐騙案件在福州、安慶等多地發(fā)生，引發(fā)公眾的關(guān)注和熱議，“AI詐騙正在全國(guó)爆發(fā)”話題熱度居高不下。據(jù)公安部數(shù)據(jù)統(tǒng)計(jì)，我國(guó)犯罪結(jié)構(gòu)已發(fā)生了重大變化，傳統(tǒng)犯罪持續(xù)下降，以電信網(wǎng)絡(luò)詐騙為代表的新型網(wǎng)絡(luò)犯罪已成為當(dāng)前的主流犯罪形式。可怕的是，有AI加持的“高端騙局”，已經(jīng)顛覆了“眼見(jiàn)為實(shí)”的認(rèn)識(shí)論權(quán)威，人們的肉眼已無(wú)法分辨真?zhèn)危烤乖撊绾纹平猓?/p>
以“AI換臉”、“AI換聲”為代表的深度偽造內(nèi)容，其自動(dòng)化鑒別已是剛需。據(jù)悉，為了促進(jìn)深度偽造檢測(cè)相關(guān)技術(shù)的發(fā)展，國(guó)內(nèi)外已發(fā)布專(zhuān)項(xiàng)研究計(jì)劃以及開(kāi)展相關(guān)的學(xué)術(shù)競(jìng)賽。學(xué)術(shù)界和產(chǎn)業(yè)界均已對(duì)深度合成鑒別檢測(cè)技術(shù)的研發(fā)進(jìn)行了大量投入，包括Meta（原Facebook）、谷歌、微軟、馬普所等機(jī)構(gòu)均推出視頻認(rèn)證的方法或產(chǎn)品。在國(guó)內(nèi)，清華大學(xué)、中科大等高校均在深偽檢測(cè)方面取得顯著成果。
由清華大學(xué)人工智能研究院孵化的北京瑞萊智慧科技有限公司，已構(gòu)建人臉合成檢測(cè)平臺(tái)并發(fā)布針對(duì)性的檢測(cè)產(chǎn)品，支持對(duì)多種換臉?lè)椒ㄟM(jìn)行檢測(cè)，例如AI 安全防火墻一體機(jī)。它是業(yè)內(nèi)首個(gè)全面加固任意人臉識(shí)別系統(tǒng)的一體化設(shè)備。通過(guò)集成 RealAI 世界領(lǐng)先的對(duì)抗檢測(cè)算法以及深度合成檢測(cè)算法，能夠有效抵御深度偽造攻擊、對(duì)抗樣本攻擊等新型AI安全風(fēng)險(xiǎn)，大幅提升人臉識(shí)別系統(tǒng)的安全性。
瑞萊智慧AI安全防火墻一體機(jī)
瑞萊智慧技術(shù)專(zhuān)家透露，利用人工智能技術(shù)進(jìn)行“面部篡改”目前主要分為兩大類(lèi)：一類(lèi)是面部替換技術(shù)，將一人的面部直接替換到另一人的面部上；另一類(lèi)是表情操縱技術(shù)，將一個(gè)人的面部表情移植到另一個(gè)人照片的面部，從而讓被移植人照片活化起來(lái)。
深度偽造生成的內(nèi)容偽裝性強(qiáng)、欺騙性高。當(dāng)前深度合成的方法多樣，且發(fā)展更新的速度較快。隨著深度偽造內(nèi)容的逼真度越來(lái)越高，對(duì)深度偽造檢測(cè)技術(shù)也提出了更高的要求。
瑞萊智慧AI 安全防火墻一體機(jī)基于多年技術(shù)積累研發(fā)，可被應(yīng)用于實(shí)名認(rèn)證、刷臉通行、人臉解鎖等多種場(chǎng)景。產(chǎn)品包含了業(yè)內(nèi)最全的攻擊樣本數(shù)據(jù)集，全面覆蓋新型AI安全風(fēng)險(xiǎn)。在檢測(cè)效率上，整機(jī)安全檢測(cè)性能不低于200QPS的圖片類(lèi)樣本處理能力，并支持通過(guò)設(shè)備橫向擴(kuò)展與集群部署提升整體檢測(cè)性能。同時(shí)該產(chǎn)品做為AI應(yīng)用領(lǐng)域的專(zhuān)用安全一體化設(shè)備，具有部署快捷，開(kāi)箱即用的特點(diǎn)。
入選中關(guān)村論壇《2023十大最具影響力新技術(shù)新產(chǎn)品榜單》
5月27日，2023年中關(guān)村論壇的中關(guān)村國(guó)際技術(shù)交易大會(huì)開(kāi)幕式暨全球技術(shù)交易生態(tài)伙伴大會(huì)上，發(fā)布了《百項(xiàng)新技術(shù)新產(chǎn)品榜單》及“十大最具影響力新技術(shù)新產(chǎn)品”，對(duì)全球科技創(chuàng)新前沿成果進(jìn)行集中展示。其中，瑞萊智慧研發(fā)的人臉AI安全防火墻入選《百項(xiàng)新技術(shù)新產(chǎn)品榜單》，并獲評(píng)“十大最具影響力新技術(shù)新產(chǎn)品”。
