【ITBEAR】9月7日消息，近日，一項(xiàng)由中國(guó)科學(xué)院女性算法工程師張欣怡發(fā)布的九宮格測(cè)試在微博上引起了廣泛關(guān)注。該測(cè)試旨在揭示Deepfake技術(shù)的“高模擬性”，讓公眾認(rèn)識(shí)到這種技術(shù)所帶來(lái)的潛在威脅。測(cè)試中，真人與AI生成的人像混雜在一起，令人難以分辨。
據(jù)ITBEAR了解，張欣怡所發(fā)布的這項(xiàng)測(cè)試并非簡(jiǎn)單的惡搞，而是基于其團(tuán)隊(duì)多年研發(fā)的AI大模型成果。這款大模型在近日的外灘大會(huì)AI攻防挑戰(zhàn)賽中榮獲季軍，展現(xiàn)了強(qiáng)大的圖像和視頻分析能力。它能夠精準(zhǔn)識(shí)別出由Deepfake技術(shù)偽造的內(nèi)容，為打擊網(wǎng)絡(luò)虛假信息提供了新的武器。
Deepfake技術(shù)的濫用已經(jīng)成為全球性的問(wèn)題。最近，韓國(guó)多名女性通過(guò)社交平臺(tái)發(fā)帖求助，揭露了Deepfake技術(shù)在韓國(guó)被用于制作惡意換臉視頻的情況。這些視頻不僅侵犯了受害者的隱私和名譽(yù)，更給她們帶來(lái)了巨大的心理壓力。同時(shí)，此類(lèi)犯罪還呈現(xiàn)出低齡化的趨勢(shì)，對(duì)青少年教育和社會(huì)未來(lái)造成了不良影響。
在國(guó)內(nèi)，Deepfake技術(shù)也同樣被不法分子利用。例如，“平安包頭”曾公布的一起案例中，騙子利用AI換臉技術(shù)冒充受害人的朋友進(jìn)行詐騙。這種新型的詐騙手段讓缺乏辨別能力的老年人和青少年更容易上當(dāng)受騙。
面對(duì)Deepfake技術(shù)的威脅，全球科研工作者正在積極應(yīng)對(duì)。張欣怡團(tuán)隊(duì)的開(kāi)源行為無(wú)疑是吹響了反Deepfake的集結(jié)號(hào)。此外，韓國(guó)媒體監(jiān)管機(jī)構(gòu)已經(jīng)要求Telegram等平臺(tái)刪除惡意內(nèi)容，并設(shè)立了專(zhuān)門(mén)熱線以加強(qiáng)合作。麻省理工的研究者們也開(kāi)發(fā)出了可以簡(jiǎn)易識(shí)別AI生成視頻的工具。
在這場(chǎng)世界級(jí)的“攻防戰(zhàn)”中，我們看到了科技的力量和人類(lèi)的智慧。張欣怡在微博中的話(huà)語(yǔ)也給了我們信心和希望：“這個(gè)世界有黑暗，也有照亮黑暗的光。如果一個(gè)人的火把太小，我們就把火把傳給世界的每一個(gè)人。”讓我們攜手共進(jìn)，用科技之光照亮黑暗，守護(hù)真實(shí)與美好。
#Deepfake# #AI大模型# #網(wǎng)絡(luò)虛假信息# #科技防范# #全球合作#
