【ITBEAR科技資訊】4月3日消息，最近在社交媒體上出現(xiàn)了一組特朗普被紐約警察逮捕的照片。然而，這些照片并非真實的，而是由人工智能(AI)技術(shù)生成的合成圖像。這些合成圖像顯示了一種新的現(xiàn)實，即在重大事件發(fā)生時，社交媒體上可能會充斥著虛假的圖片和視頻，這進(jìn)一步混淆了事實、誤導(dǎo)了公眾。人們應(yīng)該采取相關(guān)措施，部署相關(guān)技術(shù)并制訂相關(guān)政策，對這種技術(shù)進(jìn)行監(jiān)管。
數(shù)字內(nèi)容分析公司Truepic的穆尼爾·易卜拉欣指出，“合成內(nèi)容正在快速發(fā)展，真實和虛假內(nèi)容之間的差距變得越來越難分辨。”如今，各種AI圖像生成工具變得觸手可及，它們可在用戶發(fā)出簡單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney這款文本到圖像模型現(xiàn)在可生成模仿新聞機(jī)構(gòu)照片風(fēng)格的圖像，這意味著這些AI生成的圖片有望在混亂的新聞環(huán)境中“渾水摸魚”，混淆視聽。據(jù)ITBEAR科技資訊了解，這些“特朗普被捕”的照片是由荷蘭的一家開源調(diào)查媒體“響鈴貓”網(wǎng)站的創(chuàng)始人艾略特·希金斯用AI繪畫工具M(jìn)idjourney制作的。
對抗錯誤視覺信息的最佳方式是提高公眾的意識并加強這方面的教育。希金斯認(rèn)為，隨著合成圖像越來越難以辨別真假，社交媒體公司應(yīng)該將重點放在開發(fā)能夠辨別AI生成圖像的新技術(shù)上，并將這種技術(shù)融入自己的平臺。雖然制作和生成虛假圖片的技術(shù)并不新鮮，但該領(lǐng)域技術(shù)的進(jìn)步速度以及人們對技術(shù)的濫用值得關(guān)注。
