【ITBEAR】國慶期間，網(wǎng)絡(luò)掀起一股“雷軍熱”，不過此“雷軍”非彼雷軍，而是AI技術(shù)合成的產(chǎn)物。短視頻平臺上，這個“雷軍”就堵車、調(diào)休等話題發(fā)表犀利言論，甚至爆粗口，引發(fā)廣泛關(guān)注。然而，這一切與知名企業(yè)家雷軍本人并無半點關(guān)系。
AI技術(shù)的濫用，再次引發(fā)公眾對科技倫理和底線的思考。從“AI孫燕姿”翻唱歌曲到“AI郭德綱”講英文段子，AI配音在網(wǎng)絡(luò)世界的應用愈發(fā)普遍。然而，當技術(shù)被用于違法、悖德的邊緣試探時，我們不得不警惕其潛在的風險。
據(jù)《2024人工智能安全報告》顯示，僅今年上半年，AI詐騙案案值已高達1.85億元。這些案件不僅侵犯了公民的合法權(quán)益，更混淆了大眾認知，帶來了巨大的社會風險。
深度偽造技術(shù)的普及，使得“一鍵變聲”“一鍵變臉”成為可能。市面上大量的AI配音小程序，為用戶提供了便利的同時，也為不法分子提供了可乘之機。他們憑借一段原始語音或照片，就能編造謠言、設(shè)置陷阱，實施詐騙。
面對深度偽造技術(shù)嵌入我們的數(shù)字生活，我們該如何應對？一方面，需要推動反深偽檢測技術(shù)的持續(xù)更新迭代，以應對層出不窮的騙局；另一方面，加強技術(shù)監(jiān)管、明確生成式人工智能服務的合法邊界也刻不容緩。同時，社交平臺作為傳播鏈條的重要一環(huán)，也應負起相應的治理責任。
此次“雷軍”事件雖以平臺下架相關(guān)內(nèi)容告終，但規(guī)范生成式人工智能技術(shù)的發(fā)展仍任重道遠。我們期待在科技的推動下，社會能更加美好，而非成為亂象的溫床。
