**AI音頻偽造風波揭行業(yè)隱患**
近日，直播帶貨公司“三只羊”因一段疑似其創(chuàng)始人盧文慶的醉酒音頻而陷入輿論漩渦。該音頻涉及敏感話題，引發(fā)廣泛關注。然而，經(jīng)警方調查，這段音頻竟為AI偽造之作。
據(jù)悉，偽造音頻使用的是名為“Reecho睿聲”的大模型技術，由深圳一家新興科技公司推出。該技術能夠通過短暫音頻樣本克隆聲音，生成高度逼真的AI語音。此事件不僅暴露了AI技術在聲音克隆領域的驚人進展，也引發(fā)了公眾對AI內容真實性和安全性的擔憂。
AI聲音克隆技術的發(fā)展，如今已能讓普通人輕易“以假亂真”。市場上，類似睿聲這樣的產(chǎn)品不在少數(shù)，它們大多宣稱能夠快速定制個性化聲音，甚至模仿名人聲音。然而，這種技術的濫用也帶來了諸多法律風險，如聲音侵權、虛假信息傳播等。
業(yè)內人士指出，盡管AI聲音克隆技術具有廣闊的市場前景，但其在應用過程中的不可控性令人擔憂。隨著技術的普及，如何確保AI生成內容的真實性和合法性，已成為全球共同面臨的挑戰(zhàn)。
針對此次事件，相關法律專家表示，平臺在提供AI服務時，應承擔起相應的審核和安全評估責任。同時，用戶在使用這類技術時，也應遵守相關法律法規(guī)，避免侵犯他人權益。
目前，涉事公司已對事件作出回應，表示將加強內部審核機制，并提醒用戶遵守使用規(guī)則。然而，如何從根本上解決AI技術濫用問題，仍需行業(yè)和社會共同探索。
