近期，互聯(lián)網(wǎng)上頻繁出現(xiàn)AI技術(shù)濫用現(xiàn)象，眾多經(jīng)典影視劇角色、明星及企業(yè)家的形象被惡意篡改和惡搞。在一些短視頻平臺上，如哪吒、敖丙等熱門角色的形象被AI技術(shù)扭曲，產(chǎn)生了大量令人啼笑皆非的魔改視頻。
針對這一亂象，廣電總局去年已發(fā)出管理提示，明確要求平臺加強內(nèi)容審核和監(jiān)管。然而，新規(guī)的執(zhí)行效果并不盡如人意，仍有大量魔改視頻在平臺上肆虐。部分平臺甚至在魔改視頻熱度高漲后才勉強添加“AI生成”的提示，但這些提示往往位置隱蔽，難以引起網(wǎng)友注意，導致不少用戶被誤導。
更令人擔憂的是，一些商家和個人看到了AI魔改視頻背后的流量紅利，紛紛利用這一手段招攬關(guān)注，開設(shè)收費課程或訓練營進行變現(xiàn)。專家指出，AI工具本身并無善惡之分，關(guān)鍵在于如何防止其被不良動機的人濫用。這不僅是技術(shù)問題，更是監(jiān)管部門和平臺需要深入思考和解決的問題。
據(jù)天眼查信息顯示，截至目前，我國人工智能相關(guān)企業(yè)數(shù)量已超過200萬家，形成了一個龐大的產(chǎn)業(yè)群體。從地域分布來看，廣東、江蘇和山東三省的人工智能相關(guān)企業(yè)數(shù)量位居全國前列，分別擁有超過30萬家、15萬家和15萬家相關(guān)企業(yè)。
然而，在人工智能產(chǎn)業(yè)蓬勃發(fā)展的背后，也隱藏著一定的風險。據(jù)天眼查風險數(shù)據(jù)顯示，從事人工智能相關(guān)的企業(yè)中，有1.54%的企業(yè)曾涉及法律訴訟。這反映出在人工智能領(lǐng)域，仍然存在一些法律問題和糾紛，需要相關(guān)部門和企業(yè)加強監(jiān)管和規(guī)范。
面對AI魔改亂象和人工智能產(chǎn)業(yè)的快速發(fā)展，監(jiān)管部門和平臺需要采取更加有效的措施來加強監(jiān)管和規(guī)范。一方面，要加強對平臺上內(nèi)容的審核和監(jiān)管力度，及時發(fā)現(xiàn)和處理惡意篡改和惡搞行為；另一方面，要加強對人工智能技術(shù)的研發(fā)和應用管理，防止其被不良動機的人濫用。同時，也需要加強法律法規(guī)的制定和執(zhí)行力度，為人工智能產(chǎn)業(yè)的健康發(fā)展提供有力保障。
