抖音平臺近日發(fā)布了針對“災(zāi)害期間AI內(nèi)容不當(dāng)使用”的專項(xiàng)治理公告，該舉措源于西藏自治區(qū)發(fā)生的地震災(zāi)害期間，網(wǎng)絡(luò)上涌現(xiàn)的一系列利用AI技術(shù)生成的災(zāi)害虛假場景，這些不實(shí)內(nèi)容對救援工作造成了不必要的干擾。
抖音官方指出，在地震災(zāi)害發(fā)生后，平臺上出現(xiàn)了大量由AI技術(shù)生成的災(zāi)難圖片，部分發(fā)布者將這些內(nèi)容視為“藝術(shù)創(chuàng)作”或出于“祈福”的目的，但并未意識到這些行為可能造成的誤導(dǎo)。抖音強(qiáng)調(diào)，AI創(chuàng)作雖然具有創(chuàng)新性，但如果不加以規(guī)范，很容易混淆虛擬與現(xiàn)實(shí)的界限。
為了應(yīng)對這一問題，抖音平臺制定了以下一系列規(guī)范，要求所有在平臺上使用生成式人工智能技術(shù)的創(chuàng)作者、主播、用戶、商家、廣告主等生態(tài)參與者必須遵守：
首先，發(fā)布者需對AI生成的內(nèi)容進(jìn)行明確標(biāo)識，確保其他用戶能夠清晰地區(qū)分虛擬內(nèi)容與現(xiàn)實(shí)情況，特別是在那些容易引發(fā)混淆的場景中。其次，無論內(nèi)容是如何生成的，發(fā)布者都需要對其產(chǎn)生的后果負(fù)責(zé)。使用虛擬人技術(shù)的用戶需要在平臺進(jìn)行注冊，并完成實(shí)名認(rèn)證，以確保身份的可追溯性。
抖音還明確規(guī)定，禁止利用生成式人工智能技術(shù)創(chuàng)作和發(fā)布任何侵權(quán)內(nèi)容，包括但不限于侵犯肖像權(quán)和知識產(chǎn)權(quán)等。對于此類行為，平臺將采取嚴(yán)格的處罰措施。同時，也嚴(yán)禁利用AI技術(shù)創(chuàng)作和發(fā)布違背科學(xué)常識、弄虛作假或造謠傳謠的內(nèi)容，一經(jīng)發(fā)現(xiàn)，同樣將受到平臺的嚴(yán)厲處罰。
抖音平臺的這一系列舉措，旨在加強(qiáng)網(wǎng)絡(luò)內(nèi)容的真實(shí)性和可信度，防止虛假信息對公眾造成誤導(dǎo)，特別是在災(zāi)害等敏感時期。通過明確規(guī)范和嚴(yán)格處罰，抖音希望能夠在保障用戶創(chuàng)意自由的同時，維護(hù)一個健康、有序的網(wǎng)絡(luò)環(huán)境。
