抖音平臺(tái)近期針對(duì)一種名為“AI起號(hào)”的行為展開(kāi)了專(zhuān)項(xiàng)治理行動(dòng)，旨在打擊利用人工智能技術(shù)生成并傳播違規(guī)內(nèi)容的賬號(hào)。據(jù)抖音發(fā)布的公告，此次行動(dòng)主要針對(duì)的是一系列濫用AI技術(shù)的行為，包括制作低俗獵奇視頻、虛構(gòu)外國(guó)幼兒教育專(zhuān)家形象傳播育兒內(nèi)容、售賣(mài)AI視頻賬號(hào)教程以及轉(zhuǎn)讓AI虛擬賬號(hào)等。
在此次專(zhuān)項(xiàng)行動(dòng)中，抖音平臺(tái)已清理了多達(dá)311條違規(guī)內(nèi)容，并對(duì)15個(gè)嚴(yán)重違規(guī)的賬號(hào)實(shí)施了封禁措施，這些賬號(hào)包括“心x甜”、“向xAi同城流量”以及“瑞xxAI智習(xí)室”等。這些賬號(hào)因違規(guī)使用AI技術(shù)，嚴(yán)重破壞了抖音平臺(tái)的生態(tài)。
抖音平臺(tái)在公告中強(qiáng)調(diào)，人工智能技術(shù)的快速發(fā)展確實(shí)為互聯(lián)網(wǎng)內(nèi)容生態(tài)帶來(lái)了極大的豐富，但同時(shí)也被部分人員用于造假和牟利，嚴(yán)重破壞了平臺(tái)的健康環(huán)境。為了應(yīng)對(duì)這一問(wèn)題，抖音在2023年和2024年分別發(fā)布了《關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》和《關(guān)于不當(dāng)利用AI生成虛擬人物的治理公告》，明確表明了對(duì)違規(guī)使用AI生成虛擬人物進(jìn)行低質(zhì)創(chuàng)作的態(tài)度，以及對(duì)相關(guān)行為的處罰措施。
除了清理違規(guī)內(nèi)容和封禁違規(guī)賬號(hào)外，抖音還提醒廣大用戶(hù)，任何形式的賬號(hào)贈(zèng)與、借用、出租、轉(zhuǎn)讓或售賣(mài)都是違規(guī)行為。同時(shí)，抖音鼓勵(lì)創(chuàng)作者在合理合法使用AI進(jìn)行創(chuàng)作的同時(shí)，積極對(duì)生成的內(nèi)容進(jìn)行標(biāo)注和聲明，以確保內(nèi)容的真實(shí)性和合法性。
抖音表示，將繼續(xù)加大對(duì)涉及AI生成內(nèi)容的違規(guī)行為的打擊力度，并不斷完善平臺(tái)的相關(guān)治理能力。平臺(tái)還呼吁廣大用戶(hù)共同監(jiān)督，一旦發(fā)現(xiàn)不當(dāng)使用人工智能技術(shù)生成內(nèi)容的情況，可以在站內(nèi)進(jìn)行舉報(bào)或發(fā)送詳情至抖音的舉報(bào)郵箱，平臺(tái)將在第一時(shí)間進(jìn)行核實(shí)和處理。
