近期，抖音平臺公布了其2025年第一季度針對黑色產業鏈的打擊成果，揭示了AI技術在提升治理效率方面的顯著作用。
自2025年起，抖音不斷強化對黑產的打擊力度，尤其在AI技術的加持下，平臺在識別、預警和處理違規場景上的能力得到了質的飛躍。第一季度，抖音成功封禁了與水軍、欺詐和違規導流相關的黑產賬號共計260萬個，并將涉嫌違法的線索移送至相關部門。
在AI智能體的搭建上，抖音風險治理團隊依托大模型技術，構建了從風險感知到智能決策再到閉環處置的全方位治理體系。這一體系使得單個案例的處理時間縮短至秒級，整體準確率超過85%。特別是在網絡水軍的治理上，AI技術的應用實現了線上自動運營，將巡檢效率提升了10倍以上。在試運行期間，平臺日均攔截違規請求6000萬次，封禁水軍賬號超過20萬個。
面對不斷升級的詐騙手段，抖音也加強了用戶的安全提醒。本季度，仿冒抖音客服的詐騙行為持續演變，抖音通過在多個產品頁面增加反詐提醒，并升級“驗證助手”工具，日均保護潛在受害人5萬名。同時，平臺還針對虛假人設和交易導流詐騙進行了重點打擊，提醒用戶不要輕信陌生人邀請至第三方平臺的信息，并加強了對小眾聊天場景下詐騙問題的防范。
為了進一步完善反詐機制，抖音在一季度優化了多個場景的安全模型，包括仿冒、購物、刷單和交友等。針對殺豬盤、色情導流交易等高危場景，平臺加大了短信和電話外呼的用戶提醒力度，自2025年以來，已封禁欺詐相關賬號140萬個，每日下發反詐提醒短信超過80萬條，撥打反詐預警電話近17萬次。
在違規導流的治理上，抖音面對的是多鏈路手段的挑戰。黑產團伙利用多個賬號在多個場景進行配合操作，使得平臺需要精準定位和分析整個鏈路上的違規信息。為了解決這一難題，抖音搭建了多賬號長鏈路的風險識別體系，從事前、事中、事后等多個環節切斷黑產賬號之間的聯系，并結合大模型的優勢自動梳理黑產鏈路的關鍵證據。這一舉措使得站內相關違規的舉報量下降了73.3%，封禁導流違規賬號近100萬個，處置違規視頻內容745萬條。
抖音還將相關線索上報至相關部門，配合打擊違規導流團伙，展現了平臺在維護網絡安全方面的決心和行動力。
