(ChinaZ.com) 11 月8 日消息:微軟公司近日宣布，為應對數百萬日活躍用戶帶來的內容監控挑戰，公司正轉向使用人工智能工具來「加速」其 Xbox 平臺的內容審核工作，這些系統能夠在不需要玩家舉報的情況下自動標記內容以供人工審查。
微軟最新的 Xbox 透明度報告——該公司對社區標準執行情況的第三次公開回顧——首次包含了「利用 AI 推進內容審核和平臺安全」的章節。報告特別提到兩種工具，微軟表示這些工具「使我們能夠實現更大的規模，提升我們人工審核員的能力，并減少對敏感內容的接觸」。
微軟表示，其 Xbox 安全系統現在由 Community Sift 提供支持，這是微軟子公司 TwoHat 創建的一種審核工具。根據微軟的報告，今年 Community Sift 系統篩選了「數十億人類互動」，其中包括「超過 3600 萬」Xbox 玩家舉報，覆蓋 22 種語言。該系統評估這些玩家舉報，以確定哪些需要人工審核員進一步關注。
此外，微軟還在使用 Turing Bletchley v3 人工智能模型來支持「主動」執行任務，這是微軟在 2021 年首次推出的工具的更新版本。這個「視覺-語言」模型自動掃描 Xbox 平臺上的所有「用戶生成的圖像」，包括自定義 Gamerpics 和其他個人資料圖像。Bletchley 系統然后使用「其世界知識理解基于 Xbox 平臺社區標準可接受的圖像的許多細微差別」，并將任何可疑內容傳遞到人工審核隊列。
報告還提到，2023 年上半年，Bletchley 系統有助于阻止 470 萬張圖像，與前六個月相比增長了 39%，這一增長歸功于微軟對人工智能的投資。
在對「不真實」賬戶的打擊方面，微軟表示，目前已采取了 1630 萬項針對「被篡改或以不真實方式使用」的賬戶的執行行動。這些賬戶包括作弊者、垃圾郵件發送者、好友/關注者帳號充值者，以及其他「最終為我們的玩家創造不公平競爭環境或減少他們體驗」的賬戶。
微軟還在報告中表示，自 2022 年調整 Xbox 平臺上「粗俗內容」的定義以來，對于粗俗內容的執法行動有了顯著的增加。這一定義導致了 2022 年上半年對「粗俗」內容的 328，000 項執法行動，比之前六個月的大約 98，000 項增長了 236%。
微軟的報告還為那些希望推翻禁令或禁賽的玩家帶來了壞消息。在 2023 年上半年，超過 28 萬起此類案件審核中，只有大約 4.1% 被重新啟用。這比 2022 年上半年 151，000 起申訴中成功的 6% 略有下降。
自最新透明度報告所涵蓋的期間以來，微軟已推出了一個新的標準化的八次罰款制度，列出了不同類型和頻率違規行為的滑動尺度的處罰。看看下一個計劃的透明度報告是否會顯示這些新規則生效后玩家或執法行為的任何變化將會很有趣。
