一、引言
在游戲中，如何確保包括青少年在內的用戶處于一個安全環(huán)境中，一直是玩家大量聚集的集“社交”、“娛樂”、“競技”等于一身的多類型游戲產品的關注點。
成立于2016年的金山世游，先后在國內發(fā)行了《反恐行動》、《小米槍戰(zhàn)》多款IP手游，堅持創(chuàng)造一個公平、文明、有序的游戲環(huán)境，讓用戶遠離不良價值觀。
過去，金山世游通過“屏蔽詞庫”來進行監(jiān)測和治理不法行為。玩家也主動加入內容巡檢隊伍。如果看到一些不恰當、引起不適的內容，玩家可以在游戲中進行舉報與投訴。金山世游收到投訴后，及時把違規(guī)內容處理掉。
游戲內外齊心協(xié)力，但受限于詞庫更新頻率和網(wǎng)絡上不斷出現(xiàn)的新型聊天“語言”和“敏感詞”，給主動監(jiān)測治理提出更大挑戰(zhàn)。
2021年，金山世游向聊天室內的違規(guī)語言發(fā)起了新一輪的監(jiān)管總攻。這次，金山世游與網(wǎng)易易盾合作，在內容風控服務上獲取定制的智能策略，基于自身的海量數(shù)據(jù)和全新需求，實現(xiàn)全產品服務和平臺的內容安全保障。
如今，經(jīng)過近一年的運營，游戲內違規(guī)內容處理更主動了，公司內容風控體系實現(xiàn)了全面提升。一個最直觀的感受是，玩家投訴率直線下降，玩家好評度顯著提升。
金山世游說：
我們更愿意把‘內容安全’當做企業(yè)的責任、使命和動力。我們相信，經(jīng)過金山世游內部專業(yè)審核體系和易盾內容風控體系的雙重加持，我們一定會在全面符合相關要求和標準的基礎上，進一步探索更加適合自身的運營方式，為整個行業(yè)在內容風控體系中探索更多答案。
極度社交化的多人游戲炙手可熱，在對話中促進了玩家溝通，給了玩家提供了一個表達自我的平臺，而言語不當行為的增加也給游戲增加了合規(guī)風險。
近年來，國家相關主管部門相繼出臺《網(wǎng)絡安全法》《未成年人保護法》《關于防止未成年人沉迷網(wǎng)絡游戲通知》等諸多相關法規(guī)和政策，對行業(yè)發(fā)展進行進一步規(guī)范。
為游戲玩家提供在線內容風控，比以往任何時候都更加重要，利用人工智能的進步，游戲客戶可以使用全新的“數(shù)字內容審核”解決方案來確保在線游戲的內容安全。
二、如何讓聊天文本更安全？
金山世游集游戲研發(fā)、全球發(fā)行運營、游戲投資等業(yè)務于一體，從成立之初就確立了不斷強化自研，成功推出了《反恐行動》、《三國戰(zhàn)神》、《西游降魔篇3D》、《小米槍戰(zhàn)》等自研產品，同時高效運營諸如《魔域手游》、《最終幻想：勇氣啟示錄》、《風暴魔域2》等IP大作。
公司自研及運營游戲產品涵蓋MMO、MOBA、FPS、卡牌、二次元、SLG、音舞等眾多領域，業(yè)務范圍輻射至海外多個國家，用戶規(guī)模達到“現(xiàn)象級”增長。
不同類型的游戲產品吸引了多元化的玩家群體。這也使得用戶數(shù)量、年齡層次、地區(qū)分布、文化水平等出現(xiàn)差異化，內容風控就顯得格外重要，甚至可以說是游戲平臺的“生命線”。
金山世游將內容風控視為"不可逾越的高壓線"，作為一家有責任感的游戲企業(yè)，營造良好的內容生態(tài)，既是對自身產品負責、對廣大玩家負責，也是對全社會負責，才能真正為玩家?guī)須g樂。
每個月，團隊都會花費大量時間在游戲運營中，對內容數(shù)據(jù)進行處理與分析，反復檢查相關數(shù)據(jù)，耗費的精力與返工的時間大大增加。
在選用易盾前，金山世游通過屏蔽詞庫來進行監(jiān)測和治理，但受限于詞庫更新頻率和網(wǎng)絡上不斷出現(xiàn)的新型聊天“語言”和“敏感詞”，給主動監(jiān)測治理帶來很大難度。玩家曾出現(xiàn)利用“火星文”“暗語”“代號”等發(fā)布信息，給內容監(jiān)測鑒別工作帶來較大難題。
圖| 聊天室等社交方式為游戲業(yè)務打開增長空間
三、給用戶提供一種更快、更安全的選擇
“經(jīng)過對幾家頭部公司進行實際調研和產品功能對比，以及相關機構口碑推薦，我們通過實測和自身業(yè)務需求匹配，最后選擇了和易盾進行合作。”金山世游表示。
在合作中，金山游戲全部游戲產品均使用了易盾數(shù)字內容風控體系。在易盾數(shù)字內容風控體系加持下，這些不同類型的游戲在內容治理方面都取得了明顯成效。
以公司老牌的自研FPS游戲《反恐行動》為例，由于槍戰(zhàn)題材和高競技屬性，玩家溝通意愿熱烈且溝通頻率高。這就對游戲內部的內容安全監(jiān)控系統(tǒng)提出了很高的要求。
在易盾數(shù)字內容風控體系的助力下，內容風控系統(tǒng)監(jiān)測范圍大幅提升，涵蓋涉政暴恐、色情、廣告、辱罵、注水、迷信、低俗、詐騙、賭博、火星文、擦邊球等上百類數(shù)據(jù)。系統(tǒng)處置速度大大提升，系統(tǒng)內監(jiān)測庫保持實施更新，也確保新近違規(guī)內容得以第一時間得到監(jiān)控和處置。
四、自建審核“鐵軍”，用好AI內容風控工具
公司在技術和執(zhí)行上始終堅持雙高標桿，即高標準、高要求，在按照相關主管部門相關要求的基礎上，持續(xù)升級內容風控體系。
在內容審核遍地開花的時代，金山世游設立了專門的審核團隊，打造審核“鐵軍團”，成員來自于文字編輯、互聯(lián)網(wǎng)出版、法律法規(guī)等業(yè)界，從內容、文化、市場等不同層面對游戲進行全方位的審核和跟蹤。
此外，金山世游在內部各產品均設置了專人專崗，負責監(jiān)控產品的內容風險點，不斷完善和更新內容風控資料庫。為了在根源上杜絕游戲立意環(huán)節(jié)內出現(xiàn)違法違規(guī)內容，公司還定期對涉及游戲內容及社會價值導向的相關部門和人員進行定期培訓。
培訓內容包括如何杜絕出現(xiàn)拜金主義、封建迷信、“娘炮”、“耽美”等不良文化，以及堅決抵制有錯誤價值取向、淫穢色情、血腥恐怖等內容。
通常，這支“鐵軍團”無處不在，從游戲產品的選題策劃、立項，到研發(fā)、測試，再到最終出版以及后續(xù)運營，全方位參與其中。
“我們通過多種方法進一步提高員工的內容合規(guī)素養(yǎng)，傾力打造一支有文化、高素質的團隊，增強把關意識，提高把關能力。”金山世游分享道：
AI成為審核工具需要人去推動和運用，如何發(fā)揮出智能內容審核系統(tǒng)的潛力，也是我們風控“鐵軍”的職責。下一步，金山世游希望AI智能可以提供更強大的支持，加上人工干預，讓內容風控更具靈活性與創(chuàng)新性。
