國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，自2020年3月1日起施行。以黃、賭、毒、暴及反動言論為代表的網(wǎng)絡(luò)內(nèi)容亂象成為嚴(yán)厲打擊的對象，而其中不少規(guī)定對互聯(lián)網(wǎng)平臺企業(yè)影響深遠(yuǎn)。
1月14日，由網(wǎng)易易盾發(fā)起的“數(shù)字內(nèi)容風(fēng)控”閉門研討會第三站于廣州圓滿落幕。閉門研討會邀請金融、游戲、社交、文娛等客戶成員針對內(nèi)容風(fēng)控方法與經(jīng)驗(yàn)作進(jìn)一步交流。會上，關(guān)于UGC內(nèi)容如何規(guī)避運(yùn)營風(fēng)險成為大家最關(guān)心的問題，也是互聯(lián)網(wǎng)產(chǎn)品與運(yùn)營人員的核心關(guān)注點(diǎn)。
閉門會旨在促進(jìn)行業(yè)交流，更好地了解客戶群體不斷變化的需求，從監(jiān)管政策分析、風(fēng)控產(chǎn)品進(jìn)階與未來風(fēng)控趨勢、反作弊打擊等角度出發(fā)，易盾向客戶輸送了深度風(fēng)控知識，回顧與企業(yè)之間的“數(shù)字內(nèi)容風(fēng)控”實(shí)踐合作經(jīng)驗(yàn)。
在隨后舉行的頒獎典禮上，易盾頒發(fā)了年度社會責(zé)任獎、年度精誠合作獎、年度人文精神獎 、年度最具人氣獎、年度最具人氣獎、年度商業(yè)價值獎等多個獎項(xiàng)，以表達(dá)五年以來對客戶的感謝。部分獲獎客戶代表上臺發(fā)言，分享了他們與易盾的故事。
圍繞熱點(diǎn)議題，促進(jìn)行業(yè)交流
今天下午，會議的主題與數(shù)字內(nèi)容行業(yè)相關(guān)。一個討論的焦點(diǎn)是，各行各業(yè)正在納入共享內(nèi)容，讓其變得更具人氣 —— 文本、圖像、視頻、音頻，生產(chǎn)的頻率越來越高，制作速度也越來越快，以前所未有的速度與范圍傳播。數(shù)字經(jīng)濟(jì)的快速崛起對經(jīng)濟(jì)社會產(chǎn)生了顯著影響。
平臺在開始內(nèi)容推薦分發(fā)前，首先要以保證內(nèi)容導(dǎo)向和內(nèi)容安全的前提。不良違規(guī)內(nèi)容從平臺誕生之初就開始，猶如病毒與細(xì)胞的斗爭一般悄然升級。在進(jìn)行內(nèi)容風(fēng)控之前，業(yè)務(wù)方需要從法律法規(guī)、產(chǎn)品特性出發(fā)，弄清楚：什么樣的內(nèi)容是不良的？什么樣的內(nèi)容是低質(zhì)的？什么樣的內(nèi)容是違法的？什么樣的機(jī)制是高效的？隨時根據(jù)最新法規(guī)、對抗動態(tài)來調(diào)整策略方法，必須兼顧信息流動、安全、效率、準(zhǔn)確性與其他競爭價值。
網(wǎng)易易盾總經(jīng)理朱浩齊：看待“數(shù)字內(nèi)容風(fēng)控政策”收緊趨勢要有新視角
網(wǎng)易易盾CEO朱浩齊在會上分析了數(shù)字內(nèi)容合規(guī)趨嚴(yán)的原因。在全新的局面下，不僅是內(nèi)容合規(guī)受挑戰(zhàn)，而是整個數(shù)字產(chǎn)業(yè)都有規(guī)范化。不過，當(dāng)前數(shù)字產(chǎn)業(yè)仍舊是機(jī)遇大于挑戰(zhàn)。
他指出，網(wǎng)易易盾在做好現(xiàn)有重點(diǎn)業(yè)務(wù)的同時，一直都在觀察市場的新機(jī)會與新需求，努力在內(nèi)容安全、業(yè)務(wù)安全、移動安全方向獲得突破，堅(jiān)持大方向、注重小場景、解決具體問題，為數(shù)字化轉(zhuǎn)型升級成功打下網(wǎng)絡(luò)安全合規(guī)基礎(chǔ)。以下為演講節(jié)選：
任何技術(shù)都是一把雙刃劍，核能創(chuàng)造了能源，也帶來原子彈?；ヂ?lián)網(wǎng)能帶來時空折疊，效率提升，也會引發(fā)詐騙、個人隱私泄露、兒童色情、涉黃涉暴信息傳播、信息繭房、大數(shù)據(jù)殺熟等負(fù)面效應(yīng)。
疫情斷斷續(xù)續(xù)持續(xù)了2年，大家整體的感受是“難”，從實(shí)體制造業(yè)、到線下服務(wù)業(yè)，互聯(lián)網(wǎng)數(shù)字化產(chǎn)業(yè)也不例外。“我想在座各位同我一樣，感受到貫穿整個互聯(lián)網(wǎng)行業(yè)的‘穿透式’監(jiān)管與合規(guī)，也感受到整體不景氣帶來的沖擊。”他表示，就數(shù)字內(nèi)容合規(guī)而言，僅2021年就出臺了數(shù)十部規(guī)范性法律法規(guī)，更有甚者，如K12線上教育，在一夕之間巨變。
其實(shí)，我們要換個視角看待如此種種的煩惱。著名金融學(xué)者香帥的財富報告或許能夠給我們一些啟發(fā)。報告認(rèn)為，中國現(xiàn)在已經(jīng)進(jìn)入了一個“熟經(jīng)濟(jì)”的時代。“熟經(jīng)濟(jì)”期，經(jīng)濟(jì)不再像年輕的時候一樣可以猛長身體，隨便折騰了。我們“上有老下有小”，我們講究的是承擔(dān)責(zé)任，純講效率的時代過去了。未來一段時間，公平正義與共同富裕會是國家經(jīng)濟(jì)政策的主旋律之一。因此，無論是個人還是企業(yè)，都應(yīng)該適應(yīng)改革，才能活得更好。
國務(wù)院日前印發(fā)了《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》也給了我們信心，給數(shù)字經(jīng)濟(jì)發(fā)展奠定了基調(diào)?！兑?guī)劃》預(yù)計(jì)數(shù)字經(jīng)濟(jì)增加值占GDP比重從7.8%漲到10%，肯定了信息技術(shù)服務(wù)行業(yè)規(guī)模要從2020年的8.16萬億元增長到2025年的14萬億元，增長超70%。
就像前段時間，國家推出游戲未成年人保護(hù)新規(guī)，限制未成年人的游戲參與度。網(wǎng)絡(luò)上立馬出現(xiàn)了很多對政策的"誤讀"，隨后網(wǎng)易、騰訊的股價都大跌。后續(xù)，政協(xié)委員及時出來辟謠對政策相關(guān)內(nèi)容做了解讀，國家還是鼓勵游戲產(chǎn)業(yè)健康發(fā)展的，保護(hù)未成年人并非就要打擊壓制某些行業(yè)的發(fā)展。這并不是此消彼長的矛盾關(guān)系，國家對新興行業(yè)的態(tài)度一向明確，支持創(chuàng)新，但也會第一時間出臺相應(yīng)的監(jiān)管政策，打擊"偽創(chuàng)新"，以防止對真正的創(chuàng)新造成影響。
既然十四五規(guī)劃都已經(jīng)制定好了，那么合法合規(guī)、積極健康的互聯(lián)網(wǎng)應(yīng)用必然少不了得到蓬勃發(fā)展的機(jī)會。不論如何，至少我們會堅(jiān)定不移地在這個方向上繼續(xù)努力，不斷加大投入，爭取給大家提供一個可信賴的數(shù)字風(fēng)控服務(wù),助力客戶業(yè)務(wù)更快更好發(fā)展。
網(wǎng)易智慧企業(yè)VP王為：做好2B技術(shù)服務(wù)的窗口
網(wǎng)易可以說是第一批互聯(lián)網(wǎng)公司，這么多年下來他就一個風(fēng)格：做產(chǎn)品做的不是很多，但是每個做的都很好。
我們這個團(tuán)隊(duì)承載了網(wǎng)易集團(tuán)所有2B的商業(yè)化工作，給企業(yè)客戶提供服務(wù)。網(wǎng)易的其他產(chǎn)品，像大家所熟知的網(wǎng)易游戲，網(wǎng)易新聞到網(wǎng)易云音樂，都是C端的產(chǎn)品。只有我們是2B端，是網(wǎng)易為大家提供2B服務(wù)的一個窗口，這就是我們團(tuán)隊(duì)的使命。
網(wǎng)易還有一個特點(diǎn)是所有的技術(shù)能力先給自己的產(chǎn)品使用，進(jìn)行打磨，質(zhì)量達(dá)標(biāo)了再走向市場。在五年前，易盾的數(shù)字風(fēng)控服務(wù)能力表現(xiàn)不錯，才沉淀下來成為獨(dú)立化的產(chǎn)品，就是這樣一個過程。
這段時間國家對互聯(lián)網(wǎng)這種監(jiān)管趨嚴(yán)，我相信在未來一段時間也不會松下來。只要我們的業(yè)務(wù)跟互聯(lián)網(wǎng)相關(guān)，都得跟隨國家的指導(dǎo)政策，去了解國家的方向，知道國家的要求，且按照國家的要求去執(zhí)行，否則可能會影響我們的業(yè)務(wù)的發(fā)展。
最近，我在閱讀中遇到一句話，我很認(rèn)可。“在當(dāng)今的社會下尋求發(fā)展，真的不是肌肉最強(qiáng)大，也不是最聰明的，而一定是最適合的。”什么叫最適合的？
在我看來，就是完全符合當(dāng)下社會、國家的發(fā)展需求，這就叫適合?；氐轿覀兊氖姑?，我們也希望用技術(shù)能力，讓我們的用戶更適合當(dāng)今社會的要求，國家的要求，給業(yè)務(wù)保駕護(hù)航。其實(shí)，我們不是網(wǎng)絡(luò)安全，我們是業(yè)務(wù)安全，希望各位的業(yè)務(wù)在互聯(lián)網(wǎng)里面是合規(guī)的，是符合國家的監(jiān)管要求的，這個事情現(xiàn)在來看非常重要。
一開始網(wǎng)易內(nèi)部是技術(shù)輸送的重點(diǎn)，而如今這部分占比沒有那么大。當(dāng)前，隨著市場的信任，為網(wǎng)易內(nèi)部客戶的占比已經(jīng)不到20%了，剩下超80%的比例都是外部客戶，真正從“自給自足”走向“商業(yè)化”。
在政策監(jiān)管之下，我也知道很多合作伙伴在嘗試出海業(yè)務(wù)，今年也是我們聚焦出海業(yè)務(wù)的重要一年，為什么不是以前？
一方面，因?yàn)槲覀儗夹g(shù)能力的成熟度有信心，另一個方面，在客戶群中出現(xiàn)不少出海的身影。為了與客戶齊頭并進(jìn)，我們也做足了準(zhǔn)備，比如說服務(wù)器節(jié)點(diǎn)、海外審查法規(guī)跟進(jìn)、跨境數(shù)據(jù)合規(guī)等，讓不少客戶安心出海。這是今年的決心，也需要跟各位在出海業(yè)務(wù)各個場景持續(xù)磨合。
這可能是B端服務(wù)企業(yè)的一個特點(diǎn)。一直以來，我們非常愿意去聽各位在業(yè)務(wù)上的思路，非常愿意跟大家去合作配合。另外，我們此前和以后有什么做的不好的地方，也請大家隨時反饋，我們會不斷改進(jìn)。
網(wǎng)易易盾輿情專家王政宜 ：堅(jiān)持正能量、管得住、用得好的風(fēng)控策略
互聯(lián)網(wǎng)已經(jīng)成為意識形態(tài)斗爭的主陣地、主戰(zhàn)場、最前沿，網(wǎng)絡(luò)意識形態(tài)安全直接關(guān)系國家政治安全。當(dāng)今世界正經(jīng)歷百年未有之大變局，國際形勢復(fù)雜多變，國際格局面臨深刻調(diào)整，經(jīng)濟(jì)社會發(fā)展不確定性因素增多，新一輪科技革命和產(chǎn)業(yè)變革方興未艾，網(wǎng)絡(luò)新技術(shù)新應(yīng)用快速迭代，配合政府部門切實(shí)維護(hù)好網(wǎng)絡(luò)安全和意識形態(tài)安全更是互聯(lián)網(wǎng)企業(yè)作為網(wǎng)絡(luò)主體需要具備的責(zé)任和義務(wù)。
堅(jiān)持正能量是總要求。只有正面宣傳強(qiáng)勁有力，網(wǎng)上才能正能量充沛，才能讓黨的聲音引領(lǐng)網(wǎng)絡(luò)空間，也才能有效擠壓負(fù)面信息的渠道和空間。要積極響應(yīng)監(jiān)管部門號召，弘揚(yáng)社會主義核心價值觀，宣傳優(yōu)秀道德文化和時代精神，充分展現(xiàn)中華民族昂揚(yáng)向上精神風(fēng)貌。
堅(jiān)持管得住是硬道理。建立網(wǎng)絡(luò)綜合治理體系，是黨的十九大明確提出的一項(xiàng)重要任務(wù)，是管網(wǎng)治網(wǎng)的根本之策。要提高管網(wǎng)治網(wǎng)的系統(tǒng)性和有效性，形成一套完備科學(xué)并行之有效的安全治理架構(gòu)，不給任何有害信息傳播可趁之機(jī)。要建立健全平臺網(wǎng)上風(fēng)險防范機(jī)制，及時批判網(wǎng)上錯誤思潮，堅(jiān)決清理網(wǎng)上謠言、暴恐音視頻等有害信息，全面提升技術(shù)治網(wǎng)能力和水平。要落實(shí)好互聯(lián)網(wǎng)企業(yè)主體責(zé)任，嚴(yán)格遵守相關(guān)法律法規(guī)，營造風(fēng)清氣正網(wǎng)絡(luò)空間。
堅(jiān)持用得好是真本事。要旗幟鮮明堅(jiān)持正確的政治方向、輿論導(dǎo)向、價值取向，新技術(shù)新應(yīng)用要用得好，也要能防范住新風(fēng)險，要讓平臺成為新技術(shù)新形態(tài)的開拓者、網(wǎng)絡(luò)文明空間的建設(shè)者、網(wǎng)絡(luò)有害信息內(nèi)容的粉碎者。
網(wǎng)易易盾業(yè)務(wù)安全專家陸程華：網(wǎng)絡(luò)反欺詐治理從0到1
反作弊工作者的常態(tài)可以歸納為，潛伏在各類電報群、黑灰產(chǎn)群、羊毛群，熱衷于將欺詐與作弊者挑翻馬下，時刻關(guān)注新危害的動態(tài)。陸程華擁有9年反作弊經(jīng)驗(yàn)，他在分析中介紹：
網(wǎng)絡(luò)欺詐治理面臨新形勢和新挑戰(zhàn)，一是已經(jīng)形成專業(yè)化的產(chǎn)業(yè)鏈，分工明確，由成熟的黑灰產(chǎn)業(yè)鏈組成利益結(jié)合體，包含不限于卡商、號商、作弊工具開發(fā)，騙術(shù)劇本非常成熟；二是技術(shù)攻防激烈，詐騙技術(shù)、設(shè)備升級速度加快，尤其是人工智能、機(jī)器學(xué)習(xí)等新技術(shù)應(yīng)用于欺詐場景，利用AI技術(shù)偽造合成聲音、視頻實(shí)施詐騙行為；三是隨機(jī)性強(qiáng)，廣撒網(wǎng)、隨機(jī)式、跨平臺的詐騙，難以監(jiān)控、取證，詐騙套路持續(xù)翻新，防不勝防。
網(wǎng)易易盾通過對欺詐鏈路分析，結(jié)合目標(biāo)畫像、號卡設(shè)備資源分布、話術(shù)劇本等研究，輸出多維一體化解決方案。深入多業(yè)務(wù)場景全流程智能分析 ，多維度的行為關(guān)聯(lián)構(gòu)建動態(tài)業(yè)務(wù)模型，以欺詐引流基礎(chǔ)方案為根基、以用戶行為為支點(diǎn)，根據(jù)不同場景，靈活定制智能模型，1對1解決平臺遇到的詐騙問題。
依業(yè)務(wù)反饋數(shù)據(jù)，接入網(wǎng)易易盾反詐騙解決方案后，風(fēng)險賬號處理數(shù)提升6倍，隱晦變體內(nèi)容識別準(zhǔn)確率達(dá)99%以上，投訴來電量、舉報消息量下降86%，有效扼制平臺詐騙團(tuán)伙的活躍程度，不僅有效恢復(fù)平臺用戶生態(tài)環(huán)境，同時貫徹執(zhí)行了國家網(wǎng)信辦清朗行動的相關(guān)指示。
網(wǎng)易易盾產(chǎn)品總監(jiān)饒曉艷 守護(hù)信息質(zhì)量，我們的做法
網(wǎng)易易盾產(chǎn)品總監(jiān)饒曉艷從過去多年從業(yè)經(jīng)驗(yàn)中，提煉出多種內(nèi)容合規(guī)常見的市場需求，分享了內(nèi)容風(fēng)控產(chǎn)品的創(chuàng)新之路。在不同政策、場景、行業(yè)下，審核機(jī)制有哪些差異？如何提升審核精準(zhǔn)度和效率？
整體上來講，做風(fēng)控其實(shí)是一直在做持續(xù)對抗這一件事情。隨著外部政策的變化，應(yīng)對新挑戰(zhàn)的要求，去年我們在一些場景上做了相應(yīng)的應(yīng)對升級，對一些產(chǎn)品和解決方案進(jìn)行了優(yōu)化，下面舉2個例子。
第一個場景是出海。在座客戶也有出海的產(chǎn)品或計(jì)劃。我們碰到兩類典型的需求是，怎么樣提前考慮內(nèi)容風(fēng)險與數(shù)據(jù)怎么樣做到合規(guī)。內(nèi)容出海要符合部分國家與地區(qū)法規(guī)要求，比如以谷歌為代表的各大應(yīng)用市場平臺有明確的規(guī)定，對于未成年也好，對于涉黃、涉暴、涉政也好。另一個是數(shù)據(jù)合規(guī)，大家一定熟悉歐盟地區(qū)的《通用數(shù)據(jù)保護(hù)條例》（GDPR)，最具有代表性。近年來，各個國家相繼開始重視數(shù)據(jù)與隱私問題，出臺了相應(yīng)的數(shù)據(jù)安全保護(hù)條例，或是個人數(shù)據(jù)安全保護(hù)法。為此，我們成立了一個專門的策略團(tuán)隊(duì)，去研究每個地區(qū)、每個國家所具備的法律法規(guī)，這些要求往往是出海企業(yè)的盲區(qū)。
第二個場景是歷史數(shù)據(jù)清洗。每一位風(fēng)控同學(xué)都會碰到這個任務(wù)，業(yè)務(wù)要對歷史的數(shù)據(jù)做全面、清晰的再次審核。這個時候一般時間周期非常短，往往一周或一個月就得回顧全站的內(nèi)容數(shù)據(jù)。這個就考驗(yàn)大家的應(yīng)急能力。以易盾的工作節(jié)奏為例，第一要調(diào)度相當(dāng)多的GPU的機(jī)器資源來支援，第二要緊急調(diào)度人工審核。我們做到過三天之內(nèi)增加了百位審核人員，助力客戶去做歷史數(shù)據(jù)清洗之后的人工審核，確保內(nèi)容風(fēng)險不再次發(fā)生，第三要跟進(jìn)最新策略，確保每個月能夠回掃一遍，保證歷史存量數(shù)據(jù)和新增數(shù)據(jù)符合最新的監(jiān)管標(biāo)準(zhǔn)，這樣就能進(jìn)一步降低歷史數(shù)據(jù)中的風(fēng)險。
上述多行業(yè)的通用小場景都是來自客戶的真實(shí)需求。2022年，易盾會持續(xù)做好整個產(chǎn)品技術(shù)上的打磨，在娛樂、社交、游戲等各行業(yè)的各類典型場景上繼續(xù)深挖，爭取能夠貼身去解決相應(yīng)問題。除了行業(yè)創(chuàng)新之外，我們?nèi)詴粩嗵嵘w智能風(fēng)控的水平，也會盡可能做到安全和用戶體驗(yàn)的平衡，盡最大努力成為客戶的一個后盾。
2016年9月20號，網(wǎng)易易盾正式對外發(fā)布，開啟商業(yè)化道路，過去的五年，是一段1825天，43800小時的時光。從0到1是靈感的迸發(fā)，是創(chuàng)新與創(chuàng)意的呈現(xiàn)；從1到5是繼往開來，是推陳出新的傳承發(fā)展；從5到無窮是源遠(yuǎn)流長，是遠(yuǎn)見穩(wěn)進(jìn)的延續(xù)。5年磨鋒礪劍，我們攜手創(chuàng)新者乘風(fēng)破浪，5年砥礪前行，我們陪伴遠(yuǎn)見者茁壯成長。感謝每一位客戶的陪伴和支持。
