疫情期間，約會應(yīng)用軟件意外成為必需品，不僅霸榜iOS應(yīng)用商店下載排行榜，更是在去年獲得了超6億人的使用。可見，陌生人社交模式成為當(dāng)代青年交往的重要助推器，人氣緊追老牌社交軟件。
在此背景下，陌生人社交軟件迅速躥紅。某陌生人社交軟件在專注于“交友”生態(tài)建設(shè)的同時，始終秉承“守護(hù)用戶交友安全”的責(zé)任，構(gòu)建了一支100人以上的審核團(tuán)隊，并引入網(wǎng)易易盾的數(shù)字內(nèi)容風(fēng)控體系，為用戶可信度與APP內(nèi)容生態(tài)把關(guān)，保證陌生人社交的真實性與安全性。
一、聚焦單身交友，發(fā)揮先行者優(yōu)勢
某陌生人社交軟件，是一款以互聯(lián)網(wǎng)思維開發(fā)的婚戀交友APP，讓單身男女通過文字、語音、視頻等多種方式與同城附近異性聊天與互動，已有超過千萬用戶在平臺快速搭訕結(jié)識了心怡的另一半、知心朋友、紅顏藍(lán)顏知己。
以獨特的文化內(nèi)涵，豐富品牌調(diào)性，該陌生人社交軟件不僅強(qiáng)調(diào)產(chǎn)品的單身交友屬性，更傳遞年輕人對自我、情感的表達(dá)，通過對自己的“示弱”的調(diào)侃，形成幽默的反差效果。在短短4年內(nèi)中，APP已經(jīng)實現(xiàn)100倍用戶增長，在2020年7月APP總用戶量突破1億，成功躋身中國垂直社交產(chǎn)品TOP3產(chǎn)品。
二、各大風(fēng)險 識別和管控
在信息高度發(fā)達(dá)的今天，該客戶經(jīng)歷了商業(yè)模式的階梯式創(chuàng)新，以智能的AI匹配算法，以聲音、視頻、AI智能推薦機(jī)制為抓手，為用戶快速推薦相互有好感的異性。
在這里，搭訕聊天回復(fù)率高，平均回復(fù)等待時間小于5秒，讓用戶快速進(jìn)入狀態(tài)。內(nèi)容交互節(jié)奏的加快，意味著內(nèi)容審核機(jī)制的快步趕上。該客戶從以下2方面出發(fā)，對可靠和穩(wěn)健的數(shù)字內(nèi)容風(fēng)控體系提出要求：
海量UGC內(nèi)容安全：色情、虛假廣告、違禁、暴恐、涉政等內(nèi)容的監(jiān)察與攔截，有損平臺形象，IM私聊、社區(qū)、評論、動態(tài)、用戶資料、直播等環(huán)節(jié)是用戶參與的重點，也成為所有互聯(lián)網(wǎng)內(nèi)容平臺關(guān)注焦點。
新進(jìn)用戶身份把關(guān)：進(jìn)行風(fēng)險審核時，不可避免需要對新用戶進(jìn)行綜合評估， 首先必須在不影響個人隱私的情況下，其次賬號背后的身份真實、可靠性往往難以把控和確認(rèn)。
陌生人社交平臺所面臨的內(nèi)容風(fēng)險來自于各方各面，識別和管控細(xì)碎且復(fù)雜，大大掣肘了業(yè)務(wù)穩(wěn)定健康發(fā)展。近年來，采用先進(jìn)技術(shù)應(yīng)對風(fēng)險，成為行業(yè)進(jìn)步的一個必然選擇。
三、“清朗”主體責(zé)任多維度把握
清朗網(wǎng)絡(luò)空間的治理行動穩(wěn)步開展，陌生人社交向著健康的方向發(fā)展成為大趨勢。該客戶以平臺自身監(jiān)管責(zé)任為使命，攜手網(wǎng)易易盾，共同構(gòu)建一套全面覆蓋、相互連結(jié)的數(shù)字內(nèi)容風(fēng)控體系。
在合作中，該客戶強(qiáng)化了“先審后發(fā)”和“三重審核”機(jī)制，利用AI機(jī)初審，基于智能審核平臺開展人工復(fù)審，以及總編室終審，保證真實社交的安全性。
AI機(jī)審，基于自然語言理解、深度學(xué)習(xí)等技術(shù)，覆蓋圖、文、音、視，實現(xiàn)毫秒級違規(guī)預(yù)警。從源頭出發(fā)，敏感詞檢測一般作為第一道關(guān)卡，同時結(jié)合智能模型對文本二次識別。易盾為其設(shè)置了敏感關(guān)鍵詞、策略規(guī)則組合、語義模型，針對敏感信息進(jìn)行實時預(yù)警，達(dá)到攔截垃圾內(nèi)容的目的。
根據(jù)客戶的場景及需求，設(shè)立專項完成優(yōu)化方案：一是，確定了四檔風(fēng)控等級，通過分級制度更好管控內(nèi)容服務(wù)。二是，根據(jù)日常運(yùn)營需求，靈活定制內(nèi)容監(jiān)管策略。三是，為違規(guī)問題匹配定制化標(biāo)簽，確保審核數(shù)據(jù)結(jié)果一目了然。
網(wǎng)易易盾還為用戶真實性提供全面驗證，所有技術(shù)基于合法隱私數(shù)據(jù)之上。用戶畫像技術(shù)通過用戶行為、設(shè)備IP等信息，分析用戶是否有黑灰產(chǎn)風(fēng)險，是否為虛假賬號，最小化地利用個人數(shù)據(jù)，從而最大程度地滿足個人數(shù)據(jù)隱私合規(guī)要求，實現(xiàn)用戶身份的驗證。
最后，通過輿情周報、月度報告、年度報告，API報告、特殊時期安保專項等多個環(huán)節(jié)進(jìn)行定期反饋，提供審核過程的數(shù)據(jù)監(jiān)控、質(zhì)檢優(yōu)化等功能，確保審核質(zhì)量的真實可信。
四、一站式風(fēng)控效果顯著
長遠(yuǎn)來看，數(shù)字內(nèi)容風(fēng)控體系接入簡單，一站式提供數(shù)十種算法模型、多類違規(guī)內(nèi)容對抗策略與全棧智能審核平臺，大大降低公司開發(fā)成本與節(jié)省內(nèi)容治理人力，確保了不同場景下的內(nèi)容對用戶無害，勢必將全面釋放交友的流動性，讓社交更具活力。
用戶安全
每一位新用戶都經(jīng)過“系統(tǒng)+人工”雙重審核，超過9成的用戶通過真人認(rèn)證。真人社交讓APP擁有了更多的用戶技術(shù)和較強(qiáng)的用戶粘性。
內(nèi)容安全
以2021年2月為例，APP累計處理違規(guī)案例22409例，禁言處罰10705例，封禁賬號218例，永久封禁賬號11486例。由數(shù)據(jù)可知，APP“凈網(wǎng)行動”卓有成效，違法違規(guī)行為數(shù)據(jù)連降5個月，降幅明顯。
內(nèi)容審核不再只是為了發(fā)現(xiàn)與刪除不良內(nèi)容，有效區(qū)分出高風(fēng)險的訪問者、并持續(xù)跟蹤各類內(nèi)容風(fēng)險，成為了平臺的每日課題。目前，易盾一站式“智能內(nèi)容檢測解決方案”接入簡單，效果顯著，為眾多頭部娛樂社交公司所采用。
