9月11日上午，第六屆CSS互聯(lián)網安全領袖峰會正式開幕。來自中國信通院、IDC、小紅書、騰訊等相關領域的專家，共同圍繞“產業(yè)上云，安全先行”主題展開探討，分享產業(yè)安全不同領域的最佳實踐。
小紅書安全業(yè)務負責人周達受邀出席大會并發(fā)表題為《小紅書與安全》的主題演講。他認為，社區(qū)安全治理是一個長期不間斷的工作，其安全本質就是解決平臺、發(fā)布者、消費者三方訴求，終極解決之道就是加持大數據、人工智能等技術創(chuàng)新手段，才能實現(xiàn)打擊質效的進一步提升。
以“三方”訴求為導向，構建“識別+處罰+宣導”社區(qū)安全管理機制
周達指出，對于社區(qū)平臺而言，用戶發(fā)布的內容，需要符合相關的法律法規(guī)，以及平臺的價值觀。這要求平臺強化內容安全審核時，要以科技創(chuàng)新為基礎，通過“機器審核+人工審核+高展復合”機制提高對內容安全的監(jiān)管能力，始終圍繞社區(qū)定位做好內容安全管理。
周達舉例說，在機器審核環(huán)節(jié)中，通過與騰訊的合作，我們引入了騰訊安全天御的AI技術，完善了機器審核能力，同時大幅提高了人工審核效率，以及減少了人工審核的數量，為小紅書的發(fā)布者提供了一個更加優(yōu)質的體驗。
關于發(fā)布者和消費者二者之間的關系和安全訴求，周達以一個譬喻來生動形象地說解答說：小紅書像是一座城市，內容的發(fā)布者參與到社會的生產活動中，我們認定其為“商人”，而用戶付出的是時間機會成本，在經濟學中被稱之為“消費者”。那么，“商人”更加畏懼刷粉、刷量、刷贊等破壞市場規(guī)則的不正當競爭手段，這樣會導致優(yōu)質的發(fā)布者無法獲得足夠的流量，最終被淘汰。但消費者安全訴求本質是信息的不對稱，無論是以什么樣的方式，都是通過信息不對稱的結果，導致了我們的消費者最終上當受騙，或者對你們的利益產生了損害。
針對以上三方面臨的安全問題，小紅書在實踐過程中逐漸摸索一套“識別+處罰+宣導”專業(yè)化安全治理體系，并且效果日漸凸顯。據小紅書2020年第二季度社區(qū)生態(tài)治理報告數據顯示，小紅書當季處理涉嫌刷量筆記 66萬篇、實時攔截和清理黑產行為超過1.3億次、巡回攔截和清理黑灰產行為超過1.3億次，對網絡黑灰產形成了巨大的威懾力和殺傷力。
創(chuàng)新技術手段加持，“大數據服務+用戶隱私保護”驅動社區(qū)安全建設發(fā)展
流量為王時代，針對內容安全治理如何破解的問題。周達則表示，創(chuàng)新技術是內容平臺安全管理的終極解決之道，通過建立安全新思維，體系化機制來解決安全問題。
他以小紅書和騰訊安全聯(lián)合打擊真人眾包合作為例，天御系統(tǒng)會把在站外識別到的黑灰產打上標簽，當這些黑灰產用戶來到小紅書的時候，我們就已經提前一步知曉黑灰產的目的動機，可以第一時間采取防御措施。
除了持續(xù)的迭代策略對抗、加強內容模型識別外，小紅書還自主開發(fā)、升級清理不良內容、打擊虛假數據策略模型和治理策略，對有效提升基于行為特征、內容特征等方面的算法模型和策略識別能力在治理中也起到了關鍵作用。同時，小紅書還將大數據分析、人工智能、機器學習等新技術運用于安全體系，對安全事件事前偵知預警、事中察知阻斷和事后溯源修復，全流程有效防范和嚴厲打擊黑灰產。
正如騰訊副總裁丁珂在演講中所說：“目前大多數企業(yè)安全體系的完備程度，相比數字化的發(fā)展速度，還存在比較大的差距。不能簡單的把安全寄希望于一筆預算的投入，而是應該系統(tǒng)性地重新思考安全的戰(zhàn)略定位，選擇恰當的路徑和手段，找到解決安全風險的‘最優(yōu)解’。”
在大數據及人工智能飛速發(fā)展的今天，周達也對大數據服務和用戶隱私保護等新技術趨勢做出預測。在演講最后他表示，小紅書正逐步將位置保護技術、同態(tài)加密技術、聯(lián)邦計算技術、OT傳輸技術等多方技術應用于用戶數據保護，從根源上確保用戶隱私被盜用、竊取，讓用戶對自己個人數據享有絕對的“自主權”。
