9月15日,網易智企主辦的“智啟 AI • AIGC 產業賦能大會”在中國烏鎮盛大開幕,多位在 AI 領域具備深刻理解的大咖圍繞 AI 賦能行業的趨勢、AI 催生的商業機遇、AI 驅動企業轉型的策略等話題進行了探討。網易智企分享了 AIGC 在組織效能提升的實踐經驗,以及智企各業務線 AI 落地的最新進展與成果,并發布了聚焦于客服領域的行業大模型“商河”。
大會同期,作為網易智企旗下的新一代數字內容風控領軍者,網易易盾發布《生成式人工智能(AIGC)內容安全合規指引》。該指引旨在闡述AIGC趨勢下,開展數字化業務的企業如何建立內容安全合規體系,以確保AIGC相關業務健康長效地發展。
01.AIGC,數字內容風控的“矛”與“盾”
在愛分析聯合網易易盾發布的數字內容風控行業首本白皮書——《2023數字內容風控行業白皮書》中提到,自2022年開始,從引爆AI作畫領域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT為代表的接近人類水平的對話機器人,AIGC技術逐漸走入人們的視野和日常生活,也逐漸成為內容生產的新引擎,其強大的內容生產能力更是給人們帶來了極大的震撼。
一方面,AIGC提升了內容生產效率,成為數字內容生產的“利器”,另一方面也要看到,AIGC的內容生產方式給黑灰產也提供了更加便利的工具,提升了數字內容風控的難度,包括虛假信息問題、惡意內容問題、網絡欺詐問題等。
在當前的AIGC環境下,虛假信息、惡意內容以及網絡欺詐等問題已成為待解決的難題。因此,AIGC平臺廠商需要建立完整的閉環風控體系,以實現全面的防范和處置。該體系應從事前防控開始,通過數據標注、數據治理等方法手段,將風險防控前置化;接著,在事中階段,應精準審核各種內容,利用先進的人工智能算法進行快速篩選和判定是否存在違規行為,最后,在事后處置優化階段,應采取有效的措施對違規行為進行處理,并通過持續的監控和反饋機制,不斷完善和優化風控體系,確保 AIGC應用的安全穩定運營。
易盾本次發布《生成式人工智能(AIGC)內容安全合規指引》,即意在確保AIGC這一人類歷史上的突破性科技成果,“矛”為人類所用,“盾”護自身安全。
02.在效率之前的命題:安全合規
生成式人工智能(AIGC)的安全與合規,并不是某一家企業或某一個平臺需要面對的命題,而是一個社會在面對一項時代進步時所需要共同面對的。
國家網信辦等七部門發布了《生成式人工智能服務管理暫行辦法》(以下稱“辦法”),對生成式人工智能進行專項監管,于2023年8月15日正式施行。這也是我國首個針對生成式人工智能產業的規范性政策。
根據中國日報網解讀,在落實規范細則同時,《辦法》也進一步鼓勵生成式人工智能技術在各行業、各領域的創新應用,支持各類組織在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作,推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。
此外,《辦法》在優化監管細則,支持企業級生成式人工智能技術進一步發展同時,也鼓勵生成式人工智能在不同行業、領域的應用,構建應用生態體系,加速生成式人工智能應用生態發展。
《辦法》實施的不久之后,百度、字節跳動、商湯、中科院旗下紫東太初、百川智能、智譜華章等8家企業/機構的大模型位列首批通過《生成式人工智能服務管理暫行辦法》備案的名單,可正式上線面向公眾提供服務。
在看到監管的同時,更應該看到安全合規帶來的長期利好。縱觀歷史各項對人類發展有著重大意義的科技成果,每項成果在大規模造福人類時都需要在“安全合規”的前提下——這不是一種負擔,而是一種長期主義下的重要保障。
03.得《指引》者得安全,得安全者得長效
在此次發布的《生成式人工智能(AIGC)內容安全合規指引》中,易盾團隊首先闡述了生成式人工智能內容安全的重要性,后以人工智能行業合規發展為出發點,重點探討了生成式人工智能全生命周期的安全風險與合規,最后進行總結并提出幾點建議,幫助生成式人工智能服務提供商在合乎規范的前提下為用戶提供服務,促進生成式人工智能健康蓬勃發展。
《指引》通過AIGC生命周期風險、風險應對、內容安全的檢測標準、內容安全檢測工具及實例分析、AIGC企業合規要點5大章節近2萬字給出了詳細且完善的AIGC內容安全合規方法論與案例參考。同時易盾研究團隊向社會與行業免費公開此《指引》,這也是網易易盾作為數字內容風控行業領軍者的行業擔當、社會擔當。
在給出具體合規要點與方法的同時,《指引》還在最后向AIGC服務提供商真誠地提出如下建議:
(1)積極響應國家政策,以網信辦等主管部門發布的相關文件為指引,做好算法備案、安全自評估等工作;
(2)加強對合規標準的自主探索,建立企業層面的評價體系,堅持以公平、公開、向善的原則開展有關技術的研究和應用工作,加強AIGC全生命周期合規工作的監督意識,確保訓練階段不脫節、應用階段不違法;
(3)加強企業安全管理制度建設,用制度規范行為,做到安全管理常態化;
(4)加強科技創新,著重解決現有技術中存在的難題,突破算法透明度、健壯性、歧視與偏見等技術局限,打破行業發展瓶頸;
(5)主動承擔社會責任,加強正面宣傳,幫助廣大人民群眾了解AIGC技術的現狀和發展趨勢,引導大眾正確使用相關技術服務,助力AIGC真正造福社會、造福人類。
網易副總裁、網易智企總經理阮良表示:可以說,幾乎所有的業務都適合用AI重做一遍,所有的效益都值得被AIGC放大一遍。作為網易智企旗下的新一代數字內容風控領軍者,網易易盾基于豐富的內容安全行業經驗積累,為企業提供算法備案等安全專家咨詢服務,以數字化的方式幫助企業客戶用AIGC放大效益,用《生成式人工智能(AIGC)內容安全合規指引》與AIGC內容安全解決方案與所有擁抱AIGC的企業伙伴們奔向長效、奔向未來。
