如何做好AIGC產品合規？| 數美分享-魔扣目錄

前言：4月11日，國家網信辦發布《生成式人工智能服務管理辦法(征求意見稿)》（下稱《管理辦法》），并向社會公開征求意見。《管理辦法》的目的是促進生成式人工智能技術健康發展和規范應用。整體共分21條，涵蓋內容監管、算法監管、數據監管等維度，其中內容安全條款占據篇幅最多。

本文根據數美科技副總裁陳太鋒在線下沙龍上的演講《如何做好AIGC產品合規》整理成文。

4月11日出臺的《生成式人工智能服務管理辦法（征求意見稿）》，其實是給行業吃了一個定心丸，也是一個積極信號。國家對生成式人工智能的主基調——支持和鼓勵，即國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先采用安全可信的軟件、工具、計算和數據資源。

風險四大類事前-事中-事后管理

AIGC涉及的技術核心有三點：數據、算法、生成。數據采集——清洗和分類——算法生成，整個業務的形態都圍繞這三點進行，從這三點出發，AIGC行業面臨的風險可以分為四大類。

第一，備案與安全評估。包括深度合成服務、算法推薦管理等，都需要符合相關法規，針對具體場景如金融，還需要符合該場景的監管辦法。同時明確要求，在向公眾提供服務前，要按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

第二，內容安全。這里指的就是生成內容合規，包括意識形態安全問題、社會公序良俗問題、不正當競爭問題、虛假信息管理問題、尊重他人合法利益問題等5個方面，AI生成內容需要遵守《互聯網信息服務管理辦法》和《網絡信息內容生態治理規定》。

第三，用戶權益。核心包括保障用戶信息安全、知情同意權、舉報投訴權利，以及建立未成年人保護、老年人權益保護機制。

第四，知識產權。包括數據版權和肖像權等。

具體來看，AIGC合規可以從事前、事中、事后來分別管理。

事前做好備案、評估和監督

針對事前，最重要的是做算法備案和安全評估——在算法備案的同時，利用生成式服務產品向公眾提供服務前，必須向國家相關部門申請安全評估，這是產品進入市場的兩個條件。備案的依據可以參考《互聯網信息服務深度合成管理規定》。

有幾個常見的概念需要厘清，算法備案、算法安全評估和算法監督檢查。

算法備案指的是企業在“互聯網信息服務算法備案系統”網站上填報信息，獲得備案號，相當于開車上路前需要取得的駕照，算法安全評估則側重于具體落實的檢查，相當于對你取得駕照后的技術考察；算法監督檢查則相當于交警的不定期檢查。

1）算法備案三步走

具體到流程方面，算法備案一共分三步，通常需要1-3個月。

首先是主體信息填報。如果企業主體不清楚自己是否需要去備案，可以登錄“互聯網信息服務算法備案系統”網站，提交主體信息、證件信息、法人信息、算法安全責任人信息，簽署《算法備案承諾書》《落實算法安全主題責任基本情況》，國家相關部門收到材料后會在10個工作日內反饋——是否需要備案，如無需備案則直接通過，如需備案則反饋具體備案詳情。

接下來是算法信息填報，包括《算法安全自評估報告》、擬公示內容和算法詳細屬性報告。公示指的是算法透明度，具體功能和邏輯；屬性指的是基礎屬性和包括數據、模型、策略、風險防范機制在內的詳細屬性。通常會在30個工作日內得到答復。

第三步是產品及功能信息填報，驗證產品的實際信息是否和填報信息相符。

2）安全評估

國家互聯網信息辦公室和公安部2018年11月發布的《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》指出，具有輿論屬性和社會動員能力的互聯網信息服務都需要進行安全評估，現在AIGC的多數企業都屬于這個范疇。

評估包括兩種形式，一種是產品在 app 應用市場上架前需要的安全自評估報告，通常需要1-3周，通過專門的流程完成評估備案；另一種指的是國家相關部門的安全監督檢查，核心包括兩點，平臺產品的安全管理策略和技術保障措施。

事中業務流程六步走

事中則是對發布信息的管理，包括信息發布審核、數據保障措施、技術實現手段等，企業主體需要做到信息發布可管可控。

根據業務流程，事中可以劃分為六大塊：數據采集-數據清洗-數據標注-模型訓練-模型驗證-內容生成。擬出臺的新規對行業而言是不小的挑戰，如何做好其中的合規步驟，這也是從業者們高度關注的問題。

挑戰之一是巨大的數據量，相較于PGC和UGC，AIGC的內容量級又有了指數級增加，內容安全合規審核難度呈跨越式增長；另一方面，違規內容類型不可預測，因為采集數據多樣，經過算法生成的內容可能是無法根據既往經驗判斷的。除此外，時效性和專業性的要求也隨之增加，必須有專業的審核機制、審核系統和流程，進一步確保過程合規，產出合規。