前言：4月11日，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》（下稱《管理辦法》），并向社會(huì)公開(kāi)征求意見(jiàn)。《管理辦法》的目的是促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。整體共分21條，涵蓋內(nèi)容監(jiān)管、算法監(jiān)管、數(shù)據(jù)監(jiān)管等維度，其中內(nèi)容安全條款占據(jù)篇幅最多。
本文根據(jù)數(shù)美科技副總裁陳太鋒在線下沙龍上的演講《如何做好AIGC產(chǎn)品合規(guī)》整理成文。
4月11日出臺(tái)的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，其實(shí)是給行業(yè)吃了一個(gè)定心丸，也是一個(gè)積極信號(hào)。國(guó)家對(duì)生成式人工智能的主基調(diào)——支持和鼓勵(lì)，即國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。
01
風(fēng)險(xiǎn)四大類事前-事中-事后管理
AIGC涉及的技術(shù)核心有三點(diǎn)：數(shù)據(jù)、算法、生成。數(shù)據(jù)采集——清洗和分類——算法生成，整個(gè)業(yè)務(wù)的形態(tài)都圍繞這三點(diǎn)進(jìn)行，從這三點(diǎn)出發(fā)，AIGC行業(yè)面臨的風(fēng)險(xiǎn)可以分為四大類。
第一，備案與安全評(píng)估。包括深度合成服務(wù)、算法推薦管理等，都需要符合相關(guān)法規(guī)，針對(duì)具體場(chǎng)景如金融，還需要符合該場(chǎng)景的監(jiān)管辦法。同時(shí)明確要求，在向公眾提供服務(wù)前，要按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
第二，內(nèi)容安全。這里指的就是生成內(nèi)容合規(guī)，包括意識(shí)形態(tài)安全問(wèn)題、社會(huì)公序良俗問(wèn)題、不正當(dāng)競(jìng)爭(zhēng)問(wèn)題、虛假信息管理問(wèn)題、尊重他人合法利益問(wèn)題等5個(gè)方面，AI生成內(nèi)容需要遵守《互聯(lián)網(wǎng)信息服務(wù)管理辦法》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》。
第三，用戶權(quán)益。核心包括保障用戶信息安全、知情同意權(quán)、舉報(bào)投訴權(quán)利，以及建立未成年人保護(hù)、老年人權(quán)益保護(hù)機(jī)制。
第四，知識(shí)產(chǎn)權(quán)。包括數(shù)據(jù)版權(quán)和肖像權(quán)等。
具體來(lái)看，AIGC合規(guī)可以從事前、事中、事后來(lái)分別管理。
02
事前做好備案、評(píng)估和監(jiān)督
針對(duì)事前，最重要的是做算法備案和安全評(píng)估——在算法備案的同時(shí)，利用生成式服務(wù)產(chǎn)品向公眾提供服務(wù)前，必須向國(guó)家相關(guān)部門(mén)申請(qǐng)安全評(píng)估，這是產(chǎn)品進(jìn)入市場(chǎng)的兩個(gè)條件。備案的依據(jù)可以參考《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。
有幾個(gè)常見(jiàn)的概念需要厘清，算法備案、算法安全評(píng)估和算法監(jiān)督檢查。
算法備案指的是企業(yè)在“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”網(wǎng)站上填報(bào)信息，獲得備案號(hào)，相當(dāng)于開(kāi)車(chē)上路前需要取得的駕照，算法安全評(píng)估則側(cè)重于具體落實(shí)的檢查，相當(dāng)于對(duì)你取得駕照后的技術(shù)考察；算法監(jiān)督檢查則相當(dāng)于交警的不定期檢查。
1）算法備案三步走
具體到流程方面，算法備案一共分三步，通常需要1-3個(gè)月。
首先是主體信息填報(bào)。如果企業(yè)主體不清楚自己是否需要去備案，可以登錄“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”網(wǎng)站，提交主體信息、證件信息、法人信息、算法安全責(zé)任人信息，簽署《算法備案承諾書(shū)》《落實(shí)算法安全主題責(zé)任基本情況》，國(guó)家相關(guān)部門(mén)收到材料后會(huì)在10個(gè)工作日內(nèi)反饋——是否需要備案，如無(wú)需備案則直接通過(guò)，如需備案則反饋具體備案詳情。
接下來(lái)是算法信息填報(bào)，包括《算法安全自評(píng)估報(bào)告》、擬公示內(nèi)容和算法詳細(xì)屬性報(bào)告。公示指的是算法透明度，具體功能和邏輯；屬性指的是基礎(chǔ)屬性和包括數(shù)據(jù)、模型、策略、風(fēng)險(xiǎn)防范機(jī)制在內(nèi)的詳細(xì)屬性。通常會(huì)在30個(gè)工作日內(nèi)得到答復(fù)。
第三步是產(chǎn)品及功能信息填報(bào)，驗(yàn)證產(chǎn)品的實(shí)際信息是否和填報(bào)信息相符。
2）安全評(píng)估
國(guó)家互聯(lián)網(wǎng)信息辦公室和公安部2018年11月發(fā)布的《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》指出，具有輿論屬性和社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)都需要進(jìn)行安全評(píng)估，現(xiàn)在AIGC的多數(shù)企業(yè)都屬于這個(gè)范疇。
評(píng)估包括兩種形式，一種是產(chǎn)品在 app 應(yīng)用市場(chǎng)上架前需要的安全自評(píng)估報(bào)告，通常需要1-3周，通過(guò)專門(mén)的流程完成評(píng)估備案；另一種指的是國(guó)家相關(guān)部門(mén)的安全監(jiān)督檢查，核心包括兩點(diǎn)，平臺(tái)產(chǎn)品的安全管理策略和技術(shù)保障措施。
03
事中業(yè)務(wù)流程六步走
事中則是對(duì)發(fā)布信息的管理，包括信息發(fā)布審核、數(shù)據(jù)保障措施、技術(shù)實(shí)現(xiàn)手段等，企業(yè)主體需要做到信息發(fā)布可管可控。
根據(jù)業(yè)務(wù)流程，事中可以劃分為六大塊：數(shù)據(jù)采集-數(shù)據(jù)清洗-數(shù)據(jù)標(biāo)注-模型訓(xùn)練-模型驗(yàn)證-內(nèi)容生成。擬出臺(tái)的新規(guī)對(duì)行業(yè)而言是不小的挑戰(zhàn)，如何做好其中的合規(guī)步驟，這也是從業(yè)者們高度關(guān)注的問(wèn)題。
挑戰(zhàn)之一是巨大的數(shù)據(jù)量，相較于PGC和UGC，AIGC的內(nèi)容量級(jí)又有了指數(shù)級(jí)增加，內(nèi)容安全合規(guī)審核難度呈跨越式增長(zhǎng)；另一方面，違規(guī)內(nèi)容類型不可預(yù)測(cè)，因?yàn)椴杉瘮?shù)據(jù)多樣，經(jīng)過(guò)算法生成的內(nèi)容可能是無(wú)法根據(jù)既往經(jīng)驗(yàn)判斷的。除此外，時(shí)效性和專業(yè)性的要求也隨之增加，必須有專業(yè)的審核機(jī)制、審核系統(tǒng)和流程，進(jìn)一步確保過(guò)程合規(guī)，產(chǎn)出合規(guī)。
04
事后應(yīng)急保障措施
事后包括突發(fā)事件處置、事故處置和應(yīng)急保障措施，鑒于問(wèn)題發(fā)生類型多樣，需要針對(duì)具體問(wèn)題具體分析。
05
行業(yè)首發(fā)AIGC風(fēng)控解決方案
為了降低這些內(nèi)容風(fēng)險(xiǎn)，開(kāi)發(fā)和使用AI生成內(nèi)容的技術(shù)和應(yīng)用時(shí)應(yīng)采取相應(yīng)的措施。數(shù)美科技在人工智能內(nèi)容風(fēng)控領(lǐng)域深耕多年，已迅速針對(duì)AIGC的行業(yè)特點(diǎn)，發(fā)布了解決方案和《AIGC數(shù)字風(fēng)控行業(yè)手冊(cè)》，如需了解更多信息，歡迎下載，或點(diǎn)擊試用。
