7月7日，由南方都市報、清華大學人工智能國際治理研究院主辦，中國科協(xié)-復旦大學科技倫理與人類未來研究院和上海人工智能實驗室協(xié)辦的“人工智能創(chuàng)新與治理”論壇在上海召開。本次論壇邀請了多位來自國內(nèi)外的大咖專家參與，并針對近年來出現(xiàn)的AI換臉詐騙、大模型生成虛假信息、AIGC版權(quán)歸屬爭議等聚焦生成式AI潛在的風險與問題，發(fā)布了《生成式AI倫理與治理倡議書》(下稱《倡議書》)。據(jù)了解，這也是國內(nèi)首份由智庫媒體發(fā)起、跨行業(yè)聯(lián)動發(fā)布的生成式AI治理與倫理倡議書。賽博昆侖創(chuàng)始人兼CEO鄭文彬，與30余位專家、學者、公眾人物一道，聯(lián)合署名發(fā)布了本次倡議書。
《倡議書》提到，近年來，“AI詐騙”、“AI犯罪”等關(guān)鍵詞開始走入公眾視野，出現(xiàn)了一系列“網(wǎng)聊10分鐘騙走430萬元”等真實案例，而利用AI換臉、AI擬聲技術(shù)等佯裝好友實施詐騙，以及利用人工智能軟件 “捏造”罪名、生成虛假案例，生成內(nèi)容涉嫌侵犯知識產(chǎn)權(quán)等問題，更是屢屢見諸媒體。
如何區(qū)分足以“以假亂真”的AI生成內(nèi)容、當AI生成內(nèi)容造成侵權(quán)或違法問題時，如何認定相關(guān)責任，以及類似的問題如何利用技術(shù)手段去管理，都成為本次會議討論的焦點。
據(jù)南都數(shù)字經(jīng)濟治理研究中心介紹，本《倡議書》最終形成了“七大原則”和“七大建議”，內(nèi)容包括確保安全、客觀公正、信息披露、尊重自主、可問責可追溯、人工把關(guān)、敏捷治理等。其中“確保安全原則”提出，相關(guān)企業(yè)或組織應采取足夠的管理措施和技術(shù)手段，積極防范生成式AI技術(shù)產(chǎn)品的漏洞攻擊風險，并在產(chǎn)品的整個生命周期中保證用戶隱私及個人信息的安全。
賽博昆侖方面表示，隨著人工智能技術(shù)的高速發(fā)展，特別是AIGC出現(xiàn)以后，網(wǎng)絡(luò)安全開始遭遇到新的問題與挑戰(zhàn)，新的使用場景，帶來了新的攻擊手段和安全隱患。對此，除了社會各界深入關(guān)注、恪守公德邊界之外，技術(shù)手段的“硬手段”，往往才是最終的解決之道。
賽博昆侖代表認為，AIGC的內(nèi)容安全不僅僅牽涉到數(shù)據(jù)以及隱私泄露，也同時關(guān)乎模型訓練、標注、應用，以及長期輿情監(jiān)控的各個環(huán)節(jié)，其中任何一個環(huán)節(jié)存在漏洞，都可能引入相關(guān)風險。對此，賽博昆侖代表表示將充分發(fā)揮自身優(yōu)勢，與社會各界一道，積極參與應對防范AIGC安全問題的行動中來。
作為《倡議書》的簽署方，賽博昆侖在防范漏洞攻擊、確保信息安全方面，恰恰是國內(nèi)頂級技術(shù)能力驅(qū)動的網(wǎng)絡(luò)空間安全服務(wù)商，在高危漏洞攻防、0day漏洞預警應急等方面，擁有國內(nèi)首屈一指的技術(shù)實力。公司旗下安全研究團隊“昆侖實驗室”，由國內(nèi)頂尖安全研究人員組成，自成立以來，已多次斬獲Pwn2own、天府杯、強網(wǎng)杯精英賽等國際頂級黑客大賽最高榮譽。而其旗下高級攻防團隊成員，則均來自一線大廠的攻防實驗室，并作為攻擊隊核心成員，在大型護網(wǎng)、區(qū)域/行業(yè)級護網(wǎng)、企業(yè)級護網(wǎng)中表現(xiàn)優(yōu)異，取得過多項優(yōu)秀成績。
賽博昆侖代表最后表示，未來將從技術(shù)角度出發(fā)，積極踐行《倡議書》的原則和方向，為生成式AI更加健康、穩(wěn)定的長遠、安全發(fā)展，貢獻自己的力量。
