5月7日下午，2023西湖論劍·數(shù)字安全大會（原西湖論劍·網(wǎng)絡安全大會）——第十六期網(wǎng)絡安全創(chuàng)新發(fā)展高端論壇在杭州成功舉辦。中國工程院院士沈昌祥，國家信息中心黨委專職副書記、紀委書記吳文化，國家信息中心信息與網(wǎng)絡安全部主任楊紹亮，中國電信集團有限公司科技創(chuàng)新部總經(jīng)理、云網(wǎng)基礎設施安全國家工程研究中心主任王桂榮，中國信息協(xié)會信息安全專業(yè)委員會主任葉紅，國家信息技術安全研究中心原總工程師李京春，中國電信股份有限公司研究院副院長、云網(wǎng)基礎設施安全國家工程研究中心常務副主任李安民，北京大學教授、博導陳鐘，中國電科首席專家董貴山，國家信息中心信息與網(wǎng)絡安全部博士、高級工程師王佳慧，上海第五空間信息科技研究院理事長朱易翔，網(wǎng)宿科技副總裁呂士表、安恒信息啟鑒實驗室主任安通鑒等出席本次論壇。
國家信息中心黨委專職副書記、紀委書記吳文化在致辭中表示，近年來，全球人工智能產(chǎn)業(yè)呈現(xiàn)蓬勃發(fā)展勢頭，已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，與此同時，人工智能也顯露出了對網(wǎng)絡安全行業(yè)的巨大影響和應用潛力，可謂機遇與挑戰(zhàn)并存。對此，吳書記提出三點建議：“一是注重創(chuàng)新引領，搶占人工智能技術新高地；二是強化需求導向，促進人工智能高水平應用發(fā)展；三是夯實安全基礎，堅持安全可靠和創(chuàng)新發(fā)展并重。”
中國電信集團有限公司科技創(chuàng)新部總經(jīng)理、云網(wǎng)基礎設施安全國家工程研究中心主任王桂榮在致辭中指出，人工智能引領的科技革命浪潮席卷全球，同時也引發(fā)了業(yè)界對AI安全的思考和關注，“AI for Security”、 “Security for AI”以及AI安全倫理等問題帶來了很多全新的挑戰(zhàn)，中國電信依托工程中心開展了一系列的創(chuàng)新探索，同時也呼吁業(yè)界共同努力，為促進安全可靠的人工智能應用和發(fā)展貢獻智慧和力量。
中國信息協(xié)會信息安全專業(yè)委員會主任葉紅在致辭中表示，人工智能技術的創(chuàng)新應用，給數(shù)字經(jīng)濟、數(shù)字政府、數(shù)字社會發(fā)展帶來新機遇，但與此同時人工智能引發(fā)的數(shù)據(jù)泄露、網(wǎng)絡攻擊等安全風險日趨凸顯，基于此，建議加強研究，積極應對，一是健全人工智能安全制度體系，二是強化人工智能安全行業(yè)治理，三是深化人工智能核心技術攻關。
針對人工智能的安全發(fā)展，中國工程院院士沈昌祥提出了構筑安全可信人工智能新生態(tài)體系，可以概括為“123456”，即“一種”新模式、“二重”體系結構、“三重”防護框架、“四要素”可信動態(tài)訪問控制、“五環(huán)節(jié)”全程管控，“六不”防護效果，并提出利用可信計算構建主動免疫人工智能安全產(chǎn)業(yè)空間。
人工智能作為一種中立技術，如果被不法分子利用生成攻擊代碼，將會產(chǎn)生新的威脅。國家信息技術安全研究中心原總工程師李京春指出：“應對這種變化，一方面要加強人工智能支持的安全軟件、服務的研發(fā)；另一方面要落實可信計算，保障軟件供應鏈和軟件本身的安全，做到開發(fā)、安裝、運行全生命周期的安全可信。同時，對重要數(shù)據(jù)、個人敏感數(shù)據(jù)保護要再次敲響警鐘，要加大數(shù)據(jù)安全保護力度。”
云網(wǎng)基礎設施安全國家工程研究中心常務副主任李安民深刻分析了AI安全的特征內(nèi)涵：AI安全具有“對象特殊”、“自身演進”、“目標雙重”三大特征，易引發(fā)“社會倫理”、“不可解釋性”、“信息泄露”、“風險對抗”四大風險；其次重點圍繞“大模型安全底座”、“AI安全測評平臺”分享了中國電信在AI安全領域的創(chuàng)新實踐；最后結合AI安全產(chǎn)業(yè)鏈的現(xiàn)狀，倡議發(fā)起AI安全多方合作，開展協(xié)同創(chuàng)新和應用，共同應對全新的挑戰(zhàn)！
對于人工智能帶來的挑戰(zhàn)，北京大學教授、博導陳鐘認為其已經(jīng)從網(wǎng)絡安全、系統(tǒng)安全、信息安全、數(shù)據(jù)安全上升到了知識安全，再往下就是行動安全。從互聯(lián)到互信，實質(zhì)是在重塑數(shù)字信任，直面這些挑戰(zhàn)。當前研究重點在數(shù)字化轉(zhuǎn)型當中需要什么樣的數(shù)字信任，把其中真正的規(guī)律掌握好、運用好，為建設一個美好的未來人類和經(jīng)濟社會發(fā)展做出貢獻。
人工智能的誕生對數(shù)據(jù)依賴非常強，而密碼技術是數(shù)據(jù)安全的基礎。中國電科首席專家董貴山分享了人工智能的密碼應用保障體系，提出要確保人工智能數(shù)據(jù)源的安全、數(shù)據(jù)分析處理平臺安全、控制指令安全。認證和密碼安全服務要做到為人工智能和數(shù)據(jù)安全的全生命周期、控制性的安全、算法的安全、安全的應用等提供可信、可控和可管服務。
國家信息中心信息與網(wǎng)絡安全部博士、高級工程師王佳慧在演講中介紹了ChatGPT的前世今生，并就當前其發(fā)展面臨的難題和限制，以及開展的安全性研究進行了展開。同時王博士提出ChatGPT可能將朝著大語言模型使用工具的能力以及模型和行動相關聯(lián)兩種趨勢發(fā)展，對于企業(yè)來說可以和業(yè)務場景相結合也可以服務整體戰(zhàn)略，對于個人而言將和人工智能共同進化，同時Prompt能力至關重要。
上海第五空間信息科技研究院理事長朱易翔指出：“當前行業(yè)發(fā)展有兩個趨勢，一個是萬世萬物的智能化，第二個是萬事萬物的互聯(lián)。在人工智能時代，跟‘物’有關或者說智能設備有關的場景下，‘身份’十分重要，要把國密算法要應用到安全通信里面去，把新一代數(shù)字身份用到邊緣計算等場景中。”
邊緣計算的興起對網(wǎng)絡安全的影響十分深遠，邊緣計算的核心特點是分布式，用戶、設備的接入在全球各地。網(wǎng)宿科技副總裁、首席安全官呂士表認為，邊緣計算安全不僅需要全棧技術、統(tǒng)一管理，還需要統(tǒng)一平臺，以及數(shù)據(jù)驅(qū)動的方式。
安恒信息啟鑒實驗室主任安通鑒在《大模型(AI)驅(qū)動安全技術變革的思考與實踐》中分享了基于機器學習和大模型的惡意軟件檢測、加密流量威脅檢測引擎、安全防護的性能提升、基于AI和大模型的軟件供應鏈安全、基于AI的釣魚郵件檢測引擎、違規(guī)使用大模型場景檢測等六大AI賦能網(wǎng)絡安全應用。安恒信息在創(chuàng)新前沿技術的研發(fā)和投入上遠遠不止于人工智能，十大實驗室覆蓋了物聯(lián)網(wǎng)安全、漏洞挖掘、人工智能、威脅分析、網(wǎng)絡空間資產(chǎn)測繪、入侵分析安全檢測等多個關鍵和熱門領域。
第十六期網(wǎng)絡安全創(chuàng)新發(fā)展高端論壇作為2023西湖論劍·數(shù)字安全大會的兩場最高規(guī)格平行論壇之一，由國家信息中心主辦，國家信息中心國信衛(wèi)士網(wǎng)絡空間安全研究院、云網(wǎng)基礎設施安全國家工程研究中心承辦，中國信息協(xié)會信息安全專業(yè)委員會、中國電信股份有限公司、安恒信息、上海第五空間信息科技研究院、北京國信京寧信息安全科技有限公司協(xié)辦。
