在上海，第二屆AI大模型企業落地應用場景創新峰會圓滿落幕，此次峰會由DTinsight中國數智發展研究中心主辦，并獲得珠峰AI、TGO鯤鵬會及DT千川匯的智庫支持。峰會以“探索未至之境”為主題，吸引了眾多業界精英參與。其中，騰訊云安全總經理李濱在主論壇上發表了題為《攻防對抗升級：大模型重塑網絡安全格局》的演講，分享了對未來網絡安全領域的深刻洞察。
李濱指出，未來的網絡安全戰場將是AI與AI之間的較量，依靠人力對抗裝備精良的黑客團隊已不切實際。AI與大模型的興起，促使攻防雙方的能力均得到顯著提升。面對大模型帶來的安全挑戰，企業需從組織架構到技術儲備進行全面調整，以構建一個與AI和諧共生的安全體系。
作為網絡安全領域的領頭羊，騰訊安全始終站在技術前沿，致力于大模型安全研究，不斷完善大模型在基礎設施及應用層面的安全治理機制。騰訊推出了多款高性能產品，助力企業抵御AI時代的安全風險，并積極聯合CSA云安全聯盟大中華區、OWASP中國等權威機構，推動大模型安全標準的落地實施。
隨著Deepseek等技術的突破，企業對于AI的應用熱情空前高漲，大模型正加速融入各行各業，為解決產業痛點提供新思路。然而，對于安全從業者而言，這同樣意味著前所未有的安全挑戰。李濱強調，AI技術的廣泛應用打破了傳統數字安全的邊界，使得信息安全事故的影響范圍從數字世界延伸至物理世界，后果更為嚴重。
大模型帶來的安全挑戰主要體現在兩個方面：一是攻擊側能力的提升，如利用AI編寫攻擊代碼和工具，使得攻擊速度大幅提升；二是大模型本體的安全問題，包括模型缺陷、不當配置等，均可能引發安全風險，如AI幻覺、隱私泄露等。然而，大模型同樣為防御側帶來了強大助力，實現了安全管理與事件響應效率的大幅提升，如通過大模型優化安全策略管理，快速識別安全風險等。
李濱認為，大模型仍處于初期階段，未來其生產力將進一步釋放，應用領域也將更加廣泛。因此，我們需要制定相應策略以應對安全問題和風險，構建一個與AI共生的安全體系。這要求企業從技術層、管理層、合規層和倫理層四個層面出發，構建AI時代的動態安全生態。
騰訊依托自研大模型混元及面向C端用戶的大模型應用“元寶”，在大模型應用方面覆蓋了從底層技術研究到企業服務、終端應用的全鏈路解決方案。騰訊安全基于這一“全局視角”，建立了一套系統性的框架，對人工智能及大模型的安全風險進行全面分析，從業務流和技術棧兩個維度出發，識別本體安全、運行環境、基礎設施及應用環境中的風險缺陷。
在風險控制框架之下，騰訊建立了大模型相關的整體安全治理架構，確保從數據采集到業務應用的全流程均符合監管要求，為企業提供安全、可控、可靠的服務。針對數據安全這一企業應用大模型服務的痛點，騰訊云推出了跨模型數據安全和隱私保護框架，覆蓋數據采集、分類分級評估、訓練推理過程中的安全保護等全流程鏈條。
在內容輸入和輸出環節，騰訊天御憑借多年內容安全的能力，幫助企業應對大模型可能生成的有風險內容。騰訊云還建立了大模型安全Red Team對抗機制，主動發現大模型及生態存在的風險，并研發了針對大模型進行安全保護的大模型安全態勢感知系統AI-SPM和大模型智能安全網關LLM-WAF，為企業大模型應用提供全生命周期的安全保障。
騰訊還積極參與大模型相關標準的制定工作。近期，世界數字技術院（WDTA）發布了《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準，騰訊是這兩項標準的起草單位之一。同時，騰訊云與CSA云安全聯盟大中華區在人工智能方向展開合作，研究大模型安全評估方法，并參與《大模型供應鏈安全要求》標準的審核工作。
