人工智能技術的迅猛發展，在為經濟社會發展注入強勁動力的同時，也悄然成為不法分子手中的新型工具。近期，山西省忻州市發生的一起利用AI換臉技術實施的電話詐騙案，涉案金額高達兩萬元，再次敲響了人工智能安全警鐘。
隨著DeepSeek等開源平臺的興起，人工智能技術門檻大幅降低，各類差異化應用如雨后春筍般涌現。然而，這種普及也帶來了前所未有的安全隱患。從開發層的供應鏈安全危機，到應用層的對抗性攻擊升級，再到數據收集與訓練中的濫用風險，每一個環節都可能成為不法分子的攻擊目標。
據統計，全球范圍內由大模型安全事件導致的經濟損失正急劇上升。從2023年的85億美元，到2024年的143億美元，預計2025年這一數字將突破235億美元。面對這一嚴峻形勢，我國相關部門迅速行動，出臺了一系列法規文件，如《生成式人工智能服務管理暫行辦法》和《人工智能安全治理框架》，旨在法治軌道上加強人工智能治理。
在此背景下，安全產業正加速邁入AI定義的新時代。中國電信作為行業領軍企業，全面擁抱AI技術，積極推動“云改數轉智惠”戰略升級。在構建高水平AI安全保障體系的過程中，中國電信不僅注重技術創新，更將安全視為發展的前提。目前，公司已初步構建起涵蓋算力底座安全、算法模型安全、數據安全和應用安全的一體化AI安全智能架構。
中國電信在2025世界人工智能大會上宣布，其“星辰·見微”安全大模型的提示注入攻擊檢測模塊正式開源。這是首個聚焦中文場景的提示注入攻擊檢測開源方案，具備精準識別能力強、深度適配信創生態等技術亮點，為中文環境下的AI安全防護提供了有力支持。
中國電信還將AI技術深度融入服務中，致力于筑牢民生安全防線。例如，“星小辰”AI通話助手便是依托中國電信的通話業務打造的一款創新產品，它支持通話防詐、AI代接、通話摘要代辦、智能字幕等多種功能，為用戶提供全方位的通話安全保障。
在推動人工智能安全發展的過程中，開放合作是不可或缺的一環。中國電信深知這一點，因此積極與高校、科研機構等開展產學研合作，共同推進人工智能安全技術的研發與應用。例如，公司與哈爾濱工業大學（深圳）聯合成立的“網絡空間對抗技術聯合攻關研究實驗室”，便是產學研深度融合的典范。
不僅如此，在2025世界人工智能大會上，中國信息通信研究院、中國電子信息產業發展研究院、清華大學、上海人工智能實驗室等四家核心機構還聯合發布了《中國人工智能安全承諾框架》。該框架在AIIA《人工智能安全承諾》的基礎上，新增了加強人工智能安全治理國際合作、防范前沿人工智能安全風險等內容，旨在推動人工智能產業朝著有益、安全、公平的方向健康有序發展。
人工智能的浪潮洶涌澎湃，安全始終是這一過程中的一道重要防線。面對不斷升級的安全挑戰，產業各方需要持續秉持開放合作、創新突破的理念，共同推動人工智能技術的健康發展。
