【ITBEAR科技資訊】9月11日消息，螞蟻集團最近宣布推出了一項名為“蟻天鑒”的全新大模型安全一體化解決方案，為大規模AI模型的安全保障帶來了全新的突破。這一解決方案包含兩個關鍵產品：大模型安全檢測平臺“蟻鑒2.0”和大模型風險防御平臺“天鑒”。
據了解，蟻鑒2.0被形象地比喻為大模型的“安全診療師”。在大型模型上線之前，它會進行全面的安全掃描，從多個維度對模型進行評估，包括數據安全、內容安全、科技倫理等數百種風險維度。這有助于提前識別和挖掘潛在的風險漏洞，確保模型在投入使用前達到最高的安全標準。
而“天鑒”則相當于在大模型的周邊添加了一層堅實的“防護盾”。它利用智能化風險控制技術，不僅協助大模型抵御外部惡意提問，還對生成的回答內容進行風險過濾，從用戶輸入到輸出的整個過程都得到全面的安全保障。
大模型的安全問題通常源于三個主要因素：用于訓練的數據源頭可能受到污染，推理過程可能無法控制，而外部可能存在惡意誘導。為了應對這些挑戰，螞蟻集團還采用了數據去毒、對齊訓練、可解釋性研究等多種手段，以確保模型的安全性和可解釋性。
螞蟻集團的這一大模型安全一體化解決方案“蟻天鑒”標志著大模型安全領域的重要進展，為AI技術的可持續發展提供了有力保障。該解決方案已經對外開放，有望在廣泛的應用領域中發揮關鍵作用，確保大規模AI模型的安全可靠運用。
