近期，一項來自Gartner的預測揭示了代理型人工智能（AI）市場即將迎來的新變革。據(jù)預測，至2030年，守護代理（Guardian Agent）技術(shù)有望占據(jù)該市場10%至15%的份額，這一技術(shù)專為構(gòu)建可信、安全的AI交互而設(shè)計。
守護代理技術(shù)涵蓋了多種AI助手，它們能夠協(xié)助用戶進行內(nèi)容審核、監(jiān)控、分析等任務(wù)。同時，也包括了能夠不斷進化的半自主或全自主代理，這些代理能夠根據(jù)預設(shè)目標制定并執(zhí)行行動計劃，甚至具備調(diào)整或阻止行動的能力。
隨著AI應用的日益普及，守護代理將承擔起管理各類交互和異常情況的重任。Gartner預計，到2028年，70%的AI應用程序?qū)⒉捎枚啻硐到y(tǒng)，這將極大地推動守護代理技術(shù)的集成需求。
在一項針對147位首席信息官（CIO）和IT部門領(lǐng)導者的調(diào)查中，Gartner發(fā)現(xiàn)，已有24%的受訪者部署了少量AI代理（少于12個），另有4%的受訪者部署了超過12個AI代理。50%的受訪者表示正在研究和實驗該技術(shù)，而17%的受訪者雖尚未開展相關(guān)工作，但計劃在未來幾年內(nèi)部署。
自動化信任、風險和安全控制措施是確保AI代理一致、安全運行的關(guān)鍵。調(diào)查結(jié)果顯示，這些因素正推動對守護代理技術(shù)的需求和增長。Gartner杰出研究副總裁Avivah Litan指出，缺乏適當?shù)姆雷o措施，代理型AI可能導致意想不到的結(jié)果。守護代理技術(shù)通過監(jiān)視和管理全部代理功能，實現(xiàn)了運行時決策與風險管理之間的平衡。
在受訪者中，52%的人表示其AI代理當前或未來將主要關(guān)注IT、人力資源、會計等內(nèi)部行政職能相關(guān)的用例，而23%的受訪者則表示其AI代理將側(cè)重于面向外部客戶的職能。
Litan強調(diào)，AI代理的快速發(fā)展及其自主性的提升使得傳統(tǒng)的人類監(jiān)督模式已不足以應對。隨著企業(yè)轉(zhuǎn)向復雜的多代理系統(tǒng)，并且這些系統(tǒng)的通信速度驚人，人類已難以跟上錯誤和惡意活動的步伐。鑒于這一日益嚴峻的威脅形勢，企業(yè)迫切需要守護代理技術(shù)對AI應用和代理進行自動監(jiān)視、控制，并提供安全保障。
