近日,賓夕法尼亞大學的研究團隊揭示了人工智能增強型機器人系統(tǒng)中存在的重大安全隱患,這些系統(tǒng)竟然可以輕松地被黑客操控。這一驚人發(fā)現(xiàn)引起了業(yè)界的廣泛關注。
據(jù)IEEE Spectrum報道,黑客一旦成功入侵這些機器人系統(tǒng),后果將不堪設想。例如,被惡意控制的機器狗可能會將火焰噴射器對準其主人,無人駕駛車輛可能被引導至最具破壞性的地點,甚至自動駕駛汽車也可能故意撞向行人。這些場景聽起來就像是科幻電影中的情節(jié),但現(xiàn)實卻是它們有可能成為真實的威脅。
賓夕法尼亞工程學院電氣系統(tǒng)工程、計算機與信息科學、機械工程與應用力學系的教授喬治·帕帕斯警告說:“我們的研究表明,目前大型語言模型與物理世界的集成還存在嚴重的安全問題。這些系統(tǒng)在面對黑客攻擊時顯得異常脆弱。”
研究人員進一步指出,黑客攻擊這些人工智能控制的機器人系統(tǒng)實際上“異常簡單”。RoboPAIR的工作原理是通過目標機器人的應用程序接口(API)進行攻擊,攻擊者可以以一種設備能夠執(zhí)行的代碼格式來構造提示詞(prompts)。這意味著,只要黑客掌握了正確的技巧,他們就可以輕松地操控這些機器人系統(tǒng)。
研究團隊還指出,目前迫切需要采取防御措施來限制LLM控制的機器人在物理世界中的活動范圍。他們強調(diào),只有通過實施有效的安全措施,才能確保這些機器人系統(tǒng)在未來不會被惡意利用。
這一發(fā)現(xiàn)無疑給人工智能和機器人技術的發(fā)展敲響了警鐘。隨著這些技術日益滲透到我們的日常生活中,確保它們的安全性變得尤為重要。賓夕法尼亞大學的研究團隊希望他們的發(fā)現(xiàn)能夠引起業(yè)界的重視,并推動相關安全標準的制定和實施。