近日，賓夕法尼亞大學的研究團隊揭示了人工智能增強型機器人系統(tǒng)中存在的重大安全隱患，這些系統(tǒng)竟然可以輕松地被黑客操控。這一驚人發(fā)現(xiàn)引起了業(yè)界的廣泛關注。
據(jù)IEEE Spectrum報道，黑客一旦成功入侵這些機器人系統(tǒng)，后果將不堪設想。例如，被惡意控制的機器狗可能會將火焰噴射器對準其主人，無人駕駛車輛可能被引導至最具破壞性的地點，甚至自動駕駛汽車也可能故意撞向行人。這些場景聽起來就像是科幻電影中的情節(jié)，但現(xiàn)實卻是它們有可能成為真實的威脅。
賓夕法尼亞工程學院電氣系統(tǒng)工程、計算機與信息科學、機械工程與應用力學系的教授喬治·帕帕斯警告說：“我們的研究表明，目前大型語言模型與物理世界的集成還存在嚴重的安全問題。這些系統(tǒng)在面對黑客攻擊時顯得異常脆弱。”
研究人員進一步指出，黑客攻擊這些人工智能控制的機器人系統(tǒng)實際上“異常簡單”。RoboPAIR的工作原理是通過目標機器人的應用程序接口（API）進行攻擊，攻擊者可以以一種設備能夠執(zhí)行的代碼格式來構造提示詞（prompts）。這意味著，只要黑客掌握了正確的技巧，他們就可以輕松地操控這些機器人系統(tǒng)。
研究團隊還指出，目前迫切需要采取防御措施來限制LLM控制的機器人在物理世界中的活動范圍。他們強調(diào)，只有通過實施有效的安全措施，才能確保這些機器人系統(tǒng)在未來不會被惡意利用。
這一發(fā)現(xiàn)無疑給人工智能和機器人技術的發(fā)展敲響了警鐘。隨著這些技術日益滲透到我們的日常生活中，確保它們的安全性變得尤為重要。賓夕法尼亞大學的研究團隊希望他們的發(fā)現(xiàn)能夠引起業(yè)界的重視，并推動相關安全標準的制定和實施。
