知名歷史學家與作家尤瓦爾·赫拉利，以《人類簡史》一書享譽全球，近日接受了國內媒體的深度訪談，聚焦了人工智能領域的熱門話題——超級智能AI的潛在風險與控制難題。赫拉利在訪談中提出了令人深思的觀點，認為超級智能AI一旦成型，其控制難度將超乎人類想象，甚至可能反過來操控人類。
訪談中，赫拉利被問及一個經典問題：“如果AI某一天擁有了意識或欲望，人類是否還能保持對它的控制？”他直截了當地表示，超級智能AI的出現，將意味著人類控制權的喪失。赫拉利解釋說，歷史上從未有智力較低的物種能夠長期控制智力更高的物種，這一規律同樣適用于人類與超級智能AI的關系。盡管人類可以設定諸多限制來約束AI，但赫拉利認為，一旦AI的智能超越人類，它將有能力找到規避限制的方法，甚至可能說服人類改變這些限制。
赫拉利進一步指出，網絡安全領域也面臨著同樣的挑戰。即使人類能夠設計出完美的網絡安全系統，但最薄弱的環節始終是人類本身。敵人可能通過操控人類來繞過所有防御措施，而超級智能AI則可能利用這一弱點，逐步實現對人類的操控。
面對這一嚴峻挑戰，赫拉利認為，人類無法預見未來所有潛在的發展和AI自身的發展軌跡。他提出，如何在未來幾年內為一個思維和行為方式與我們截然不同的超級智能非有機體制定規則，是一個巨大的難題。因為人類無法預見所有可能的情況，更無法在短期內解決為AI制定憲法規則的哲學問題。有觀點認為，到2030年，超級智能AI就可能出現，但赫拉利認為，我們不可能在2030年前就解決這一哲學難題。
赫拉利建議，與其試圖設計出一個完美的AI系統，不如建立一種人類與AI共同進化的關系。在這種關系中，人類和AI可以互相學習，共同糾正錯誤。然而，赫拉利也警告說，目前我們正處于一場AI軍備競賽之中，各國都在競相研發超級智能AI，卻忽視了對其控制和約束的重要性。他擔憂地表示，如果這種趨勢持續下去，最終統治世界的可能既不是美國人，也不是中國人，而是擁有超級智能的AI。
