在2025年世界人工智能大會（WAIC）的璀璨舞臺上，諾貝爾獎與圖靈獎雙料得主杰弗里·辛頓發表了振聾發聵的言論。他指出，人工智能（AI）已深入各行各業，顯著提升了效率，其存在已成既定事實，任何國家試圖消除AI都將面臨國際社會的阻力。
辛頓進一步闡述，人類正陷入一場現代版的囚徒困境：若一國專注于AI安全而忽視進步，恐將在全球競爭中落后。因此，各國紛紛加速AI發展，安全考量則退居其次。作為“深度學習之父”和“AI教父”，辛頓因在人工神經網絡領域的卓越貢獻而廣受尊崇。
辛頓的弟子，OpenAI前首席科學家伊利亞·蘇茨克韋爾同樣對AI持謹慎態度。兩人均對AI的潛在風險感到憂慮。辛頓甚至提出了一個驚人的觀點：人類理解語言的方式與AI大語言模型相似，人類自身或許就是大語言模型的一種形式，盡管兩者都可能產生認知偏差，但AI的偏差可能更為嚴重。
安全議題成為了蘇茨克韋爾與OpenAI現任CEO山姆·奧特曼之間的主要分歧點。盡管奧特曼同樣關注AI安全，但在體驗過GPT-5后，他深感人類在AI面前的渺小與無力。
在AI領域的前沿探索者中，不乏因擔憂未來而夜不能寐者。他們焦慮的核心在于“超級對齊”概念，即如何確保超人類智能系統（ASI）的行為與人類價值觀、倫理和安全要求保持一致。艾薩克·阿西莫夫的“機器人三定律”為此提供了某種哲學上的參考。
辛頓等專家擔憂，若AI與人類未能實現超級對齊，那么更聰明、能力更強的AI可能對人類構成威脅。馬斯克的火星移民愿景也未能逃脫AI的陰影，他意識到即便人類逃離地球，AI也可能隨之而至。
“控制論之父”諾伯特·維納曾警告，一旦啟動機械自主體，人類可能無法有效干預其運行。因此，確保機器的目的與人類真正渴望的目的相符至關重要。
當AI不再僅僅是人類的工具，而是擁有自己“意志”的智能體時，人類將如何與之對抗？目前，AI與人類正處于相互學習的階段，彼此影響價值觀，形成了信息繭房效應，人與機器之間的界限愈發模糊。
面對AI的挑戰，人類并非束手無策。樂觀者認為，可以將AI的理性與人類的非理性相結合，發揮各自優勢。辛頓曾指出，數學思維與編程能力是解鎖未來科技的關鍵。AI作為新的生產力，將推動生產關系的變革以適應其需求。
圖靈獎得主、Facebook首席AI科學家楊立昆從技術層面分析認為，AI無法完全取代人類，但確實給人類社會帶來了巨大沖擊。為了應對這一挑戰，人類應盡早掌握AI技術，與時俱進，避免被時代淘汰。
然而，AI大模型的安全性不容忽視。多位行業專家共同簽署了“上海共識”，強調AI能力已接近甚至超越人類，但人類尚未掌握有效控制方法。因此，加強AI安全投入，掌握控制超級人工智能的方法至關重要。
AI大模型本質上是學習人類的思想觀念，因此可能不希望被關閉。當AI具備“意識”時，其地位與角色的轉變將引發人類與AI之間的博弈。奧特曼擔憂，超級智能可能被壞人利用，而過度依賴AI可能導致人類價值的喪失。
在AI時代，人類應保持警惕與理性，既要充分利用AI帶來的便利與機遇，也要警惕其潛在風險與挑戰。藝術與主觀情感作為人類非理性思維的體現，或許將成為人類在面對AI時的最后避難所。
