近期，科技界迎來了一份重量級報告，由谷歌DeepMind實驗室發布的關于人工智能安全性的深入研究，這份長達145頁的報告，不僅預測了通用人工智能（AGI）可能在未來十年內達到人類智能水平，還提出了一個令人警醒的觀點：AGI存在“永久毀滅人類”的風險。
報告中，DeepMind的研究人員詳細闡述了AGI可能給人類帶來的生存危機，他們強調，這是一個全社會都需要共同參與討論的重大議題，而非DeepMind能夠獨自應對的挑戰。
盡管報告并未具體描繪AGI導致人類滅絕的具體場景，但大部分篇幅都聚焦于如何防范這些潛在的風險。研究人員將AGI的風險劃分為四大類別：濫用風險，即人類可能故意利用AI進行有害行為；錯位風險，指AI系統可能發展出非預期的有害功能；失誤風險，源于設計或訓練中的缺陷導致的意外故障；以及結構性風險，涉及不同主體間的利益沖突。
為了緩解這些風險，DeepMind提出了一系列策略，其中重點之一是防止濫用，并強調盡早識別和應對潛在危險的重要性。報告還微妙地對競爭對手如Anthropic和OpenAI的安全策略提出了批評。DeepMind認為，Anthropic在AI的訓練和監督方面做得不夠，而OpenAI則過于專注于對齊研究，即確保AI的行為與人類價值觀一致，卻可能忽視了其他潛在風險。
這份報告不僅揭示了AGI可能帶來的巨大風險，也引發了業界對于如何平衡AI發展與安全性的深入思考。面對未來可能出現的通用人工智能，人類社會顯然需要做好充分的準備，以應對可能帶來的各種挑戰。
