近期,人工智能領域的知名學者、被譽為“AI教父”的杰弗里·辛頓教授,在一次接受哥倫比亞廣播公司(CBS)的采訪中,表達了對人工智能技術迅猛發展的深切憂慮。辛頓教授,這位曾榮獲2018年圖靈獎、并在多倫多大學擔任名譽教授的科學家,對AI的未來走向提出了警示。
辛頓教授指出,人類正面臨著一個潛在的危險——可能會不自覺地將世界的控制權交給AI。他形象地將AI比作一只“小老虎”,強調在AI技術日益成熟的過程中,我們必須警惕其可能帶來的不可預測風險。辛頓教授認為,盡管AI在初期可能顯得溫順可愛,但誰也無法保證它長大后不會成為威脅。
作為AI學習核心技術大型語言模型(LLM)的先驅開發者,辛頓教授多次在公開場合表達對AI危險性的擔憂。自2023年離開谷歌并擔任副總裁一職后,他更是頻繁地發出警告,指出AI可能超越人類控制的風險。在采訪中,辛頓教授以情感化的比喻描述了人類對AI的依賴,強調這種依賴背后隱藏的危機。
辛頓教授進一步指出,存在10%至20%的風險,AI最終將取代人類成為地球的主宰。他批評說,盡管一些大型科技企業如谷歌、xAI(由埃隆·馬斯克創立)和OpenAI(由山姆·奧爾特曼領導)已經意識到了這種風險,但它們卻將盈利置于安全之上。辛頓教授特別提到,這些企業正在積極游說以減少對AI的監管,并對谷歌在AI技術軍事應用立場上的變化表示失望。
為了應對這一潛在危機,辛頓教授呼吁AI企業必須大幅增加在AI安全性研究方面的投入。他認為,這些企業應該將三分之一的計算資源用于安全性研究,以確保AI技術的發展不會對人類構成威脅。辛頓教授的這番言論,無疑為當前AI領域的發展敲響了警鐘。