近日,有外媒報道稱,百度在人工智能領域的一項重大發現,可能比OpenAI更早地揭示了“Scaling Law”這一重要原則。這一消息引起了科技界的廣泛關注。
所謂“Scaling Law”,簡而言之,即模型的智能能力會隨著訓練數據和模型參數的增加而增強。長久以來,這一思想被廣泛認為是OpenAI在2020年發布的論文《Scaling Laws for Neural Language Models》中首次提出的。
然而,在最近的一期播客節目中,前OpenAI研究副總裁、Anthropic創始人Dario Amodei透露了一個令人驚訝的信息。他表示,早在2014年,當他在百度與吳恩達共同研究AI時,就已經觀察到了模型發展中的“Scaling Law”現象。這一說法,無疑對“Scaling Law”的起源提出了新的見解。
不僅如此,還有行業專家通過發文指出,關于“Scaling Law”的原始研究,實際上可以追溯到2017年的百度公司。這一發現,進一步加劇了關于“Scaling Law”起源的爭議。
百度在人工智能領域的深耕細作,以及其在“Scaling Law”方面的早期發現,無疑展示了其在該領域的深厚底蘊和前瞻視野。盡管關于“Scaling Law”起源的爭議仍在持續,但百度在這一領域的貢獻和影響力,已經得到了業界的廣泛認可。