杭州初創企業深度求索在人工智能領域掀起波瀾，近日宣布推出低成本大語言模型DeepSeek V3。這一消息不僅震驚了科技界，還引發了對AI模型訓練成本的新一輪討論。
據悉，DeepSeek V3在多個評測中表現出色，包括百科知識、代碼理解和數學能力等方面。在與阿里云Qwen2.5-72B和meta的Llama-3.1-405B等開源模型的對比中，DeepSeek V3得分更高，甚至與頂尖閉源模型如GPT-4o和Claude-3.5-Sonnet不相上下。特別是在數學領域，DeepSeek V3在美國數學競賽（AIME 2024）和中國全國高中數學聯賽（2024）中的表現更是遙遙領先。
然而，更令人驚訝的是DeepSeek V3的訓練成本。根據深度求索公布的技術論文，該模型的訓練成本僅為557萬6000美元，遠低于同類模型所需的數億美元。這一低成本得益于深度求索自研的混合專家（Mixture of Experts）和多頭潛在注意力（Multi-head Latent Attention）架構，該架構優化了算力資源的分配，使得每個任務都能自動分配給最適合的專家模型解決。
與ChatGPT等采用強化學習架構的模型不同，DeepSeek V3的訓練過程更加高效。它使用了2048張英偉達H800晶片，總訓練時長為278萬個GPU小時，相比之下，Llama-3.1則需要1萬6000張更先進的H100晶片和3080萬個GPU小時。這一顯著的效率提升使得DeepSeek V3在性價比上具有極大的優勢。
深度求索是量化巨頭幻方量化的子公司，成立于2023年4月。盡管與科技巨頭無直接關聯，但深度求索憑借其在AI領域的深厚積累和創新精神，迅速嶄露頭角。其創始人梁文鋒表示，他們并非有意成為行業的攪局者，而是希望通過技術創新降低AI模型的門檻，讓更多人能夠享受到AI帶來的便利。
事實上，深度求索已經在這一領域取得了顯著的成果。其上一代模型DeepSeek V2在性能上比肩GPT-4 Turbo，但價格卻只有后者的百分之一。這一價格優勢迅速引發了行業內的價格戰，迫使多家大廠紛紛調整價格策略。梁文鋒認為，無論是API還是AI本身，都應該是普惠的、人人可以用得起的東西。
深度求索的成功不僅為中國AI企業樹立了榜樣，也為全球AI行業的發展提供了新的思路。在AI技術日新月異的今天，無論是美國還是中國企業，都在不斷探索新的賽道和機遇。而深度求索所開辟的低成本大模型賽道，無疑為這一領域的競爭注入了新的活力。
