在2025年度的華為云生態(tài)大會上，華為云計算迎來了一個重要的里程碑。華為常務董事兼云計算業(yè)務CEO張平安向與會者揭示了AI基礎設施的最新進展，隆重推出了CloudMatrix 384超節(jié)點，并宣布該技術在蕪湖數(shù)據(jù)中心已成功實現(xiàn)規(guī)模化部署。
CloudMatrix 384超節(jié)點的推出，標志著華為云在資源供給模式上的重大革新。這一創(chuàng)新技術實現(xiàn)了從服務器級向矩陣級的飛躍，以“高密”“高速”“高效”為核心優(yōu)勢，通過前沿的架構設計，在算力、互聯(lián)帶寬以及內(nèi)存帶寬等多個維度上取得了領先優(yōu)勢。
華為云持續(xù)優(yōu)化昇騰AI云服務，目前該服務已全面適配超過160個第三方大模型，其中包括DeepSeek，為大型模型的訓練和推理提供了強有力的支持，助力行業(yè)應用迅速落地。華為云盤古大模型的應用場景也在不斷拓展，現(xiàn)已覆蓋30多個行業(yè)、400多個具體場景，廣泛應用于城市治理、智慧金融、醫(yī)療健康、氣象預測等領域。
與此同時，硅基流動公司與華為云攜手，基于CloudMatrix 384超節(jié)點昇騰云服務和高性能推理框架SiliconLLM，正式上線了DeepSeek-R1服務。據(jù)硅基流動介紹，該服務在保持單用戶20 TPS水平的同時，單卡Decode吞吐達到了1920 Tokens/s，性能表現(xiàn)媲美H100部署。經(jīng)過主流測試集的驗證以及大規(guī)模線上盲測，昇騰算力部署下的DeepSeek-R1模型精度與官方版本保持一致。
