在近日舉辦的“逐光向新·智領未來”華為云AI峰會上，與會專家和行業代表聚焦人工智能基礎設施的最新進展與行業應用實踐，共同探討了AI技術的未來發展路徑。
華為云在峰會上詳細介紹了其最新的CloudMatrix 384超節點架構技術。據華為云副總裁黃瑾介紹，該架構通過高速總線互聯和超大NPU點到點互聯帶寬，實現了全局內存的統一編址和統一通訊協議，打破了傳統算力瓶頸。CloudMatrix 384超節點具備六大領先技術優勢，包括MoE親和、以網強算、以存強算、長穩可靠、朝推夜訓、即開即用，旨在滿足新一代AI基礎設施的需求。
值得注意的是，華為云在峰會上還宣布將于今年第三季度推出“朝推夜訓”的靈活調度策略。該策略旨在利用白天進行模型推理，夜間等閑時進行模型訓練，預計能夠提升算力資源利用率30%以上。黃瑾強調，隨著AI模型復雜性的提升，集群網絡通信面臨挑戰，而CloudMatrix超節點架構正是為了應對這一問題而設計的。
硅基流動聯合創始人兼首席產品官胡健也在峰會上發表了演講。他提到，開源模型在AI應用領域的重要性日益提升，性能也在不斷進步。硅基流動與華為云緊密合作，針對DeepSeek-R1模型的部署采用了大規模專家并行方案，通過實施多專家負載均衡和極致通信優化策略，有效提升了模型的吞吐量和性能。實驗數據顯示，在保障單用戶20TPS水平的前提下，單卡解碼吞吐率已突破1920 Tokens/s。
華為云數據中心全球DC運維首席專家謝峰深入探討了AI數據中心所面臨的獨特挑戰，包括超大規模光鏈路的波動性、高功率密度帶來的供電穩定需求以及超高密液冷散熱的問題。他介紹，華為云數據中心通過產品化實現了快速交付、低成本和低PUE，并在鋰電預測、液冷預測等智能化方面進行實踐，著力構建綠色低碳、穩定可靠、安全可信的云數據中心。謝峰還分享了CloudMatrix 384超節點數據中心在利用數據分析進行設備狀態預測方面的進展，特別是在鋰電預測的應用上，通過擴展數據集范圍，CloudMatrix 384的預測準確率已從最初的40%提升至97%。
保險行業也在經歷從人治向數據化治理的轉型。大家保險信息科技部總經理郝曉波指出，保險行業的AI化轉型是數字化轉型的自然延伸，敏捷化的AI戰略可能更適合傳統行業。大家保險正借助華為云的算力及AI平臺，構建企業級AI中臺和業務應用，覆蓋智能營銷、風控投資等業務環節，以期推動保險業務的增長。德勤中國合伙人劉曉羽則表示，德勤中國利用基于華為昇騰云和DeepSeek構建的AI平臺和工具，為客戶提供面向特定業務場景的AI咨詢和解決方案服務，預期將實現策略性的降本增效。
