9月21日，華為云CTO張宇昕在華為全聯接大會2023主題演講中表示，大模型重塑千行萬業的背后，是眾多復雜的技術挑戰，需要核心技術的持續創新和突破。華為云以全局的系統性創新，不斷攻堅克難，構建AI時代最佳云底座。
華為云CTO張宇昕
張宇昕指出，隨著大模型出現能力涌現、多模態融合、MOE等趨勢，模型參數將從現在的5400億很快超過數萬億，對海量的穩定算力、大規模并行訓練、以及整體的架構設計都提出了更高要求;同時，數據集規模和Token長度的激增也將帶來新的挑戰。這些挑戰相互影響、環環相扣，可以說大模型及相關應用是迄今為止最復雜的軟硬件系統工程。
為應對AI時代的挑戰，華為云實現了軟硬件結合的系統性創新：
在系統架構層，華為云QingTian架構全新升級分布式QingTian架構，通過打破計算、存儲、網絡的邊界，把過去主從式架構升級為對等架構，極大地提升了AI算力。
基于分布式QingTian架構，華為云昇騰AI云服務提供了算力集群、計算引擎CANN、AI開發框架MindSpore和AI開發平臺ModelArts，為大模型和AI應用的開發、運行提供最佳算力服務。
在數據處理層，華為云提供云上全流程一站式能力，包括數據存儲、分析、共享、標注方案，讓企業實現大模型數據“找得到”“存得下”“記得住”“用得了”。
在AI云存儲方面，華為云獨創了具備220TB超大帶寬和微秒級超低時延的內存服務EMS，以此支持NPU/GPU的內存擴展，可以容納PB級超大規模參數，讓參數存得下;同時，基于SFS Turbo文件存儲的大并發、高吞吐緩存服務，可提供千萬級IOPS，將10億條數據和元數據的準備時間從100小時縮短至5小時，讓數據準備速度快;此外，基于OBS對象存儲構建的低成本大容量知識湖服務，通過深度歸檔、智能存儲分級和存儲管理統計平臺實現數據精細化管理，數據和向量的存儲TCO降低30%，讓海量數據存得起。
作為大模型的“超級外腦”，向量數據庫是AI時代的剛需產品。華為云GaussDB向量數據庫具備千億級大規模向量數據快速查詢更新的能力，檢索規模提升10倍，查詢時延<10ms，響應速度提升2倍。另外，GaussDB向量數據庫具有千維查詢能力，查詢結果更精準，助力企業業務更智能。
數據是大模型的源泉，華為云數智融合平臺通過統一的數據資源和元數據技術LakeFormation等四大關鍵技術為大模型提供更高效、高質量的數據底座。同時，華為云全新發布智能數據洞察產品DataArts Insight，對數據資產進行了語義擴展和領域知識關聯，讓大模型在消費階段的調優和推理效率倍增。
為了給大模型高質量“供數”、讓大模型高安全“用數”，華為云推出了高質量、高安全的數據要素流通解決方案：基于TICS隱私計算和區塊鏈BCS服務，提供可信數據開發環境，幫助客戶把高價值數據變成高質量數據集產品，實現可用不可見、全流程可溯。EDS交換數據空間支持20多種控制策略，讓數據在授權范圍內可信地流通。
此外，為了給大模型訓練打造安全高效的AI標注環境，華為云推出AI標注云桌面，讓分散在各地的標注員可以遠程接入;敏感數據始終保存在云端安全專區，滿足安全合規的要求;同時，云端實時加載，結合華為云HDP高清顯示協議毫秒級傳輸，實現圖像本地顯示時延降低50%以上。
在模型訓練層，華為云通過盤古大模型的“5+N+X”的架構實現分層解耦，賦能千行萬業，讓每個行業、每個企業基于自己的場景都可以擁有自己的大模型。盤古大模型L0層提供了5個基礎大模型，包括自然語言大模型、視覺大模型、多模態大模型、預測大模型、科學計算大模型，提供滿足行業場景的多種技能;L1層包括N個行業大模型，華為云既可以提供使用行業公開數據訓練的行業通用大模型，也可以基于行業客戶的自有數據，在盤古大模型L0或L1層基礎上，為客戶訓練自己的專有大模型;L2層為客戶提供更多專注于具體應用場景或特定業務的模型，提供開箱即用的模型服務。
在應用開發層，華為云整合了應用開發需要的開發生產線、低碼/無碼平臺、AI應用框架及全新的AI應用工程套件，讓客戶輕松實現基于大模型的AI原生應用的零門檻構建。
例如，大模型應用既需要多樣化的AI原生技術，又需要強大的工程能力，同時也要具備小顆粒、敏捷部署能力。為此華為云打造了AI應用框架：首先，將一系列的AI原生技術構筑成后端服務，形成BaaS for AI能力，調用即可得;其次，將大模型的工程經驗做成工程平臺，讓開發者以5倍速全鏈路開發行業大模型及應用;最后，基于Serverless技術，通過面向AI全新升級的FunctionGraph 3.0提供AI的前端開發框架，利用其“膠水”式拼接能力，將BaaS for AI 后端和大模型工程套件快速拼接、無縫集成。
張宇昕表示，華為云這些系統性創新的云服務能力，可以跨云、網、邊、端等多平臺，以及公有云，邊緣云、混合云等多形態，實現靈活自由的部署和應用。對于建立專屬AI平臺和大模型的需求，企業可通過華為云Stack平臺，在自有數據中心部署AI云服務和大模型的關鍵產品，一站式建設專屬大模型。會上，張宇昕正式發布華為云Stack 8.3，相關服務將于9月底全面上市商用。
