在當前科技日新月異的時代,生成式人工智能技術的飛速發展猶如一股強大的推動力,引領著新生產力的變革浪潮。這股浪潮不僅深刻改變了眾多行業的面貌,也對算力供應提出了新的挑戰與迫切需求。在這樣的背景下,實現國產算力的自主可控,確保信息安全與經濟穩定發展,成為了當前亟待攻克的重要課題。
針對這一挑戰,北電數智推出了“前進·AI異構計算平臺”,該平臺具備對英偉達集群以及多款國產芯片的廣泛管理能力,使用戶能夠輕松實現對不同品牌和類型AI加速卡的統一管理。這一特性確保了各類AI芯片的無縫集成和高效利用,同時,用戶還可以根據實際需求靈活調整資源配置,從而優化算力供給,滿足多樣化的訓練和推理任務。
“前進·AI異構計算平臺”在算力調度方面同樣表現出色,它提供了多種調度策略,能夠精準匹配各類計算任務的不同需求。其中,“潮汐調度”是該平臺的一大亮點,它根據計算任務的特性和資源需求的變化,動態分配和回收計算資源,特別適用于渲染應用等場景,能夠最大化資源利用率并縮短執行時間。平臺還提供了“訓推混布”策略,使得同一算力集群既能支持在線推理服務部署任務,又能支持離線訓練任務,從而顯著提高算力資源的利用率,減少資源浪費,大幅降低運營成本。
北電數智基于“前進·AI異構計算平臺”打造的國產算力PoC平臺,已經在北京數字經濟算力中心成功落地。該平臺是全國首個在生產環境下可實現規模化測試的全棧迭代驗證平臺,目前已經完成了十余款芯片的評測支持和二十多款主流模型的適配。為了進一步提升國產芯片對模型的支持力度,北電數智還自主構建了完備的融合算子庫,這些算子能夠自動調優,在極短的時間內即可完成對各種平臺的算子適配和優化,將延遲水平顯著降低。
在推動國產算力與行業應用的深度融合方面,北電數智也取得了顯著進展。公司正面向影視、金融、政務、工業等多個垂直領域開展測試驗證服務,為不同行業的垂類模型落地樹立了標桿案例。通過持續探尋國產算力和行業、模型、應用的最佳適配組合,北電數智正努力推動模型在更多領域的落地應用。
北電數智還在不斷探索更多創新技術和解決方案,以進一步提升國產算力的性能和效率。通過持續的技術創新和優化,公司致力于推動國產算力在更多領域的廣泛應用,為我國的數字經濟發展貢獻更多力量。