在近日于北京舉辦的全球人工智能開發與應用大會(AICon 北京 2024)上,英博數科隆重推出了其旗下品牌英博云的全新智算產品系列,該系列涵蓋了智算中心的建設與維護、GPU容器化服務、高性能算力實驗室以及產業孵化器等四大核心領域。此次發布不僅展示了英博數科在智算領域的深厚積累,更以其首創的“單位有效算力成本”評估體系,為AI算力行業樹立了新的效率標桿。
隨著生成式AI技術的蓬勃發展,大型模型已成為推動AI技術不斷前進的關鍵力量。然而,這一趨勢也對算力資源提出了前所未有的挑戰。智算行業正逐步從簡單的規模擴張轉向精細化運營,并顯現出三大顯著趨勢:一是通用大模型的訓練規模不斷攀升,從千卡級躍升至萬卡級乃至十萬卡級;二是垂直行業的算力需求日益動態化,金融、零售、科研等領域對靈活算力配置的需求日益增長;三是推理場景的算力需求急劇增加,AI商業化應用的加速使得推理負載逐漸成為主導。
面對算力成本高昂、資源利用效率低下等痛點,英博數科創新性地提出了“單位有效算力成本”的評估標準。這一標準摒棄了傳統上以設備采購和運維支出為核心的算力成本評估方式,而是通過整合卡可用率、卡利用率以及模型算力利用率(MFU)等關鍵指標,全面而精準地衡量算力資源的實際使用效率。英博數科CTO李少鵬指出,這一標準的提出,為智算行業的高效化運營提供了新的視角,有助于企業實現算力資源的最大化利用。
英博云的智算產品矩陣以其四大模塊全面賦能AI產業的發展。在智算中心建設與維護方面,英博云提供了模塊化、標準化的建設方案,確保萬卡級集群的穩定運行,并在京能智算中心項目中樹立了行業典范。針對垂直行業對靈活算力的需求,英博云推出了GPU容器服務,通過秒級容器啟停和按小時/分鐘計費的方式,大幅提升了算力利用效率,降低了企業的算力成本。英博云的先進算力實驗室致力于硬件和軟件的深度評測與優化,為企業提供持續的算力基礎設施升級建議。而產業孵化器則通過整合上下游資源,為AI初創企業提供資金、算力和技術支持,推動AI生態的繁榮發展。
作為智算行業的領軍企業,英博數科通過其創新的“單位有效算力成本”標準和全面的智算產品矩陣,為AI企業提供了從算力資源配置到成本優化的全方位解決方案。這一戰略布局不僅彰顯了英博數科在智算領域的深厚實力,更為全球智能算力行業的高效化、可持續發展注入了強勁動力。