在近日舉辦的AICon全球人工智能開發與應用大會（北京站2024）上，英博數科的首席技術官李少鵬隆重推介了多款名為“英博云”的智能計算產品與服務。據悉，英博云業務覆蓋智算中心的建設與維護、GPU容器服務、先進算力實驗室以及產業孵化器四大核心領域，致力于提供高效、多元化的GPU智能計算解決方案，助力企業加速AI技術的研發與業務拓展。
智算行業正在經歷從規模化擴張向精細化運營的轉型，展現出三大顯著趨勢。首先，全球范圍內通用大模型的訓練對算力的需求急劇增加，集群規模已從千卡級躍升至萬卡乃至十萬卡級，成為推動大模型技術不斷突破的關鍵支撐。其次，隨著AI在垂直行業的廣泛應用，各行業對算力的需求變得更加分散且多變。從科研、金融到娛樂、零售，各領域企業迫切需要靈活且可伸縮的算力支持，以滿足多樣化應用場景的需求。最后，在AI商業化進程加速的背景下，推理場景對算力的需求迅速增長，逐漸超越了訓練算力的需求，成為市場發展的主要驅動力。
然而，高昂的算力成本已成為制約大模型技術發展和應用普及的主要瓶頸。當前，算力行業缺乏有效的成本效益評估體系，難以準確衡量實際算力的利用效率。對此，英博數科創造性地提出了“單位有效算力成本”這一評價體系及相應的計算公式，為行業樹立了新的評價標準。該評價體系不再以裝機算力、設備成本、機電成本和運維成本等固定支出為核心，而是將評價重點轉向實際效益。通過引入“卡可用率”、“卡利用率”和“模型算力利用率（MFU）”三大關鍵指標，這一創新體系能夠精確衡量實際算力的利用水平，有效避免了算力資源閑置、設備故障頻發以及整體利用率低下等行業痛點導致的評估誤差，提升了算力效率和效益評價的準確性。
英博云的亮相，標志著高效益、多樣化的智算產品新范式的誕生。為響應智算行業的發展趨勢，英博云提供了一系列高效益、多元化的GPU智算產品及服務，全面覆蓋智算中心的建設與維護、GPU容器服務、先進算力實驗室和產業孵化器四大領域，為企業加速AI技術研發與業務創新提供強有力的支持。
針對通用大模型集中式、大規模訓練的需求，英博云憑借其豐富的智算中心交付經驗，能夠為客戶提供一整套標準化、模塊化的智算中心建設與維護解決方案。其自主研發的高性能并行存儲解決方案、專業的硬件測評與檢測體系以及精細化的集群監控和自動化故障恢復體系，不僅能夠提供高硬件穩定性的集群，還能提升集群的可用性。依托成熟的算力調度平臺，英博云還支持通過容器化形式為長尾客戶提供高效、可伸縮的算力服務，滿足不同規模和需求的用戶。
英博數科的智算中心建設與維護解決方案已在京能項目成功落地。英博數科在智算中心建設與維護方面的獨特優勢，成為推動項目持續進展的關鍵力量。在供應鏈方面，英博數科整合資源與眾多供應商合作確保穩定供應；在集群運維組網方面，從選型到建設交付都遵循高標準規范與專業保障，推動項目進展。未來，英博數科有望與更多智算中心項目合作，助力產業發展。
面對垂類大模型分散、動態的訓練需求，英博云為中小企業提供高效、靈活的GPU容器服務。通過Vcluster形式，英博云提供GPU和CPU資源混合的彈性K8S集群服務，滿足大模型并行訓練的工程需求。同時，英博云支持SSH和Kubectl管理操作，為用戶提供靈活便捷的體驗。秒級別的容器啟停和計費粒度，以及企業級的并行存儲服務，使其能夠提升GPU資源的使用效率、降低使用成本，并支持容器數據的持久化和模型數據的高速共享。英博云還提供內網預定義場景鏡像倉庫、常用模型庫、常用數據集等數據源服務，有效提高數據準備和環境配置的效率。截至目前，除了京能集團、百川智能、無問芯穹、潞晨科技等知名企業，英博云還為眾多中小企業、權威學府、科研院所的垂類大模型需求提供彈性、靈活的算力產品與服務，共同構建AI產業鏈的合作生態。
先進算力實驗室致力于成為業界頂尖的算力性能評測中心，圍繞硬件評測、軟件評測以及行業服務展開工作，為企業算力基礎設施的升級與優化提供前瞻、可行的建議，助力提升算力效率和業務表現。在硬件評測方面，對GPU、交換機、光模塊、并行存儲等進行嚴格測試，確保設備性能符合高標準；在軟件評測方面，涵蓋基座模型、訓練框架、微調框架、推理框架等，為智能算力的優化提供全方位支持。通過提供行業標準制定和定制化服務，先進算力實驗室助力企業在智能算力領域不斷創新突破，并已開展工業界主流GPU芯片的測試。
產業孵化器通過聯合AI產業鏈上下游企業，探索算力組合投資的新模式，挖掘AI產業的潛在方向，賦能企業實現技術研發與業務擴展的雙重突破。
英博云系列智算產品與服務的發布，不僅展示了英博數科在智能算力領域的技術實力與產品優勢，也為行業發展注入了新的活力。通過創新的評估體系與多元化的解決方案，英博云正引領行業邁向高效益、多樣化和可持續發展的新階段。
