“據(jù)統(tǒng)計，GPU的平均利用率不超過30%，會產(chǎn)生巨大的算力資源浪費(fèi)。我們用軟件定義的方式通常可以把用戶GPU的利用率提升3-8倍，甚至可以到10倍。”
這是算力池化軟件公司趨動科技援引行業(yè)報告數(shù)據(jù)并結(jié)合自身企業(yè)最佳實(shí)踐經(jīng)驗(yàn)給出的最新數(shù)據(jù)。通過自研的獵戶座OrionX AI算力資源池化軟件，趨動科技可以幫助客戶構(gòu)建數(shù)據(jù)中心級 AI 算力資源池，客戶無需修改應(yīng)用就能使用數(shù)據(jù)中心內(nèi)任一臺服務(wù)器的 AI 算力，并通過大幅優(yōu)化應(yīng)用部署，提升用戶的資源利用率，為AI產(chǎn)業(yè)帶來全新的算力供給模式。
重新定義AI算力資源
在第二屆光合組織AI解決方案大賽上，趨動科技基于與海光硬件產(chǎn)品底座的適配和優(yōu)化，打造的“信創(chuàng)全棧自主可控異構(gòu)AI算力資源池”（以下簡稱“AI算力資源池”）方案，獲得了本屆大賽一等獎。
趨動科技生態(tài)運(yùn)營總監(jiān)文禹翔介紹，AI算力資源池方案主要針對當(dāng)前異構(gòu)算力使用方式粗放、跨廠商異構(gòu)算力資源難以統(tǒng)一管理調(diào)度等問題。方案將物理異構(gòu)算力資源進(jìn)行池化管理，實(shí)現(xiàn)按需調(diào)度異構(gòu)算力資源及跨廠商異構(gòu)算力資源精細(xì)化管理。
方案架構(gòu)圖
方案中的基礎(chǔ)設(shè)施層，依托于海光服務(wù)器的性能優(yōu)勢，可以實(shí)現(xiàn)兩大躍升；在操作系統(tǒng)層，AI算力資源池基于銀河麒麟服務(wù)器操作系統(tǒng)，借助海光CPU、DCU平臺優(yōu)勢，對內(nèi)核安全、RAS特性、I/O性能、虛擬化和國產(chǎn)硬件、驅(qū)動支持等方面進(jìn)一步優(yōu)化增強(qiáng)；在虛擬化層，趨動科技OrionX將AI算力資源抽象為虛擬資源，最終實(shí)現(xiàn)AI算力資源的軟件定義。
“目前，應(yīng)用部署中資源直連獨(dú)占，造成算力資源浪費(fèi)和使用不靈活等問題，讓算力用戶的成本負(fù)擔(dān)持續(xù)加重，已經(jīng)在一定程度上阻礙了AI技術(shù)的進(jìn)一步大發(fā)展。我們希望過去看起來‘陽春白雪’的算力，能夠真正成為一種普惠大眾的資源，就像水電一樣按需隨用隨取、靈活便捷且便宜高效”文禹翔表示。
讓生態(tài)飛輪加速旋轉(zhuǎn)
最近由人民銀行主管的期刊《金融電子化》中，刊登了一篇華夏銀行CIO署名文章題為《人工智能GPU算力資源池化應(yīng)用研究》的文章。該文章詳細(xì)論述了異構(gòu)算力資源池化軟件在信創(chuàng)領(lǐng)域的應(yīng)用價值，進(jìn)一步驗(yàn)證了趨動科技OrionX異構(gòu)算力池化軟件方案的可行性，同時也對海光加速卡等國產(chǎn)硬件性能給予了肯定。
“信創(chuàng)領(lǐng)域的算力資源池建設(shè)需要鏈接國產(chǎn)軟硬件廠商共同推動，海光在國產(chǎn)芯片行業(yè)處于領(lǐng)先梯隊(duì)，為我們提供了很大的支撐。”文禹翔表示，通過與海光合作，趨動科技實(shí)現(xiàn)了池化軟件異構(gòu)算力多元化，進(jìn)一步滿足了信創(chuàng)市場的應(yīng)用需求。
事實(shí)上，自加入光合組織以來，趨動科技與海光等產(chǎn)業(yè)鏈上下游伙伴開展了一系列生態(tài)合作。在趨動科技看來，用戶需要的是完整的解決方案，而單一廠商很難提供從底層架構(gòu)到前端應(yīng)用的一整套產(chǎn)品，在此背景下，生態(tài)力量的整合非常關(guān)鍵。
“光合組織為AI產(chǎn)業(yè)的生態(tài)對接提供了一個很好的平臺。”文禹翔指出，基于光合組織大賽，趨動科技不僅與伙伴深化了產(chǎn)品技術(shù)合作、展示了方案成果，同時也廣泛聯(lián)動更多產(chǎn)業(yè)力量，逐漸形成生態(tài)的“飛輪”，在市場賦能、項(xiàng)目引進(jìn)等領(lǐng)域逐漸跑出了加速度。
“我相信，隨著飛輪的轉(zhuǎn)速不斷加快，未來，算力池化方案將觸達(dá)更多業(yè)務(wù)應(yīng)用場景，AI算力會釋放出更大的價值。”文禹翔表示。
