近期，AI基礎(chǔ)設(shè)施領(lǐng)域迎來了一股新的開源浪潮，由Deepseek引領(lǐng)，該公司連續(xù)發(fā)布了包括FlashMLA、DeepEP、DeepGEMM、DualPipe在內(nèi)的一系列代碼庫以及3FS系統(tǒng)，這些成果幾乎全面覆蓋了AI基礎(chǔ)設(shè)施底層的計(jì)算、網(wǎng)絡(luò)與存儲優(yōu)化，為同行提供了寶貴參考。
在這一背景下，國內(nèi)AI基礎(chǔ)設(shè)施領(lǐng)域的公司正積極探索針對大模型訓(xùn)練和推理優(yōu)化的新路徑，驛心科技便是其中的佼佼者。驛心科技由前曠視科技聯(lián)合創(chuàng)始人吳文昊于2023年9月創(chuàng)立，專注于從基礎(chǔ)架構(gòu)層面進(jìn)行研發(fā)，旨在利用標(biāo)準(zhǔn)的GPU服務(wù)器本地存儲與通用以太網(wǎng)絡(luò)，提供與傳統(tǒng)基于RDMA的智能計(jì)算存儲網(wǎng)絡(luò)以及獨(dú)立部署的商業(yè)訓(xùn)練存儲相當(dāng)?shù)哪芰Γ瑥亩蠓档湍Ｐ吐涞爻杀静⒓铀俨渴稹?/p>
驛心科技的核心優(yōu)勢在于，其解決方案完全基于標(biāo)準(zhǔn)企業(yè)服務(wù)器和標(biāo)準(zhǔn)網(wǎng)絡(luò)，無需任何定制硬件、網(wǎng)絡(luò)或軟件。這與以往AI基礎(chǔ)設(shè)施部署所需的傳統(tǒng)高性能文件存儲形成了鮮明對比，后者往往需要定制硬件服務(wù)器、特定網(wǎng)絡(luò)交換以及定制的操作系統(tǒng)內(nèi)核和客戶端。
在AI基礎(chǔ)設(shè)施領(lǐng)域，架構(gòu)重構(gòu)和供應(yīng)鏈重構(gòu)正帶來新的創(chuàng)業(yè)機(jī)遇。技術(shù)架構(gòu)方面，HPC、云和AI所需的基礎(chǔ)設(shè)施存在差異，AI以GPU為中心，而云大廠很難提供最優(yōu)化的底層基礎(chǔ)設(shè)施，因?yàn)樗鼈冞€需兼顧云原生應(yīng)用的需求。盡管AI源自HPC，且都追求大規(guī)模部署，但兩者在計(jì)算范式上存在本質(zhì)差異，HPC追求確定性和高精度計(jì)算，而AI則追求概率和準(zhǔn)確性。
同時(shí)，國內(nèi)芯片供應(yīng)鏈的重構(gòu)也在催生巨大的AI基礎(chǔ)設(shè)施機(jī)會，Deepseek的開源進(jìn)一步推動了這一進(jìn)程。然而，算力設(shè)備、能耗、機(jī)房空間和資金四大瓶頸限制了AI算力的發(fā)展。針對這些挑戰(zhàn)，驛心科技依托GPU服務(wù)器本地存儲與通用以太網(wǎng)絡(luò)，構(gòu)建了一套具有獨(dú)特優(yōu)勢的一體化解決方案。
驛心科技的解決方案包括AI集群一體化方案技術(shù)創(chuàng)新，其Tier-0存儲方案能有效利用GPU服務(wù)器內(nèi)部存儲，無需再構(gòu)建專屬的存儲集群和存儲網(wǎng)絡(luò)，從而大幅削減模型落地成本并加速部署進(jìn)程。在AI存儲層面，驛心科技支持多云多數(shù)據(jù)中心的全局文件系統(tǒng)，提供統(tǒng)一的存儲管理，使AI數(shù)據(jù)訪問更高效，并支持智能數(shù)據(jù)分層和緩存機(jī)制，快速響應(yīng)AI工作負(fù)載對數(shù)據(jù)的需求。
驛心科技的創(chuàng)始人吳文昊擁有豐富的HPC、云計(jì)算和AI經(jīng)驗(yàn)，他的經(jīng)歷有助于驛心精準(zhǔn)洞察并解決AI訓(xùn)練與推理的主要痛點(diǎn)。驛心科技目前重點(diǎn)布局了三個(gè)領(lǐng)域：云和大模型客戶、AI研發(fā)類客戶以及傳統(tǒng)客戶。對于云和大模型客戶，驛心提供了專業(yè)的存儲解決方案以及輕量級客戶服務(wù)界面；對于AI研發(fā)類客戶，驛心提供了專業(yè)的AI基礎(chǔ)設(shè)施解決方案以及模型與數(shù)據(jù)能力；對于傳統(tǒng)客戶，驛心通過與OEM廠商的合作，提供了針對細(xì)分行業(yè)的存算一體機(jī)方案。
吳文昊指出，Deepseek的出現(xiàn)正體現(xiàn)了中國作為“AI工廠”的實(shí)力，盡管GPU的生產(chǎn)地可能不同，但打造AI工廠的最終供應(yīng)鏈仍將來自中國。驛心科技也針對國內(nèi)市場給出了更加垂直的一體化方案，與海外市場聯(lián)合提供的存儲方案相比，更加貼合國內(nèi)客戶的需求。
在模型優(yōu)化層面，驛心科技結(jié)合算力、網(wǎng)絡(luò)、分布式KV Cache等能力，提高了LLM集群的吞吐，并通過可靠的Tier-0/Tier-1存儲方案保證了模型與數(shù)據(jù)的可靠性，同時(shí)支持模型的后訓(xùn)練與推理加速。吳文昊認(rèn)為，從存儲到網(wǎng)絡(luò)向GPU傳輸數(shù)據(jù)的能力在LLM時(shí)代至關(guān)重要，因此驛心的AI基礎(chǔ)設(shè)施能力主要聚焦在存儲與模型層面。
驛心科技的最新一輪融資即將完成，未來將在多模態(tài)和端側(cè)方面尋求更多突破。吳文昊表示，未來AI基礎(chǔ)設(shè)施特別是AI存儲將迎來巨大增長，因?yàn)槎嗄B(tài)的數(shù)據(jù)量遠(yuǎn)大于語言模型，同時(shí)端側(cè)AI也需要經(jīng)過多個(gè)周期的發(fā)展才能達(dá)到如今語言模型的水平，這當(dāng)中蘊(yùn)含著新的機(jī)遇。
