隨著人工智能技術(shù)的飛速發(fā)展,特別是DeepSeek大模型的崛起,一個(gè)曾經(jīng)相對(duì)小眾的服務(wù)器產(chǎn)品——一體機(jī),正逐漸成為市場(chǎng)的新寵。
科大訊飛智算業(yè)務(wù)部的副總經(jīng)理許昀透露,過(guò)去,行業(yè)對(duì)一體機(jī)的需求微乎其微,但如今,這一需求已遠(yuǎn)超預(yù)期。自DeepSeek大模型走紅以來(lái),一體機(jī)市場(chǎng)迅速升溫,吸引了眾多廠商的加入。
據(jù)IDC統(tǒng)計(jì),目前已有近百家廠商推出了AI一體機(jī)產(chǎn)品,涵蓋了新華三等服務(wù)器廠商、京東云、百度智能云等云服務(wù)提供商,以及科大訊飛等行業(yè)應(yīng)用開(kāi)發(fā)商和大模型技術(shù)供應(yīng)商。這些廠商紛紛推出集成DeepSeek大模型的一體機(jī),以滿足不同行業(yè)場(chǎng)景的應(yīng)用需求。
一體機(jī),作為一種專為人工智能大模型應(yīng)用和部署而設(shè)計(jì)的集成計(jì)算設(shè)備,集成了CPU、GPU、存儲(chǔ)器、操作系統(tǒng)、AI平臺(tái)軟件及各類模型算法等軟硬件組件。它不僅能讓大模型開(kāi)箱即用,還能確保數(shù)據(jù)安全。
市場(chǎng)上的大模型一體機(jī),主要以集成DeepSeek大模型為主,包括32B、70B以及671B滿血版等,價(jià)格區(qū)間在十幾萬(wàn)元至百萬(wàn)元不等。例如,華為的一款四卡一體機(jī),售價(jià)約15萬(wàn)元,底層硬件采用鯤鵬CPU和昇騰芯片,內(nèi)置DeepSeek-70B大模型,支持問(wèn)答助手、知識(shí)庫(kù)等功能,可同時(shí)滿足30人并發(fā)使用。而搭載DeepSeek-671B大模型的一體機(jī),售價(jià)則超過(guò)200萬(wàn)元。
盡管一體機(jī)并非全新產(chǎn)品,此前已有數(shù)據(jù)庫(kù)一體機(jī)等存在,但整體市場(chǎng)需求一直較為平淡。此番大模型一體機(jī)的爆發(fā),得益于DeepSeek的推動(dòng)以及大模型和小型化算力的發(fā)展趨勢(shì)。通過(guò)“軟硬協(xié)同、開(kāi)箱即用”的特性,一體機(jī)滿足了企業(yè)在專一業(yè)務(wù)場(chǎng)景中低成本使用大模型的需求,解決了數(shù)據(jù)安全、算力成本和場(chǎng)景適配三大痛點(diǎn)。
然而,盡管一體機(jī)市場(chǎng)供給方的熱度頗高,但實(shí)際需求落地仍需時(shí)間。許昀表示,目前大多數(shù)企業(yè)仍處于試點(diǎn)階段,行業(yè)適配需要時(shí)間,預(yù)計(jì)半年左右,真實(shí)的市場(chǎng)需求才會(huì)爆發(fā)。
Gartner研究總監(jiān)張吟鈴也指出,很多企業(yè)尚未明確部署大模型一體機(jī)的投資回報(bào)比,因此,盡管對(duì)大模型使用場(chǎng)景有研究的大型企業(yè)不少,但對(duì)大模型一體機(jī)的投資并不多,整體行業(yè)仍處于前期階段。
2025年被視為大模型落地應(yīng)用的關(guān)鍵一年,一體機(jī)作為底層算力支持的服務(wù)器,成為眾多企業(yè)拓展大模型落地應(yīng)用的關(guān)鍵一環(huán)。據(jù)浙商證券測(cè)算,預(yù)計(jì)2025年至2027年,一體機(jī)的需求量將分別達(dá)到15萬(wàn)臺(tái)、39萬(wàn)臺(tái)和72萬(wàn)臺(tái),在央國(guó)企的市場(chǎng)空間有望達(dá)到千億元級(jí)別。
為了搶占更多的大模型市場(chǎng),AI服務(wù)器廠商、云計(jì)算廠商以及行業(yè)應(yīng)用和大模型技術(shù)公司紛紛布局一體機(jī)市場(chǎng),發(fā)布相關(guān)系列產(chǎn)品。硬件廠商中,新華三等AI服務(wù)器廠商提供集成化產(chǎn)品,而華為等國(guó)產(chǎn)芯片廠商則提供底層芯片支持。云廠商方面,包括三大運(yùn)營(yíng)商云、百度智能云、京東云等在內(nèi)的眾多云廠商,都已推出大模型一體機(jī)產(chǎn)品。
新華三作為服務(wù)器廠商,硬件優(yōu)勢(shì)明顯,其自主研發(fā)的服務(wù)器能夠支持高性能GPU,提供靈活的拓?fù)浼軜?gòu),兼容多種模型,并優(yōu)化了性能和兼容性,降低了用戶的配置成本。國(guó)產(chǎn)化成為大模型一體機(jī)的重要趨勢(shì),以華為昇騰、海光、寒武紀(jì)等為主的國(guó)產(chǎn)芯片,成為眾多行業(yè)客戶打造大模型一體機(jī)的首選底層硬件配置。
科大訊飛等行業(yè)應(yīng)用及大模型技術(shù)廠商,則憑借技術(shù)和行業(yè)理解的核心競(jìng)爭(zhēng)力,推出針對(duì)特定行業(yè)場(chǎng)景的一體機(jī)產(chǎn)品。這些廠商不僅有自己的基座大模型能力,還能根據(jù)行業(yè)特性對(duì)開(kāi)源大模型進(jìn)行微調(diào),并沉淀出細(xì)分場(chǎng)景的行業(yè)大模型。
盡管一體機(jī)市場(chǎng)火爆,但更多企業(yè)仍處于前期試點(diǎn)階段,真正的市場(chǎng)需求尚未全面爆發(fā)。對(duì)于大多數(shù)企業(yè)來(lái)說(shuō),大模型一體機(jī)的應(yīng)用能否帶來(lái)更高的商業(yè)價(jià)值,仍待驗(yàn)證。目前,大模型一體機(jī)的市場(chǎng)需求主要來(lái)自金融、政企、醫(yī)療等對(duì)數(shù)據(jù)安全要求較高或?qū)ρ訒r(shí)較為敏感的應(yīng)用場(chǎng)景。然而,一體機(jī)所能提供的大模型能力和算力支持有限,因此,在各行業(yè)場(chǎng)景中,真正能夠應(yīng)用一體機(jī)的,往往是某一行業(yè)中的特定細(xì)分場(chǎng)景。
對(duì)于一體機(jī)客戶來(lái)說(shuō),大多數(shù)對(duì)隱私不敏感的中小企業(yè)更多使用公有云,而對(duì)于有長(zhǎng)期需求且注重?cái)?shù)據(jù)隱私的企業(yè),則可以選擇部署一體機(jī)。對(duì)于大型企業(yè)來(lái)說(shuō),雖然一般會(huì)構(gòu)建獨(dú)立的智算平臺(tái),但在細(xì)分場(chǎng)景中部署一體機(jī)時(shí),還需考慮與現(xiàn)有智能算力平臺(tái)的協(xié)同管理問(wèn)題。
盡管一體機(jī)市場(chǎng)潛力巨大,但目前企業(yè)部署DeepSeek一體機(jī)后,能用于增長(zhǎng)業(yè)務(wù)的場(chǎng)景其實(shí)并不多,更多用于效能提升。張吟鈴對(duì)未來(lái)一體機(jī)賽道持謹(jǐn)慎態(tài)度,認(rèn)為當(dāng)企業(yè)使用大模型進(jìn)入成熟期后,可能需要面對(duì)使用同一軟件平臺(tái)納管不同種類一體機(jī)的挑戰(zhàn)。
不過(guò),從商業(yè)化邏輯來(lái)看,像科大訊飛這樣的廠商,與硬件廠商的本質(zhì)區(qū)別在于不依靠硬件掙錢,而是賺取軟件服務(wù)費(fèi)用以及帶動(dòng)客戶從細(xì)分市場(chǎng)向其他項(xiàng)目轉(zhuǎn)換的營(yíng)收。目前,行業(yè)客戶對(duì)一體機(jī)的評(píng)價(jià)存在兩極分化,一方面認(rèn)為一體機(jī)能滿足細(xì)分行業(yè)需求,整體效果不錯(cuò);另一方面則認(rèn)為一體機(jī)價(jià)格不菲且未找到與行業(yè)深度結(jié)合的點(diǎn),效果不佳。