7月25日,階躍星辰在上海隆重舉辦了“Step3大模型發(fā)布會(huì)暨生態(tài)聯(lián)盟成立大會(huì)”,會(huì)上宣布了一項(xiàng)重大舉措——攜手近十家芯片及基礎(chǔ)設(shè)施廠商,共同發(fā)起“模芯生態(tài)創(chuàng)新聯(lián)盟”。此舉標(biāo)志著模型廠商與芯片廠商在基礎(chǔ)大模型研發(fā)領(lǐng)域的深度合作邁出了關(guān)鍵一步。
隨著基礎(chǔ)大模型研發(fā)的不斷深入,模型與芯片之間的協(xié)同優(yōu)化成為了提升大模型性能和算力效率的關(guān)鍵。階躍星辰此次發(fā)布的Step3大模型,正是這一理念下的產(chǎn)物。Step3不僅在智能性上有所突破,更在推理效率上實(shí)現(xiàn)了行業(yè)領(lǐng)先,旨在成為推理時(shí)代最適合應(yīng)用的基礎(chǔ)大模型。
據(jù)悉,Step3通過系統(tǒng)和架構(gòu)創(chuàng)新,在國產(chǎn)芯片上的推理效率最高可達(dá)同類模型的300%,且對(duì)所有芯片均表現(xiàn)出良好的兼容性。在NVIDIA Hopper架構(gòu)芯片上的分布式推理測試中,Step3的吞吐量相較于同類模型提升了超過70%。這一成績無疑為Step3在全球范圍內(nèi)的應(yīng)用奠定了堅(jiān)實(shí)的基礎(chǔ)。
為了進(jìn)一步提升大模型的適配性和算力效率,“模芯生態(tài)創(chuàng)新聯(lián)盟”應(yīng)運(yùn)而生。該聯(lián)盟由階躍星辰聯(lián)合華為昇騰、沐曦、壁仞科技等多家芯片及基礎(chǔ)設(shè)施廠商共同發(fā)起,旨在打通芯片、模型和平臺(tái)之間的技術(shù)壁壘,為企業(yè)提供高效易用的大模型解決方案。
目前,聯(lián)盟成員已包括華為昇騰、沐曦、壁仞科技、燧原科技、天數(shù)智芯、無問芯穹、寒武紀(jì)、摩爾線程、硅基流動(dòng)等多家知名企業(yè)。其中,華為昇騰芯片已率先實(shí)現(xiàn)了Step3的搭載和運(yùn)行,其他聯(lián)盟成員的適配工作也在緊鑼密鼓地進(jìn)行中。
在發(fā)布會(huì)上,階躍星辰還分享了Step3在降低推理成本方面的系統(tǒng)架構(gòu)創(chuàng)新。業(yè)內(nèi)人士指出,通過模型系統(tǒng)架構(gòu)創(chuàng)新來降低推理成本,是推動(dòng)AI技術(shù)普及和惠民的關(guān)鍵路徑。而“模芯生態(tài)創(chuàng)新聯(lián)盟”的成立,正是這一路徑上的重要里程碑。
階躍星辰在WAIC期間還升級(jí)了多模態(tài)模型,推出了首個(gè)多模理解生成一體化模型Step3o Vision和第二代端到端語音大模型Step-Audio2。這些模型的推出,將進(jìn)一步豐富階躍星辰的AI產(chǎn)品線,為用戶提供更加多樣化的AI服務(wù)。
目前,Step3大模型以及階躍星辰的多模態(tài)模型均可在其官方網(wǎng)站(stepfun.com)和官方App上進(jìn)行體驗(yàn)。用戶可以通過這些平臺(tái),深入了解階躍星辰在AI領(lǐng)域的最新成果,并親身體驗(yàn)其帶來的便捷與智能。