RISC-V芯片初創(chuàng)公司Rivos上一次出現(xiàn)在頭條里是他們與蘋果達(dá)成了和解協(xié)議。
早在2022年5月,蘋果指控Rivos竊取其商業(yè)機(jī)密以打造具有競(jìng)爭(zhēng)力的芯片產(chǎn)品線。有關(guān)這個(gè)起訴,可以查看半導(dǎo)體行業(yè)觀察之前的文章《蘋果狙擊RISC-V芯片初創(chuàng)公司》。正如該文所說,因?yàn)樘O果的這個(gè)起訴,Rivos在當(dāng)時(shí)面臨了融資困難,甚至還經(jīng)歷了裁員。
但到了今年2月,有消息指出,根據(jù)加州聯(lián)邦法院提交的一份聯(lián)合法庭文件,蘋果計(jì)劃就一項(xiàng)指控科技初創(chuàng)公司 Rivos 竊取其與計(jì)算機(jī)芯片技術(shù)相關(guān)的商業(yè)機(jī)密的訴訟達(dá)成和解。
而在和解僅兩個(gè)月后,Rivos終于傳出了好消息,那就是他們拿到了2.5億美金投資。與此同時(shí),雖然沒有太多的詳細(xì)信息,但他們也在這次融資之后,公布了公司的一些芯片規(guī)劃。
MTK和Intel參與投資
資料顯示,Rivos 成立于 2021 年 5 月,組建了一支世界一流的芯片、軟件和平臺(tái)設(shè)計(jì)師團(tuán)隊(duì)。公司的長(zhǎng)期愿景是基于 RISC-V,使用工作負(fù)載定義的硬件構(gòu)建行業(yè)領(lǐng)先的節(jié)能、高性能、安全的服務(wù)器解決方案。特別強(qiáng)調(diào)一下,Rivos 這個(gè)名字來自RISC- V和Open Source的組合。
Rivos 強(qiáng)調(diào),通過提供結(jié)合 RISC-V CPU 和數(shù)據(jù)并行加速器的優(yōu)化芯片的完整解決方案、參考多芯片 OCP 模塊化服務(wù)器和完整的解決方案,公司將支持重塑企業(yè)的大型語言模型和數(shù)據(jù)分析的強(qiáng)烈要求。固件到應(yīng)用程序的開放軟件堆棧。客戶工作負(fù)載可以使用現(xiàn)有模型輕松部署,從而立即獲得 TCO 優(yōu)勢(shì)。
在最新的公布中,他們鏢旗在其超額認(rèn)購的A-3輪融資中籌集了超過2.5億美元。
據(jù)公告所說,Matrix Capital為本輪最大投資者管理層,此次融資吸引了包括英特爾投資、聯(lián)發(fā)科、Cambium Capital、CIDC、Capital TEN 和 Hotung Venture Group 在內(nèi)的新投資者參與,以及現(xiàn)有投資者 Walden Catalyst、Dell Technologies Capital、Koch Disruptive Technologies 和 VentureTech Alliance 的參與。
這筆資金將使該公司能夠流片其首款芯片產(chǎn)品,并通過擴(kuò)大制造業(yè)務(wù)、平臺(tái)硬件、軟件工程和支持功能來滿足日益增長(zhǎng)的客戶需求。
“LLM的快速變化以及與數(shù)據(jù)分析堆棧的合并使得加速器易于編程和調(diào)試以及數(shù)據(jù)可以在 CPU 和加速器之間無縫移動(dòng)變得至關(guān)重要。Rivos 通過我們的重新編譯而非重新設(shè)計(jì)方法來滿足這一需求。”Rivos 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Puneet Kumar 說道。
“Rivos 成立的使命是打造業(yè)界領(lǐng)先的節(jié)能、高性能芯片,”Kumar 說。“我們很高興能夠瞄準(zhǔn)正在構(gòu)建數(shù)據(jù)驅(qū)動(dòng)解決方案的客戶。”
“擴(kuò)展數(shù)據(jù)分析和大型語言模型的應(yīng)用,不僅涵蓋文本、圖像和視頻等傳統(tǒng)數(shù)據(jù)類型,還涵蓋基因組和醫(yī)學(xué)數(shù)據(jù),為研究和治療領(lǐng)域的創(chuàng)新帶來了前所未有的機(jī)遇,”經(jīng)緯資本管理公司普通合伙人 David Goel 說道。
“Rivos 團(tuán)隊(duì)巧妙地將突破性的全新 RISC-V 架構(gòu)與創(chuàng)造性的加速器集成在一起,有效地將這一愿景變?yōu)楝F(xiàn)實(shí)。他們的原型芯片令人信服地展示了他們利用先進(jìn)臺(tái)積電 3nm 工藝節(jié)點(diǎn)的獨(dú)特能力——這是很少有初創(chuàng)公司能夠?qū)崿F(xiàn)的壯舉。我們熱切期待進(jìn)一步支持公司邁向新的成就領(lǐng)域,以共同的熱情和對(duì)卓越的承諾來標(biāo)記每一個(gè)里程碑。”David Goel 接著說。
主要是為服務(wù)器構(gòu)建芯片
Rivos對(duì)該產(chǎn)品的具體細(xì)節(jié)守口如瓶,但透露其計(jì)劃包括設(shè)計(jì)基于RISC-V架構(gòu)的芯片,這是Arm、英特爾和Advanced Micro Devices制造的架構(gòu)的開源替代方案。RISC-V 等指令集架構(gòu)是半導(dǎo)體設(shè)計(jì)的構(gòu)建模塊,使用開源替代方案意味著 Rivos 無需向 Arm 支付許可費(fèi)。
據(jù)我們所知,Rivos 押注于人工智能用戶的需求,這些用戶不需要 Nvidia 公司等最昂貴、最強(qiáng)大的芯片來運(yùn)行他們的服務(wù)。該公司的目標(biāo)客戶是使用數(shù)據(jù)分析和生成人工智能的客戶,尋求利用 ChatGPT 出現(xiàn)后人工智能日益普及的機(jī)會(huì)。
Rivos 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Puneet Kumar在接受采訪的時(shí)候也表示,“我們可以瞄準(zhǔn)潛在的小型安裝,從成本角度來看,英偉達(dá)可能顯得有些過分。” “我們可以提供一個(gè)運(yùn)行良好且具有良好競(jìng)爭(zhēng)力的解決方案。”“客戶的工作負(fù)載可以輕松部署在我們更高效的硬件上,但仍使用他們現(xiàn)有的模型和數(shù)據(jù)庫,讓他們立即受益,” Kumar 補(bǔ)充道。
他進(jìn)一步指出,Rivos 的長(zhǎng)期目標(biāo)是主要為服務(wù)器構(gòu)建芯片,能夠處理密集數(shù)據(jù)分析和人工智能工作負(fù)載,包括生成式人工智能工作負(fù)載。相關(guān)信息也顯示,Rivos 正在設(shè)計(jì)一款服務(wù)器芯片,該芯片結(jié)合了中央處理單元和人工智能加速器組件,該組件將針對(duì)大型語言模型和數(shù)據(jù)分析進(jìn)行優(yōu)化。該公司從編譯計(jì)算機(jī)代碼以允許芯片運(yùn)行程序所需的軟件開始,并圍繞該軟件設(shè)計(jì)了處理器。
Kuma強(qiáng)調(diào):“通常芯片公司會(huì)采用另一種方式:制造芯片,然后在其上構(gòu)建軟件。但Rivos反其道而行之,首先關(guān)注軟件。”““我們的目標(biāo)是那些構(gòu)建數(shù)據(jù)驅(qū)動(dòng)解決方案的客戶,例如利用生成式人工智能和數(shù)據(jù)分析來推動(dòng)決策的解決方案,”庫馬爾說。“有很多公司瞄準(zhǔn)了這樣的市場(chǎng),Rivos支持人工智能模型和分析的嚴(yán)格硬件要求,這將重塑企業(yè)。”
Walden 創(chuàng)始管理合伙人 Lip-Bu Tan 也表示:“RISC-V 沒有(大型)軟件生態(tài)系統(tǒng),因此我決定支持一家公司,然后構(gòu)建軟件定義的硬件 - 就像 CUDA 與 Nvidia 所做的一樣。” “RISC-V 具有強(qiáng)大的長(zhǎng)期潛力,尤其是在數(shù)據(jù)分析和生成人工智能應(yīng)用方面。”Lip-Bu Tan 強(qiáng)調(diào)。
Rivos 的芯片具有 Kumar 所描述的“數(shù)據(jù)并行加速器”,可加速人工智能和大數(shù)據(jù)相關(guān)計(jì)算,本質(zhì)上是一種專為圖形處理之外的目的而設(shè)計(jì)的 GPU。如上文所說,這是一個(gè)使用臺(tái)積電3nm工藝打造的芯片,這讓他們?cè)谂c友商競(jìng)爭(zhēng)的時(shí)候有足夠的競(jìng)爭(zhēng)力。
如上所述,除了構(gòu)建芯片之外,Rivos 還致力于開發(fā)基于開放計(jì)算項(xiàng)目模塊化標(biāo)準(zhǔn)( Open Compute Project modular standard,)的獨(dú)立數(shù)據(jù)中心硬件,該硬件將有效地充當(dāng)即插即用的芯片外殼(chip housing)。庫馬爾說,它正在創(chuàng)建一個(gè)“firmware-to-app”的軟件堆棧來對(duì)芯片進(jìn)行編程。
在官網(wǎng)中,Rivos 也重申,公司正在開發(fā)一個(gè)包含芯片、平臺(tái)和軟件的完整解決方案,該方案:
1、結(jié)合了 RISC-V CPU 和數(shù)據(jù)并行加速器(針對(duì)大型語言模型和數(shù)據(jù)分析而優(yōu)化的 GPGPU)的優(yōu)化芯片。CPU 和并行計(jì)算的緊密集成在 DDR DRAM 和 HBM 之間共享統(tǒng)一內(nèi)存,非常適合當(dāng)今需要 TB 內(nèi)存的模型和數(shù)據(jù)庫;
2、遵循 M-DNO 指南的參考多芯片 OCP 模塊化硬件系統(tǒng)(DC-MHS) 服務(wù)器;
3、完整的固件到應(yīng)用程序開放軟件堆棧。UEFI 和 Linux 基礎(chǔ)支持標(biāo)準(zhǔn)框架(例如 PyTorch,包括 eager 模式、JAX、Spark 和 PostgreSQL)。這允許重新編譯應(yīng)用程序和模型,而不需要重新設(shè)計(jì)。
這使用戶能夠無縫部署 Rivos 產(chǎn)品,并立即開始受益于一流的性能(可縮短洞察時(shí)間)和電源效率(可實(shí)現(xiàn)市場(chǎng)領(lǐng)先的性能/瓦數(shù)、吞吐量),并降低總體擁有成本。
Rivos 同時(shí)堅(jiān)信支持開放生態(tài)系統(tǒng)和驅(qū)動(dòng)標(biāo)準(zhǔn)。其工程師通過領(lǐng)導(dǎo)RISC-V International的多項(xiàng)關(guān)鍵計(jì)劃,并通過 RISC-V 軟件生態(tài)系統(tǒng)RISE計(jì)劃與開源 RISC-V 軟件開發(fā)人員密切合作, 幫助增強(qiáng) RISC-V 生態(tài)系統(tǒng) 。以安全為基礎(chǔ)支柱,Rivos 正在將基于 RISC-V 的信任根解決方案 OpenTitan直接集成到其系統(tǒng)芯片中。
一個(gè)競(jìng)爭(zhēng)激烈的市場(chǎng)
隨著生成型人工智能熱潮的持續(xù),大型科技公司是 Rivos 的潛在客戶群體之一,然而它們正在競(jìng)相開發(fā)自己的用于人工智能和大數(shù)據(jù)分析的內(nèi)部芯片。
谷歌正在開發(fā)其第五代 TPU,并于最近發(fā)布了Axion,這是其首款用于運(yùn)行模型的專用芯片。亞馬遜擁有多個(gè)定制芯片系列。微軟去年通過 Azure Maia AI 加速器和 Azure Cobalt 100 CPU加入了競(jìng)爭(zhēng)。Meta 也在慢慢推進(jìn)自己的芯片設(shè)計(jì)。
與此同時(shí),數(shù)十家初創(chuàng)公司正在爭(zhēng)奪定制數(shù)據(jù)中心芯片市場(chǎng)的份額,該市場(chǎng)今年可能達(dá)到 100 億美元,到 2025 年將翻一番。
Groq是一家開發(fā)芯片以比傳統(tǒng)硬件更快地運(yùn)行人工智能模型的公司,最近成立了一個(gè)面向企業(yè)應(yīng)用程序和用例的新業(yè)務(wù)部門;由工程杰出人物吉姆·凱勒 (Jim Keller) 領(lǐng)導(dǎo)的人工智能硬件初創(chuàng)公司Tenstorrent正在尋求將其芯片組推進(jìn)到數(shù)據(jù)中心。韓國無晶圓廠人工智能芯片公司Rebellions已籌集數(shù)億美元資金,以提高其數(shù)據(jù)中心芯片 Atom 的產(chǎn)量。中國也有多家芯片公司浮世蛋蛋
但事實(shí)證明,目前芯片領(lǐng)域的主導(dǎo)力量英偉達(dá)是很難被推翻的。
得益于人工智能訓(xùn)練 GPU 的需求旺盛,Nvidia在今年成為了一家價(jià)值 2 萬億美元的公司,富國銀行股票研究公司估計(jì),Nvidia 在數(shù)據(jù)中心 GPU 領(lǐng)域擁有 98% 的市場(chǎng)份額,隨著 Nvidia建立了一個(gè)新部門為云計(jì)算公司和其他公司設(shè)計(jì)定制芯片,該公司的數(shù)據(jù)中心業(yè)務(wù)在 2023 年第四季度增長(zhǎng)了 400% 以上。
鑒于競(jìng)爭(zhēng)的激烈程度——以及英偉達(dá)的霸主地位對(duì)潛在競(jìng)爭(zhēng)對(duì)手的資金產(chǎn)生的寒蟬效應(yīng)——對(duì)于一些定制服務(wù)器芯片新貴來說,日子過得很艱難。
據(jù)報(bào)道,在與微軟的交易失敗后, Graphcore的估值被削減了 10 億美元,幾個(gè)月前,該公司表示,由于“極具挑戰(zhàn)性”的宏觀經(jīng)濟(jì)環(huán)境,該公司正在計(jì)劃裁員。英特爾旗下的人工智能芯片公司 Habana Labs 去年裁掉了大約 10% 的員工。同樣是在去年,SiFive與 RISC-V 初創(chuàng)公司 Rivos 一樣,裁掉了 20% 的員工,并停止了其核心產(chǎn)品線。
在接受媒體采訪的時(shí)候,Kumar 不愿談?wù)摽蛻簦?Rivos 的芯片預(yù)計(jì)要到明年某個(gè)時(shí)候才能量產(chǎn)。但Kumar 表示,Rivos 擁有 375 名員工和數(shù)億美元的銀行存款,因此有能力擴(kuò)大制造規(guī)模,并在平臺(tái)和軟件工程方面加倍努力。
Kumar 表示:“生成式 AI 的快速變化以及與數(shù)據(jù)分析堆棧的合并使得加速器易于編程和調(diào)試以及數(shù)據(jù)可以在 CPU 和加速器之間無縫移動(dòng)變得至關(guān)重要。” “Rivos 通過我們的‘重新編譯而非重新設(shè)計(jì)’(recompile-not-redesign)方法來滿足這一需求。”
還有老生常談的一點(diǎn),雖然使用 RISC-V 架構(gòu),Rivos 可以潛在地降低成本并提高客戶的可定制性。RISC-V 的開源特性使設(shè)計(jì)過程具有更大的靈活性,有可能帶來特定人工智能任務(wù)的創(chuàng)新和優(yōu)化。然而,這個(gè)缺點(diǎn)是與專為 x86 或 ARM 等更常見架構(gòu)設(shè)計(jì)的現(xiàn)有軟件和生態(tài)系統(tǒng)可能存在兼容性問題。此外,RISC-V 缺乏廣泛的生態(tài)系統(tǒng)可能會(huì)在與更成熟的架構(gòu)的競(jìng)爭(zhēng)中處于劣勢(shì)。
他們面對(duì)另一個(gè)挑戰(zhàn)是芯片設(shè)計(jì)和制造的復(fù)雜性。半導(dǎo)體行業(yè)是資本密集型行業(yè),開發(fā)周期長(zhǎng)。快速的技術(shù)變革也會(huì)使現(xiàn)有產(chǎn)品迅速過時(shí),從而給新進(jìn)入者帶來風(fēng)險(xiǎn)。
那么 ,Rivos 的表現(xiàn)會(huì)更好嗎?
【來源:半導(dǎo)體行業(yè)觀察】