【ITBEAR】9月2日消息，在AI推理芯片市場上，盡管英偉達依然保持著領(lǐng)先地位，但新的挑戰(zhàn)者正不斷涌現(xiàn)，嘗試在這塊領(lǐng)域分一杯羹。最近ML Commons發(fā)布的AI推理競賽成績單顯示，多家公司和創(chuàng)新團隊正通過獨特的技術(shù)路徑，對英偉達的霸主地位發(fā)起挑戰(zhàn)。
據(jù)ITBEAR了解，新一輪的MLPerf Inference v4.1競賽吸引了包括AMD、谷歌、UntetherAI以及英偉達等多家技術(shù)巨頭和新興企業(yè)參與。在備受關(guān)注的封閉數(shù)據(jù)中心類別中，英偉達的Blackwell芯片在LLM問答任務(wù)上展現(xiàn)了卓越性能，比先前的芯片性能提升了2.5倍。然而，其他參賽者也表現(xiàn)出強勁實力，不容忽視。
UntetherAI憑借其speedAI240預(yù)覽芯片在圖像識別任務(wù)中與英偉達的H200芯片性能相當(dāng)，展現(xiàn)了其內(nèi)存內(nèi)計算技術(shù)的潛力。該技術(shù)通過減少數(shù)據(jù)傳輸時間和資源消耗，顯著提高了能效。在邊緣計算類別中，UntetherAI的芯片更是以低能耗和快速處理速度脫穎而出。
此外，Cerebras和Furiosa兩家公司雖然未參與此次MLPerf競賽，但它們也分別推出了新的推理芯片，展示了不同的技術(shù)創(chuàng)新路徑。Cerebras通過制造大型芯片來提升內(nèi)存帶寬，進而增強AI推理能力；而Furiosa則通過實現(xiàn)更通用的矩陣乘法原語，來提高AI推理的效率和靈活性。
這些新興技術(shù)和產(chǎn)品的出現(xiàn)，不僅為AI推理市場注入了新的活力，也為用戶提供了更多的選擇。未來，隨著技術(shù)的不斷進步和市場競爭的加劇，我們有理由期待更多創(chuàng)新的AI推理解決方案涌現(xiàn)。
