【ITBEAR科技資訊】2月27日消息,近日有報道稱,英偉達針對人工智能(AI)和高性能計算(HPC)推出的H100 GPU交貨周期出現顯著縮短,由此前的8-11個月銳減至僅3-4個月。這一變化導致部分囤積該芯片的公司開始尋求出售其過剩的H100 80GB處理器,原因在于如今從亞馬遜云服務、谷歌云及微軟Azure等大型云服務提供商處租用芯片已變得更為便捷。
據ITBEAR科技資訊了解,The Information的一份報告指出,鑒于H100 GPU稀缺性的降低以及維護未使用庫存所帶來的高昂成本,部分公司開始轉售其手中的H100 GPU或減少相關訂單。這與去年眾多企業爭相搶購英偉達Hopper GPU的情況形成了鮮明對比。盡管芯片的可用性有所提升且交貨周期大幅縮短,但報告仍指出,AI芯片的需求依然旺盛,尤其是對于需要訓練大型語言模型(LLM)的公司,如OpenAI等。
云服務提供商(CSP)如亞馬遜AWS等提供的按需租用H100 GPU服務,在一定程度上緩解了需求壓力,縮短了用戶的等待時間。然而,由于訓練大型語言模型需要大規模的GPU集群,這類公司仍面臨著供應瓶頸的挑戰,有時甚至需要等待數月才能獲得所需的處理能力。因此,盡管交貨周期縮短,但英偉達H100等處理器的市場價格并未出現明顯下降,公司依然能夠保持較高的利潤率。
隨著芯片供應瓶頸的逐步緩解,買家的行為也在發生變化。企業開始更加注重價格和采購/租賃的合理性,傾向于選擇規模更小的GPU集群,并更加關注其業務的經濟可行性。此外,隨著替代方案(如AMD或AWS的處理器)在性能和軟件支持方面的不斷提升,以及企業在AI處理器支出方面的日益謹慎,AI領域有望迎來一個更加平衡的市場格局。