【ITBEAR科技資訊】8月31日消息，谷歌云在今天召開(kāi)的云Next大會(huì)上宣布，將于下個(gè)月推出A3虛擬機(jī)實(shí)例。這款新虛擬機(jī)實(shí)例的最大亮點(diǎn)是配備了英偉達(dá)H100 Tensor Core GPU，可以滿足生成式人工智能和大語(yǔ)言模型等需求。
據(jù)介紹，A3實(shí)例采用了第4代英特爾至強(qiáng)可擴(kuò)展處理器、2TB DDR5-4800內(nèi)存，以及8張英偉達(dá)H100“Hopper”GPU。通過(guò)NVlink 4.0和NVSwitch，該實(shí)例實(shí)現(xiàn)了3.6 TBps的對(duì)分帶寬。新的A3超級(jí)計(jì)算機(jī)專門用于訓(xùn)練和服務(wù)要求最苛刻的人工智能模型，并為生成人工智能和大型語(yǔ)言模型創(chuàng)新提供支持。據(jù)稱，該超級(jí)計(jì)算機(jī)可以提供26 exaFlops的人工智能性能。
此外，谷歌云還在發(fā)布會(huì)上介紹了全新的TPU v5e，這是迄今為止成本效益和可訪問(wèn)性最高的云TPU。這些TPU或定制ASIC旨在加速人工智能和機(jī)器學(xué)習(xí)工作負(fù)載。根據(jù)SDxCentral的報(bào)道，TPU v5e相較于前代，每美元的訓(xùn)練性能提高了一倍，每美元的推理性能提高了2.5倍。
