每經(jīng)編輯 杜宇
據(jù)騰訊微信公眾號(hào)4月14日消息，面向大模型訓(xùn)練，騰訊發(fā)布超強(qiáng)算力集群。
這個(gè)國(guó)內(nèi)超強(qiáng)算力集群，就是騰訊云新發(fā)布的面向大模型訓(xùn)練的新一代HCC（High-Performance Computing Cluster）高性能計(jì)算集群，整體性能比過去提升了3倍。
它搭載了NVIDIA H800 Tensor Core GPU，能夠提供高性能、高帶寬、低延遲的智算能力支撐。
什么是算力集群？
一般運(yùn)算，由運(yùn)算卡（芯片）來(lái)完成。
但遇到海量運(yùn)算，單塊芯片無(wú)力支撐，就要將成千上萬(wàn)臺(tái)服務(wù)器，通過網(wǎng)絡(luò)聯(lián)結(jié)，組成大型的算力集群，同心合力，更高更強(qiáng)。
一個(gè)人工智能大模型，通常得用數(shù)萬(wàn)億個(gè)單詞訓(xùn)練，參數(shù)量也“飆升”到了上萬(wàn)億。這個(gè)時(shí)候，只有高性能的計(jì)算集群能hold住。
圖片來(lái)源：視覺中國(guó)-VCG111424718601
超強(qiáng)算力集群靠什么支撐？
算力集群的“強(qiáng)”，由單機(jī)算力、網(wǎng)絡(luò)、存儲(chǔ)共同決定。就像一個(gè)牢固的木桶，缺一不可。
騰訊云新一代集群通過對(duì)單機(jī)算力、網(wǎng)絡(luò)架構(gòu)和存儲(chǔ)性能進(jìn)行協(xié)同優(yōu)化，能夠?yàn)榇竽Ｐ陀?xùn)練提供高性能、高帶寬、低延遲的智算能力支撐。
總體來(lái)說(shuō)，有以下幾個(gè)特點(diǎn)：
計(jì)算方面，性能強(qiáng)
在單點(diǎn)算力性能最大優(yōu)化的基礎(chǔ)上，我們還將不同種類的芯片組合起來(lái)，GPU+CPU，讓每塊芯片去最恰當(dāng)?shù)牡胤剑鲎钌瞄L(zhǎng)的事情。
網(wǎng)絡(luò)方面，帶寬足
GPU擅長(zhǎng)并行計(jì)算，一次可以做多個(gè)任務(wù)。我們的自研星脈高性能網(wǎng)絡(luò)，讓成千上萬(wàn)的GPU之間互相“通氣”，信息傳遞又快又不堵車，打一場(chǎng)漂亮的配合戰(zhàn)，大模型集群訓(xùn)練效率提升了20%。
存儲(chǔ)方面，讀取快
訓(xùn)練大模型時(shí)，幾千臺(tái)服務(wù)器會(huì)同時(shí)讀取一批數(shù)據(jù)集，如果加載時(shí)間過長(zhǎng)，也會(huì)成為木桶的短板。我們的最新自研存儲(chǔ)架構(gòu)，將數(shù)據(jù)分類放進(jìn)不同“容器”，用作不同的場(chǎng)景，讀取更快更高效。
騰訊表示，隨著算力需求的陡增，自己采購(gòu)GPU的價(jià)格昂貴，甚至有錢也買不到，給創(chuàng)業(yè)企業(yè)、中小企業(yè)帶來(lái)很大壓力。我們的新一代HCC集群，能夠幫助在云上訓(xùn)練大模型，希望緩解他們的壓力。
我們有訓(xùn)練框架AngelPTM，對(duì)內(nèi)支持了騰訊混元大模型的訓(xùn)練，也已通過騰訊云對(duì)外提供服務(wù)。它在去年10月，完成了首個(gè)萬(wàn)億參數(shù)大模型訓(xùn)練，并將訓(xùn)練時(shí)間縮短80%。
我們的TI平臺(tái)（一站式機(jī)器學(xué)習(xí)平臺(tái)）擁有大模型能力和工具箱，能幫助企業(yè)根據(jù)具體場(chǎng)景，進(jìn)行精調(diào)訓(xùn)練，提升生產(chǎn)效率，快速創(chuàng)建和部署 AI 應(yīng)用。
我們的自研芯片已經(jīng)量產(chǎn)，包括用于AI推理的紫霄芯片。它采用自研存算架構(gòu)和自研加速模塊，可以提供高達(dá)3倍的計(jì)算加速性能和超過45%的整體成本節(jié)省。
總體而言，我們正以新一代HCC為標(biāo)志，基于自研芯片、自研服務(wù)器等方式，軟硬一體，打造面向AIGC的高性能智算網(wǎng)絡(luò)，持續(xù)加速全社會(huì)云上創(chuàng)新。
封面圖片來(lái)源：每經(jīng)記者 張建 攝
