探訪亞洲規(guī)模最大的智算中心
大模型時(shí)代到來(lái) 算力夠用嗎？
每秒百億、千億次的浮點(diǎn)運(yùn)算能力，千萬(wàn)億字節(jié)(PB)級(jí)的數(shù)據(jù)存儲(chǔ)規(guī)模……許多人可能對(duì)這些指標(biāo)沒(méi)有太多概念，但要說(shuō)起對(duì)答如流的大語(yǔ)言模型，自動(dòng)駕駛中反應(yīng)神速的汽車，大家應(yīng)該不會(huì)感到陌生了吧？
看得見(jiàn)的應(yīng)用背后，是看不見(jiàn)的算力在支撐。“大模型時(shí)代”誰(shuí)能占得先機(jī)，這個(gè)問(wèn)題誰(shuí)說(shuō)了“算”？在2023世界人工智能大會(huì)召開(kāi)之際，記者探訪了商湯科技人工智能計(jì)算中心(AIDC)。如今，基于最新人工智能理論、采用領(lǐng)先人工智能計(jì)算架構(gòu)，提供算力服務(wù)、數(shù)據(jù)服務(wù)和算法服務(wù)的智算中心，在推進(jìn)大模型能力和數(shù)字經(jīng)濟(jì)發(fā)展中正發(fā)揮著越來(lái)越重要的作用。
商湯科技人工智能計(jì)算中心，是目前亞洲規(guī)模最大的人工智能計(jì)算中心之一 新民晚報(bào)記者 陳炅瑋 攝
AIGC時(shí)代
不可或缺的“血液”
這座位于臨港新片區(qū)的商湯科技人工智能計(jì)算中心，是目前全亞洲規(guī)模最大的人工智能計(jì)算中心之一。經(jīng)過(guò)一年半的運(yùn)營(yíng)，今天的算力規(guī)模已經(jīng)達(dá)到了5000PFLPOS(1PFLPOS相當(dāng)于每秒可以進(jìn)行1千萬(wàn)億次浮點(diǎn)運(yùn)算)的體量，超過(guò)了當(dāng)時(shí)設(shè)計(jì)的算力規(guī)模水平。
“換句話說(shuō)，商湯智算中心的峰值算力可以達(dá)到每秒500億億次浮點(diǎn)運(yùn)算。通過(guò)這樣的一個(gè)超大規(guī)模的算力，我們可以支持20個(gè)千億參數(shù)超大模型同時(shí)進(jìn)行訓(xùn)練，并提供完整的人工智能基礎(chǔ)設(shè)施資源的能力。”商湯AI大裝置產(chǎn)業(yè)賦能中心主任蔣欽告訴記者。
大模型吹響了生成式人工智能(AIGC)的號(hào)角，這必然伴隨著“能源”的進(jìn)一步開(kāi)發(fā)。這樣的“能源”，在AIGC時(shí)代，正是無(wú)數(shù)服務(wù)器中運(yùn)轉(zhuǎn)不息的龐大算力。打比方說(shuō)，大模型若是人工智能抽象化的“身體”，那么海量的算力，則是維系身體運(yùn)轉(zhuǎn)的“血液”。
蔣欽解釋，所謂算力并不是單一概念，它包括通用算力，就是以CPU芯片為主的算力；還包括超算，就是各種超算中心提供的高性能算力，主要服務(wù)于科學(xué)計(jì)算；還有目前非常熱門(mén)的智能算力，即以GPU為典型代表的，以AI芯片為主的服務(wù)于人工智能訓(xùn)練和推理相關(guān)需求的計(jì)算能力。
其中，以AI芯片為主的人工智能算力近年來(lái)呈現(xiàn)快速增長(zhǎng)態(tài)勢(shì)。中國(guó)信通院統(tǒng)計(jì)顯示，2016年的算力結(jié)構(gòu)中，國(guó)內(nèi)人工智能算力比例只占3%左右；而截至去年，整個(gè)人工智能算力比重已超過(guò)半壁江山。
各行各業(yè)
需求與日俱增
隨著人工智能技術(shù)的高速發(fā)展，以及大語(yǔ)言模型的出現(xiàn)和應(yīng)用，各行各業(yè)對(duì)智能算力的需求也在與日俱增。蔣欽介紹，2012年前后是一道分水嶺，隨著深度學(xué)習(xí)的興起，在此之后，最先進(jìn)人工智能模型的計(jì)算量每三四個(gè)月就翻一番，也就是每年增長(zhǎng)近10倍。尤其是最近幾年，在大模型取得突破、應(yīng)用場(chǎng)景的廣泛開(kāi)拓與深入發(fā)展的背景下，對(duì)智能算力的需求迎來(lái)井噴。
沒(méi)有人會(huì)否認(rèn)，大模型江湖的混戰(zhàn)已然愈演愈烈，“下場(chǎng)”的選手越來(lái)越多。由大模型為代表引發(fā)的人工智能新技術(shù)熱潮，會(huì)帶動(dòng)整個(gè)算力需求呈現(xiàn)出非常旺盛的態(tài)勢(shì)。
“大模型需要處理海量的數(shù)據(jù)，并且需要在短時(shí)間內(nèi)完成復(fù)雜的計(jì)算任務(wù)，這就意味著需要更高的計(jì)算能力。”蔣欽指出，“大模型也需要訪問(wèn)大量的數(shù)據(jù)，存儲(chǔ)大量的參數(shù)和中間結(jié)果，因此需要更大的內(nèi)存容量。”與此同時(shí)，大模型需要在多個(gè)硬件設(shè)備上同時(shí)進(jìn)行計(jì)算，因此需要更好的并行計(jì)算能力；而在“雙碳”背景下，消耗大量能源的大模型也在呼喚更高能效比的算力。
“雖然純CPU算力也能用來(lái)進(jìn)行部分人工智能計(jì)算，但效率非常低、能耗非常高。我們不會(huì)以這樣的算力形式去支撐產(chǎn)業(yè)的發(fā)展。”蔣欽判斷，“而搭載以AI芯片為主的新型算力基礎(chǔ)設(shè)施是未來(lái)發(fā)展的重要趨勢(shì)和熱潮。”
他告訴記者，在大模型的熱潮下，算力服務(wù)器目前呈現(xiàn)緊缺狀態(tài)，“大模型的發(fā)展和智能算力底座有著深刻聯(lián)系，需要在大規(guī)模資源匯聚的基礎(chǔ)上做好算力、算法、數(shù)據(jù)三要素的協(xié)同實(shí)踐和聯(lián)合優(yōu)化，助力實(shí)體經(jīng)濟(jì)高質(zhì)量發(fā)展。”
助力臨港
打造算力新高地
作為亞洲已投入使用的、最大規(guī)模的單節(jié)點(diǎn)智能計(jì)算中心，商湯AIDC除了算力規(guī)模體量巨大外，與之相配套的人工智能模型開(kāi)發(fā)工具，針對(duì)大模型的訓(xùn)練、推理、數(shù)據(jù)優(yōu)化服務(wù)等，都可以高效率、低成本、規(guī)模化地支撐和服務(wù)好目前以大模型為代表的整個(gè)人工智能產(chǎn)業(yè)的高速發(fā)展。
今年上半年，人工智能應(yīng)用向縱深發(fā)展：AIGC打造的“數(shù)字人”效果媲美真人水平；人工智能預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)給基礎(chǔ)研究帶來(lái)全新的研究手段；人工智能驅(qū)動(dòng)的大語(yǔ)言模型在多輪次對(duì)話和長(zhǎng)文本理解能力上突飛猛進(jìn)……這些無(wú)不依賴算力提供支撐。
“商湯科技人工智能計(jì)算中心除了為‘日日新’大模型體系提供底層算力基座和AI工具的支撐外，也為其他行業(yè)賦能AI相關(guān)的基礎(chǔ)能力。”蔣欽介紹，“通過(guò)云服務(wù)的方式，我們已在泛互聯(lián)網(wǎng)、泛娛樂(lè)、自動(dòng)駕駛、科研院所等多個(gè)領(lǐng)域里支持了十余家大模型客戶的開(kāi)發(fā)工作。”
商湯科技人工智能計(jì)算中心會(huì)依托臨港，進(jìn)一步夯實(shí)算力底座、擴(kuò)大算力規(guī)模。在算力軟件平臺(tái)相關(guān)技術(shù)領(lǐng)域，持續(xù)對(duì)集群架構(gòu)、集群網(wǎng)絡(luò)、存儲(chǔ)性能、能源管理等多方面開(kāi)展技術(shù)攻關(guān)，對(duì)于大模型訓(xùn)練與推理定向支持等開(kāi)展技術(shù)迭代更新，以支撐更大規(guī)模的算力集群落地，助力臨港打造智能算力新高地。“臨港本身具有非常強(qiáng)大的區(qū)域產(chǎn)業(yè)優(yōu)勢(shì)，集聚了集成電路、人工智能、生物醫(yī)藥、高端裝備制造、新能源汽車等核心優(yōu)勢(shì)產(chǎn)業(yè)。這也要求我們圍繞這些優(yōu)勢(shì)產(chǎn)業(yè)去打造人工智能基礎(chǔ)設(shè)施行業(yè)解決方案與豐富的產(chǎn)業(yè)上下游生態(tài)，做好產(chǎn)業(yè)智能化升級(jí)的算力底座。”蔣欽表示。(新民晚報(bào) 記者 郜陽(yáng))
