在AI數(shù)據(jù)中心規(guī)模日益壯大的背景下,云計(jì)算巨頭們正面臨一項(xiàng)新的挑戰(zhàn):如何高效利用現(xiàn)有的小型數(shù)據(jù)中心資源。針對(duì)這一難題,博通公司推出了創(chuàng)新的解決方案,特別針對(duì)地理位置相近的數(shù)據(jù)中心。
本周一,博通正式發(fā)布了其新版Jericho網(wǎng)絡(luò)芯片。這款芯片憑借其卓越的性能,能夠?qū)崿F(xiàn)大數(shù)據(jù)量的高速傳輸。據(jù)博通核心交換業(yè)務(wù)集團(tuán)的高級(jí)副總裁Ram Velaga介紹,借助Jericho芯片,客戶可以將多個(gè)小型數(shù)據(jù)中心無(wú)縫連接,從而構(gòu)建一個(gè)龐大的系統(tǒng),用于開(kāi)發(fā)或運(yùn)行AI模型。
博通聲稱,其Jericho4產(chǎn)品具備連接超過(guò)百萬(wàn)個(gè)處理器的強(qiáng)大能力,能夠跨越多個(gè)數(shù)據(jù)中心,處理的信息量相比前代產(chǎn)品提升了約四倍。這一突破性的進(jìn)展,無(wú)疑為AI領(lǐng)域的數(shù)據(jù)傳輸和處理帶來(lái)了全新的可能。
近年來(lái),隨著AI系統(tǒng)的快速發(fā)展,博通的網(wǎng)絡(luò)組件需求持續(xù)增長(zhǎng)。這些組件,如路由器和交換機(jī),在GPU之間扮演著數(shù)據(jù)傳輸?shù)闹匾巧6鳪PU,作為構(gòu)建AI模型的昂貴芯片,其需求也隨之激增。
值得注意的是,雖然博通的部分設(shè)備專注于在同一機(jī)架或數(shù)據(jù)中心內(nèi)部進(jìn)行數(shù)據(jù)傳輸,但市場(chǎng)對(duì)于能夠跨越建筑甚至實(shí)現(xiàn)遠(yuǎn)距離傳輸?shù)慕M件需求同樣迫切。大型GPU集群的功耗問(wèn)題日益凸顯,使得將所有GPU集中在同一位置變得不切實(shí)際。Velaga指出,當(dāng)試圖建立包含數(shù)十萬(wàn)個(gè)GPU的集群時(shí),功耗很快就會(huì)達(dá)到數(shù)百萬(wàn)瓦,而單個(gè)物理建筑往往無(wú)法滿足這樣的電力需求。
“當(dāng)考慮建立20萬(wàn)或10萬(wàn)個(gè)GPU的集群時(shí),功耗很快就會(huì)逼近300兆瓦,而目前的單個(gè)物理建筑根本無(wú)法提供這樣的電力供應(yīng)。”Velaga說(shuō)道。他進(jìn)一步強(qiáng)調(diào),Jericho系列網(wǎng)絡(luò)芯片正是為了解決這一問(wèn)題而生。
隨著企業(yè)試圖將數(shù)據(jù)中心容量遷移到更接近客戶的位置,以加快用戶從AI模型獲取答案的速度,位于擁擠都市區(qū)的數(shù)據(jù)中心變得尤為重要。在這些地區(qū),連接多個(gè)較小的設(shè)施可能更為實(shí)用。Velaga表示,這進(jìn)一步凸顯了Jericho芯片的重要性。
值得注意的是,博通的Tomahawk系列芯片主要用于連接數(shù)據(jù)中心內(nèi)的機(jī)架,其連接距離通常限制在一公里以內(nèi)。而Jericho設(shè)備則能夠處理超過(guò)100公里的遠(yuǎn)距離連接,適用于跨建筑甚至更遠(yuǎn)距離的數(shù)據(jù)傳輸需求。
據(jù)Velaga透露,Jericho4芯片將從周一開(kāi)始向云服務(wù)提供商和網(wǎng)絡(luò)設(shè)備制造商等早期客戶發(fā)貨。這些客戶將把芯片集成到他們的產(chǎn)品中,預(yù)計(jì)完全部署大約需要九個(gè)月的時(shí)間。
面對(duì)AI數(shù)據(jù)中心發(fā)展的新挑戰(zhàn),博通的Jericho4芯片無(wú)疑提供了一個(gè)創(chuàng)新的解決方案。通過(guò)高效連接多個(gè)小型數(shù)據(jù)中心,這款芯片不僅解決了大型GPU集群的功耗問(wèn)題,還為云計(jì)算和AI企業(yè)提供了更靈活的數(shù)據(jù)中心布局選擇。