隨著人工智能技術(shù)的飛速發(fā)展，AI芯片的功耗與發(fā)熱問題逐漸成為制約其廣泛應(yīng)用的關(guān)鍵因素。高功耗不僅增加了企業(yè)的運營成本，還可能引發(fā)芯片過熱、短路等風(fēng)險，嚴(yán)重影響AI訓(xùn)練和推理的效率和效果。因此，一場針對AI芯片冷卻技術(shù)的革命迫在眉睫。
近年來，全球數(shù)據(jù)量呈爆炸式增長，從2015年的10EB到預(yù)計2025年的175ZB，再到2035年可能達到的2432ZB，數(shù)據(jù)量的激增對AI芯片的算力提出了更高要求。然而，邊緣AI的發(fā)展面臨著性能、功耗和成本之間的平衡挑戰(zhàn)，尤其是在電池供電的低功耗設(shè)備中。同時，構(gòu)建一個涵蓋工具鏈、語言、兼容性和易開發(fā)性的統(tǒng)一生態(tài)系統(tǒng)，對于推動AI技術(shù)的普及和規(guī)模化應(yīng)用至關(guān)重要。
AI應(yīng)用如ChatGPT和大型語言模型(LLM)等，依賴于“并行計算”技術(shù)，即由芯片網(wǎng)絡(luò)同時執(zhí)行多項計算或處理的海量計算工作。其中，GPU作為人工智能基礎(chǔ)設(shè)施的核心，擅長處理高性能并行計算工作，但其強大的處理能力也帶來了更高的能量輸入和熱量輸出。
以高端GPU為例，其功率密度約為CPU的四倍，這給數(shù)據(jù)中心規(guī)劃帶來了重大挑戰(zhàn)。現(xiàn)代AI數(shù)據(jù)中心所需的電源遠超傳統(tǒng)數(shù)據(jù)中心，即使是亞馬遜、微軟和Alphabet等巨頭的尖端超大規(guī)模數(shù)據(jù)中心，也主要由CPU驅(qū)動。Nvidia的A100 AI芯片功耗約為400W，而其最新微芯片H100的功耗更是高達700W，接近微波爐的功耗。若超大規(guī)模數(shù)據(jù)中心用這些GPU替換CPU服務(wù)器，所需功率將增加4-5倍，相當(dāng)于一座核電站的發(fā)電量。
功率密度的提升導(dǎo)致芯片產(chǎn)生的熱量顯著增加，對冷卻系統(tǒng)提出了更高要求。未來人工智能驅(qū)動的數(shù)據(jù)中心將需要進行全新設(shè)計，以適應(yīng)電力和冷卻的變革。業(yè)內(nèi)專家預(yù)測，我們正處于數(shù)據(jù)中心十年現(xiàn)代化升級的初期階段，旨在使其更加智能化。
為了應(yīng)對AI芯片的功耗和發(fā)熱問題，臺積電推出了3DVC（3D Vapor Chamber，三維均熱板）技術(shù)。這是一種針對高性能計算（HPC）和AI芯片的先進散熱解決方案，旨在解決先進制程芯片因集成度提升導(dǎo)致的功耗和發(fā)熱密度激增問題。3DVC通過立體化設(shè)計，在芯片封裝內(nèi)部直接集成多層微流體通道，利用相變傳熱原理快速導(dǎo)出熱量。
相比傳統(tǒng)散熱模組中熱管與VC均溫板的分離式設(shè)計，3D-VC散熱器通過將熱管延伸至VC均熱板本體中，實現(xiàn)了三維立體的熱傳導(dǎo)路徑。這使得3D-VC散熱器在應(yīng)對高功耗設(shè)備熱量時能夠接觸更多的發(fā)熱源，提供更多的散熱路徑，從而顯著提升散熱效果。
除了3DVC技術(shù)外，液冷也被認(rèn)為是高功率下唯一可行的解決方案。液冷的散熱效率遠高于空氣，水的效率約為空氣的3600倍。當(dāng)芯片面積每平方厘米的散熱量超過約50瓦時，通常需要采用液冷。直接芯片冷卻技術(shù)通過液體與芯片散熱器的冷板通道直接接觸來傳遞熱量，實現(xiàn)了高效散熱。
IBM采用了嵌入式微通道相變冷卻技術(shù)，將介電液直接泵入芯片堆疊的微觀間隙中，通過介電液從液相沸騰到氣相來帶走芯片的熱量。測試結(jié)果表明，該技術(shù)可將芯片結(jié)溫降低25℃。
英偉達在AI硬件領(lǐng)域也取得了顯著進展。其發(fā)布的Blackwell芯片標(biāo)志著AI硬件邁入了一個新紀(jì)元，為AI公司提供了前所未有的計算支持。基于Blackwell的AI算力以DGX GB200完整服務(wù)器形態(tài)提供給用戶，結(jié)合了36顆NVIDIA Grace CPU和72塊Blackwell GPU。為了支持GB200超級芯片的應(yīng)用，英偉達推出了全新的計算集群DGX GB200 SuperPod，采用了新型高效液冷機架規(guī)模架構(gòu)，能夠在FP4精度下提供驚人的算力和內(nèi)存容量。
DGX GB200 SuperPod通過第五代NVLink連接多個計算節(jié)點，實現(xiàn)了高速的數(shù)據(jù)傳輸和共享。例如，GB200 NVL72包含18個1U服務(wù)器，提供的FP8性能為720 petaflops，F(xiàn)P4計算性能為1440 petaflops，可處理多達27萬億個AI LLM參數(shù)模型。為了應(yīng)對功耗問題，NVIDIA采用了液冷MGX封裝和液冷機架級解決方案。
隨著AI技術(shù)的不斷發(fā)展，對AI芯片功耗和散熱問題的解決方案也將持續(xù)創(chuàng)新和完善。臺積電、IBM和英偉達等企業(yè)正在通過先進的技術(shù)手段，為AI芯片的散熱問題提供有效的解決方案，推動AI技術(shù)的廣泛應(yīng)用和發(fā)展。
