3月8日消息，IPU云端和服務器解決方案提供商Graphcore今日正式發(fā)布全新IPU系統(tǒng)產品——Bow系列。Bow Pod系統(tǒng)產品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計算機系統(tǒng)的核心。
值得注意的是，與上代產品相比，Bow Pod可為真實世界的AI應用提供高達40%的性能提升和16%的電源效率提升，但價格和前代相比保持不變。同時，與前一代產品100%軟件兼容，用戶在進行部署時無需更改現有代碼。
Bow Pod比前一代性能提升40% 能效提升16%
Bow Pod旨在為各種AI應用大規(guī)模提供真實世界的性能，從用于自然語言處理的GPT和BERT到用于計算機視覺的EfficientNet和ResNet，再到圖神經網絡和許多其他應用。
其中，Bow-2000 IPU Machine(以下簡稱Bow-2000)是整個Bow Pod系列的基礎組成部分。
Bow-2000 IPU Machine
Bow-2000采用了與Graphcore第二代IPU-M2000 machine同樣的系統(tǒng)架構，但配備的是四個Bow IPU處理器，可提供1.4 PetaFLOPS的AI計算。Bow-2000可以完全向后兼容現有的IPU-POD系統(tǒng)，其高速、低時延的IPU結構和靈活的1U外形尺寸保持不變。
Bow Pod系列
Bow-2000可安裝在戴爾、Atos、Supermicro、浪潮和聯想等領先品牌的主機服務器上，從而組成Bow Pod系統(tǒng)。整個Bow Pod系列包括Bow Pod16(4臺Bow-2000和一臺主機服務器)、Bow Pod32(8臺Bow-2000和一臺主機服務器)、Bow Pod64以及更大的旗艦系統(tǒng)Bow Pod256和Bow Pod1024。
Graphcore Pods在數據中心
以旗艦產品Bow Pod256為例，其提供超過89 PetaFLOPS的AI計算，而超大規(guī)模Bow Pod1024可提供350 PetaFLOPS的AI計算，支持機器學習工程師在AI模型規(guī)模呈指數增長的情況下仍可領先一步，在機器智能領域取得新的技術突破。
Graphcore提供的數據顯示，在性能方面，在與配有Bow Pod系統(tǒng)的Mk2 IPU-Pod系統(tǒng)相同的峰值功率范圍內，客戶發(fā)現各種AI應用的性能提升高達40%。
在CNN網絡、Vision Transformer的網絡以及深層次的文本到圖片的網絡模型訓練中，Bow Pod相比前一代產品性能都有30%多的提升，EfficientNet-B4網絡下性能提升可以達到39%。
同時，Bow Pod系統(tǒng)還可以大幅提高電源效率。經過一系列實際應用測試表明，Bow Pod的每瓦性能最高可提升16%。
對于最先進的計算機視覺模型EfficientNet，Bow Pod16性能比同類Nvidia DGX A100系統(tǒng)提升5倍以上，而價格只有一半，總體擁有成本優(yōu)勢提升高達10倍。
Bow IPU處理器黑科技：Wafer-on-Wafer創(chuàng)新技術
為何此次推出的全新一代IPU產品Bow Pod系列能有如此優(yōu)異的性能和能效表現呢?
Graphcore大中華區(qū)總裁兼全球首席營收官盧濤揭秘表示，作為Bow-2000、Bow Pod系統(tǒng)的核心，Bow IPU處理器采用了全球首項3D半導體技術，從而支持Bow Pod系統(tǒng)實現了巨大的性能提升和更高的電源效率。
據悉，Wafer-on-Wafer 3D技術由Graphcore與臺積電合作開發(fā)，并首次應用在IPU處理器上。Wafer-on-Wafer技術有潛力在硅片之間提供更高的帶寬，從而優(yōu)化電源效率，在晶圓級別提升Colossus架構的功率。
Bow IPU中的Wafer-on-Wafer，兩個晶圓結合在一起，產生一個新的3D裸片。其中一個晶圓用于AI處理，在架構上與GC200 IPU處理器兼容，擁有1472個獨立的IPU-Core tile，能夠運行超過8800個線程，具有900MB的處理器內存儲，而第二個晶圓擁有供電裸片。
通過在供電裸片中添加深溝槽電容器，位置在處理內核和存儲旁，我們能夠更高效地供電，從而實現350 TeraFLOPS的AI計算，實現40%的性能提升。
通過與臺積電緊密合作，Graphcore已充分驗證了整套技術，包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合鍵合中的多項突破性技術。
此外，Graphcore中國工程副總裁、AI算法科學家金琛補充表示，這些性能數據的提升，很大程度也歸功于Graphcore整個軟件棧Poplar SDK的生態(tài)系統(tǒng)。其中，自研的圖編譯器PopART等軟件的加持使得IPU產品在不同應用的性能上能夠得到廣泛和通用的提升。
目前，最新Bow Pod系統(tǒng)現已上市，和上一代產品相比，價格不變，目前已開始在全球范圍內發(fā)貨。
盧濤強調，Bow Pod系統(tǒng)上市的同時，針對IPU-M2000訂單的老用戶會推出一些優(yōu)惠方案，確保這些老客戶也可以獲得相似的每美元性能。
據悉，Graphcore的客戶已涵蓋實驗室、醫(yī)藥健康、保險、云計算、氣象分析預測、分子動力學、智慧城市、互聯網等諸多行業(yè)。金山云星曜產品(裸金屬服務器)系列的金山云IPU服務器就搭載了Graphcore IPU(智能處理器)及Poplar軟件棧。
未來計劃
Graphcore方面透露，正在開發(fā)一款可以用來超越人腦處理的超級智能機器，并將于2024年交付這臺全球首臺超級智能計算機——Good Computer(古德計算機)。
據介紹，這款超未來的智能計算機之所以被命名為Good，一方面是Graphcore致力于打造“好”的計算機，一方面是向計算機科學家先驅Jack Good(杰克·古德)致敬。
目前Graphcore正在開發(fā)新一代IPU技術，為這款Good Computer提供超過10 Exa-Flops的AI浮點計算;最高可達4PB的存儲，帶寬超過10PB/秒;支持超過500萬億參數的AI模型;3D Wafer-on-Wafer邏輯棧;同時獲得Poplar SDK的完全支持。
售價方面，這款Good Computer預計價格在100萬美元至1.5億美元。
