騰訊科技訊 8月9日消息，美國當地時間周二晚間，英偉達創始人兼首席執行官黃仁勛在2023年度計算機圖形學大會（SIGGRAPH）上發表演講，討論該公司最新的人工智能和3D圖形領域的創新。
演講中，黃仁勛發布了用于生成式 AI 的 GH200 Grace Hopper 超級芯片、桌面AI工作站GPU系列、NVIDIA AI Workbench 以及通過生成式 AI 和 OpenUSD 升級的 NVIDIA Omniverse。
據估計，目前英偉達在AI芯片市場占據了超過80%的市場份額。該公司的專長是圖形處理單元（GPU），已成為支撐生成式人工智能軟件（如谷歌的Bard和OpenAI的ChatGPT）的大型AI模型的首選芯片。但由于科技巨頭、云服務提供商和初創企業爭奪GPU容量來開發自己的AI模型，英偉達的芯片供應短缺。
英偉達最強AI超算再升級
英偉達最新發布的芯片GH200，與該公司目前最高端的AI芯片H100采用相同的GPU。但GH200還配備了141GB的尖端內存和一個72核的ARM中央處理器。
相比前代平臺，新GH200 Grace Hopper平臺的雙芯片配置將內存容量提高3.5倍，帶寬增加三倍，一個服務器就有144個Arm Neoverse高性能內核、8 petaflops 的 AI 性能和282GB的最新HBM3e內存技術。
HBM3e是一種高帶寬內存，帶寬達每秒5TB。該內存比當前的HBM3快50%，可提供總共每秒10TB的組合帶寬，使新平臺能運行比前代大3.5倍的模型，同時通過快三倍的內存帶寬提高性能。
英偉達CEO黃仁勛在周二的演講中表示：“我們給這個處理器加了一些提升。”他補充說：“這個處理器是為全球數據中心的規模而設計的。”
據黃仁勛透露，這款新芯片將于明年第二季度在英偉達的經銷商處上市，并計劃在年底前提供樣品。英偉達的代表拒絕透露價格。
通常，處理AI模型的過程至少分為兩個部分：訓練和推理。
首先，使用大量數據對模型進行訓練，這個過程可能需要數月時間，有時需要數千個GPU，例如英偉達的H100和A100芯片。
然后，該模型將在軟件中用于進行預測或生成內容，這個過程稱為推理。與訓練類似，推理需要大量的計算資源，并且每次軟件運行時都需要大量的處理能力，例如生成文本或圖像時。但與訓練不同，推理是幾乎持續進行的，而訓練只在需要更新模型時才需要進行。
黃仁勛表示：“你可以將幾乎任何大型語言模型放入其中，它將進行瘋狂的推理。大型語言模型的推理成本將大幅降低。”
英偉達的新芯片GH200專為推理而設計，因為它具有更大的內存容量，可以容納更大的AI模型在單個系統中。英偉達副總裁伊恩·巴克在與分析師和記者的電話會議上表示，英偉達的H100具有80GB的內存，而新的GH200則有141GB的內存。英偉達還宣布推出了一種將兩個GH200芯片組合到一臺計算機中的系統，以支持更大的模型。
巴克表示：“更大的內存使得模型可以常駐在單個GPU上，而不需要多個系統或多個GPU來運行。”
此次宣布正值英偉達的主要GPU競爭對手AMD推出面向AI的芯片MI300X，該芯片支持192GB的內存，并被市場推廣為適用于AI推理。谷歌和亞馬遜等公司也正在設計自己的定制AI芯片用于推理。
RTX工作站：4款顯卡齊上新
除了GH200，英偉達的桌面AI工作站GPU系列也全面上新，一口氣推出了4款新品：RTX 6000、RTX 5000、RTX 4500和RTX 4000。針對企業客戶，英偉達還準備一套一站式解決方案—— RTX Workstation，支持最多4張RTX 6000 GPU。
作為旗艦級專業卡，RTX 6000的性能參數毫無疑問是4款新品中最強的。
憑借著48GB的顯存，18176個CUDA核心，568個Tensor核心，142個RT核心，和高達960GB/s的帶寬，它可謂是一騎絕塵。
基于新發布的4張新的GPU，針對企業客戶，老黃還準備一套一站式解決方案—— RTX Workstation。
支持最多4張RTX 6000 GPU，可以在15小時內完成8.6億token的GPT3-40B的微調。
還能讓Stable Diffusion XL每分鐘生成40張圖片，比4090快5倍。
OVX服務器：搭載L40S，性能小勝A100
針對數據中心市場，英偉達推出了最多可搭載8張L40S GPU的OVX服務器。據介紹，對于具有數十億參數和多種模態的生成式AI工作負載，L40S相較于老前輩A100可實現高達1.2倍的推理性能提升，以及高達1.7倍的訓練性能提升。
AI Workbench：加速定制生成式AI應用
除了各種強大的硬件之外，英偉達還發布了全新的AI Workbench，來幫助開發和部署生成式AI模型。AI Workbench為開發者提供了一個統一且易于使用的工具包，能夠快速在PC或工作站上創建、測試和微調模型，并擴展到幾乎任何數據中心、公有云或英偉達的云服務DGX Cloud上。
具體而言，AI Workbench具備易于使用、集成AI開發工具和存儲庫、增強協作、訪問加速計算資源等優勢。
五年前悄然押注AI獲得豐厚回報
黃仁勛表示，英偉達在2018年做出了一個攸關公司生死存亡的商業決定，但卻很少有人意識到這個決定將對英偉達乃至整個半導體行業的重大意義。當然，這一押注為英偉達帶來了豐厚的回報，但黃仁勛表示，這只是人工智能驅動的未來的開端，一個主要由英偉達硬件驅動的未來。
黃仁勛回憶說，五年前的分水嶺時刻是選擇采用以光線追蹤（RTX）還是智能升級（DLSS）形式的人工智能圖像處理方案。“我們意識到柵格化正在達到極限，”他說，他指的是傳統的、被廣泛使用的3D場景渲染方法。“2018年是一個‘押注公司’的時刻。這需要我們重新發明硬件、軟件和算法。在我們用人工智能重塑CG的同時，我們也在為人工智能重塑GPU。”
雖然光線跟蹤和DLSS仍在消費者GPU和游戲多樣化等領域被采用，但他們為實現它而創建的架構卻是不斷增長的機器學習開發社區的完美合作伙伴。
訓練越來越大的生成式模型所需的大量計算，不再由某些具有GPU功能的傳統數據中心提供，而是從一開始就設計用于執行必要大規模操作的系統支持，如H100。公平地說，人工智能的發展在某些方面只是受到這些計算資源可用性的限制。英偉達從人工智能熱潮中受益，其服務器和工作站的銷量始終處于供不應求的狀態。
但黃仁勛堅稱，這只是個開始。新的模型不僅需要訓練，還需要數百萬甚至數十億用戶的實時運行支持。他說：“大語言模型在未來幾乎處于一切事物的前沿：從視覺效果到快速數字化的制造市場、工廠設計和重工業，一切都將在某種程度上采用自然語言界面。整個工廠將由軟件控制的機器人操控，他們將制造的汽車本身也將是機器人。所以這是機器人設計機器人，并負責建造機器人。”
有些人可能不同意黃仁勛的觀點，這雖然看似合理，但碰巧也非常有利于英偉達的利益。
但是，盡管我們對大語言模型的依賴程度尚不確定，但很少有人敢說不使用它們，甚至對誰將使用它，以及在什么情況下需要在新的計算資源上進行重大投資方面也是如此。
在以CPU為核心的機架等上一代計算資源上投資數百萬美元已經沒有意義，因為像GH200這樣的硬件，可以用不到十分之一的成本和電力需求來完成同樣的工作。GH200是英偉達新推出的、專用于數據中心的人工智能開發硬件。
黃仁勛還播放了一段視頻，展示了由多個Grace Hopper計算單元組成的樂高積木般的組件，它們先是組成了刀片，然后是機架，最后是成排的GH200，所有這些計算單元都被高速連接在一起，成為“世界上最大的單個GPU”，它擁有完整的ML專業計算能力。
黃仁勛提出，這些將成為未來人工智能主導的數字行業的基本單位。他說：“我不知道是誰說的，但你買的越多，省的錢就越多。如果我能讓你們記住我今天演講中的一件事，那就是它了。”
黃仁勛在演講中沒有提到人工智能面臨的諸多挑戰、監管，也沒有談到人工智能的整體概念在發生變化， 就像它在去年已經多次經歷過的那樣。當然，這是一種樂觀的世界觀，就像在淘金熱期間出售鎬和鏟子等工具的商人，他們同樣賺得盆滿缽滿。
延展閱讀：
在發布這新GPU的時候，現場還出現了一個意外的小花絮。老黃從后臺拿出第一塊GPU的時候，似乎不小心在鏡面面板上沾了指紋。老黃發現后很不好意思地和現場觀眾說對不起，如此可愛的老黃，也惹得在場觀眾不斷發笑，點擊閱讀更多發布會細節：老黃深夜炸場，AIGC進入iphone時刻，神秘顯卡勝過A100
黃仁勛依然不改金牌銷售的風格，英偉達“核彈工廠”上線，更多關于OpenUSD 升級的 NVIDIA Omniverse信息可參閱：黃仁勛：「核彈工廠」即將上線，要讓所有人用上生成式 AI
