描述

產(chǎn)品描述

GH200 NVIDIA超級服務器是一款尖端服務器，旨在滿足高性能計算的苛刻要求。憑借其強大的NVIDIA GPU，它為人工智能、深度學習、科學研究和數(shù)據(jù)分析任務提供了卓越的性能和速度。該服務器提供了一系列配置選項，以滿足各種工作負載強度，并且可以輕松擴展以滿足日益增長的計算需求。其先進的冷卻系統(tǒng)即使在繁重的工作負載下也能確保最佳的工作溫度。GH200具有穩(wěn)健可靠的設計，是尋求卓越計算能力的組織的完美選擇。

特征

強大的NVIDIA GPU加速

高性能計算能力

先進的冷卻系統(tǒng)可實現(xiàn)最佳性能

可擴展存儲和內(nèi)存選項

穩(wěn)健可靠的設計

GH200 NVIDIA超級服務器是一款用于高性能計算和數(shù)據(jù)處理的尖端解決方案。憑借其強大的NVIDIA GPU，它為要求苛刻的計算任務和數(shù)據(jù)密集型應用程序提供了卓越的性能。該服務器旨在提供高速處理能力，從而實現(xiàn)高效的數(shù)據(jù)分析和模型訓練。憑借其可擴展和靈活的配置選項，它可以進行定制，以滿足各種行業(yè)和應用程序的特定要求。

全新的AI超級計算機將256個NVIDIA Grace Hopper?超級芯片完全連接到一個單一的GPU中，從而在AI時代開啟了巨大的潛力。NVIDIA DGX?GH200旨在處理用于大規(guī)模推薦系統(tǒng)、生成式AI和圖形分析的TB級模型，提供144TB的共享內(nèi)存，為巨型AI模型提供線性擴展能力。

通過NVLink、NVSwitch和NVLink Switch系統(tǒng)實現(xiàn)可擴展互連

DGX GH200通過在每個采用NVLink Switch系統(tǒng)的Grace Hopper超級芯片之間擴展NVIDIA?NVLink?，從而擴展到256個GPU。

NVIDIA DGX GH200的超大共享內(nèi)存空間通過NVLink互連技術以及NVLink Switch System使256個GH200超級芯片相連，使它們能夠作為單個GPU運行。其提供1 exaflop的性能和144 TB的共享內(nèi)存——相較2020年推出的上一代NVIDIA DGX A100內(nèi)存大了近500倍。

GH200超級芯片使用NVIDIA NVLink-C2C芯片互連，將基于Arm的NVIDIA Grace?CPU與NVIDIA H100 Tensor Core GPU整合在一起，從而不再需要傳統(tǒng)的CPU至GPU PCIe連接。與最新的PCIe技術相比，這將GPU和CPU之間的帶寬提高了7倍，將互連功耗減少了5倍以上，并為DGX GH200超級計算機提供了一個600GB的Hopper架構GPU構建模塊。

DGX GH200是第一款將Grace Hopper超級芯片與NVIDIA NVLink Switch System配對使用的超級計算機，這種新的互連方式使DGX GH200系統(tǒng)中的所有GPU作為一個整體協(xié)同運行。上一代系統(tǒng)在不影響性能的前提下只能通過NVLink把8個GPU整合成一個GPU。

DGX GH200架構相比上一代將NVLink帶寬提升了48倍以上，實現(xiàn)在單個GPU上通過簡單編程即可提供大型AI超級計算機的能力。

為巨型模型提供大內(nèi)存

NVIDIA DGX GH200是唯一一款在256個NVIDIA Grace Hopper超級芯片GPU上提供144TB超大共享內(nèi)存空間的AI超級計算機，為開發(fā)者提供了近500倍的內(nèi)存以構建巨型模型

超高能效計算

Grace Hopper超級芯片將NVIDIA Grace?CPU與NVIDIA Hopper?GPU結合在同一封裝上，從而消除了對傳統(tǒng)PCIe CPU至GPU連接的需求，可將帶寬提高7倍，并將互聯(lián)功耗降低5倍以上。

集成且隨時可以運行

借助一站式DGX GH200部署，只需數(shù)周（而非數(shù)月）即可構建大型模型。此全堆棧數(shù)據(jù)中心級解決方案包括軟件以及白手套服務從設計到部署，從而加快AI投資回報率。

應用領域

GH200 NVIDIA超級服務器廣泛應用于人工智能、深度學習、科學研究、數(shù)據(jù)分析、機器學習等領域。

美國出臺了對華半導體出口限制新規(guī)，其中就包括了對于高性能計算芯片對中國大陸的出口限制。并且以NVIDIA的A100芯片的性能指標作為限制標準。即同時滿足以下兩個條件的即為受管制的高性能計算芯片：

（1）芯片的I/O帶寬傳輸速率大于或等于600 Gbyte/s；

（2）“數(shù)字處理單元原始計算單元”每次操作的比特長度乘以TOPS計算出的的算力之和大于或等于4800TOPS。這也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片無法對華出口。