描述

產(chǎn)品描述

A100 NVIDIA Supermicro NV服務(wù)器是一款功能強(qiáng)大的服務(wù)器，專為高性能計(jì)算和數(shù)據(jù)密集型應(yīng)用而設(shè)計(jì)。它配備了最新的A100 GPU，為人工智能、機(jī)器學(xué)習(xí)和科學(xué)計(jì)算工作負(fù)載提供了卓越的性能和效率。

特征

用于加速計(jì)算的A100 GPU架構(gòu)

用于大規(guī)模數(shù)據(jù)處理的高內(nèi)存帶寬和容量

先進(jìn)的冷卻系統(tǒng)可優(yōu)化性能和可靠性

靈活的配置選項(xiàng)可滿足不同的工作負(fù)載要求

NVIDIA A100 Tensor Core GPU可針對(duì)AI、數(shù)據(jù)分析和HPC應(yīng)用場(chǎng)景，在不同規(guī)模下實(shí)現(xiàn)出色的加速，有效助力更高性能的彈性數(shù)據(jù)中心。A100采用NVIDIA Ampere架構(gòu)，是NVIDIA數(shù)據(jù)中心平臺(tái)的引擎。A100的性能比上一代產(chǎn)品提升高達(dá)20倍，并可劃分為七個(gè)GPU實(shí)例，以根據(jù)變化的需求進(jìn)行動(dòng)態(tài)調(diào)整。A100提供40GB和80GB顯存兩種版本，A100 80GB將GPU顯存增加了一倍，并提供超快速的顯存帶寬（每秒超過(guò)2萬(wàn)億字節(jié)[TB/s]），可處理超大型模型和數(shù)據(jù)集。

NVIDIA A100 Tensor Core借助Tensor浮點(diǎn)運(yùn)算(TF32)精度，可提供比NVIDIA Volta高20倍之多的性能，并且無(wú)需更改代碼；若使用自動(dòng)混合精度和FP16，性能可進(jìn)一步提升2倍。與NVIDIA?NVLink?、NVIDIA NVSwitch?、PCIe 4.0、NVIDIA?InfiniBand?和NVIDIA Magnum IO?SDK結(jié)合使用時(shí)，它能擴(kuò)展到數(shù)千個(gè)A100 GPU。

2048個(gè)A100 GPU可在一分鐘內(nèi)成規(guī)模地處理BERT之類的訓(xùn)練工作負(fù)載，這是非?？焖俚慕鉀Q問(wèn)題速度。

對(duì)于具有龐大數(shù)據(jù)表的超大型模型（例如深度學(xué)習(xí)推薦模型[DLRM]），A100 80GB可為每個(gè)節(jié)點(diǎn)提供高達(dá)1.3TB的統(tǒng)一顯存，而且吞吐量比A100 40GB多高達(dá)3倍。

NVIDIA A100采用雙精度Tensor Core，實(shí)現(xiàn)了自GPU推出以來(lái)高性能計(jì)算性能的巨大飛躍。結(jié)合80GB的超快GPU顯存，研究人員可以在A100上將10小時(shí)雙精度仿真縮短到4小時(shí)以內(nèi)。HPC應(yīng)用還可以利用TF32將單精度、密集矩陣乘法運(yùn)算的吞吐量提高高達(dá)10倍。

對(duì)于具有超大數(shù)據(jù)集的高性能計(jì)算應(yīng)用，顯存容量增加的A100 80GB可在運(yùn)行材料仿真Quantum Espresso時(shí)將吞吐量提升高達(dá)2倍。極大的顯存容量和超快速的顯存帶寬使A100 80GB非常適合用作新一代工作負(fù)載的平臺(tái)。

搭載A100的加速服務(wù)器可以提供必要的計(jì)算能力，并能利用大容量顯存、超過(guò)2 TB/s的顯存帶寬以及通過(guò)NVIDIA?NVLink?和NVSwitch?實(shí)現(xiàn)的可擴(kuò)展性，處理這些工作負(fù)載。通過(guò)結(jié)合InfiniBand、NVIDIA Magnum IO?和RAPIDS?開(kāi)源庫(kù)套件（包括用于執(zhí)行GPU加速的數(shù)據(jù)分析的RAPIDS Accelerator for Apache Spark），NVIDIA數(shù)據(jù)中心平臺(tái)能夠加速這些大型工作負(fù)載，并實(shí)現(xiàn)超高的性能和效率水平。

在大數(shù)據(jù)分析基準(zhǔn)測(cè)試中，A100 80GB提供的見(jiàn)解吞吐量比A100 40GB高兩倍，因此非常適合處理數(shù)據(jù)集大小急增的新型工作負(fù)載。

A100結(jié)合MIG技術(shù)可以更大限度地提高GPU加速的基礎(chǔ)設(shè)施的利用率。借助MIG，A100 GPU可劃分為多達(dá)7個(gè)獨(dú)立實(shí)例，讓多個(gè)用戶都能使用GPU加速功能。借助A100 40GB，每個(gè)MIG實(shí)例可分配多達(dá)5GB，而隨著A100 80GB顯存容量的增加，此大小可翻倍至10GB。

MIG與Kubernetes、容器和基于服務(wù)器虛擬化平臺(tái)的服務(wù)器虛擬化配合使用。MIG可讓基礎(chǔ)設(shè)施管理者為每項(xiàng)作業(yè)提供大小合適的GPU，同時(shí)確保服務(wù)質(zhì)量(QoS)，從而擴(kuò)大加速計(jì)算資源的影響范圍，以覆蓋每位用戶。

應(yīng)用領(lǐng)域

A100 NVIDIA Supermicro NV服務(wù)器非常適合各種應(yīng)用，包括：深度學(xué)習(xí)和AI模型訓(xùn)練、高性能計(jì)算（HPC）、科學(xué)模擬和研究、數(shù)據(jù)分析和可視化、虛擬化和云計(jì)算等。

美國(guó)出臺(tái)了對(duì)華半導(dǎo)體出口限制新規(guī)，其中就包括了對(duì)于高性能計(jì)算芯片對(duì)中國(guó)大陸的出口限制。并且以NVIDIA的A100芯片的性能指標(biāo)作為限制標(biāo)準(zhǔn)。即同時(shí)滿足以下兩個(gè)條件的即為受管制的高性能計(jì)算芯片：

（1）芯片的I/O帶寬傳輸速率大于或等于600 Gbyte/s；

（2）“數(shù)字處理單元原始計(jì)算單元”每次操作的比特長(zhǎng)度乘以TOPS計(jì)算出的的算力之和大于或等于4800TOPS。這也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片無(wú)法對(duì)華出口。