滴滴云A100 GPU裸金属服务器性能及硬件参数详解

滴滴云A100 GPU裸金属服务器（BMS）是基于NVIDIA A100 GPU推出的公有云裸金属服务器产品，NVIDIA A100 Tensor Core GPU基于最新的Ampere架构，相比上一代NVIDIA Tesla V100 GPU增加了许多新特性，在HPC、AI和数据分析领域都有更好的表现。嘻嘻伯伯来详细说下滴滴云GPU裸金属服务器A100硬件参数及性能详解：

滴滴云A100 GPU裸金属服务器

A100为NVIDIA最新发布的顶级GPU，滴滴云A100 GPU裸金属服务器（BMS）是基于NVIDIA A100 GPU推出的公有云裸金属服务器。NVIDIA A100 Tensor Core GPU基于最新的Ampere架构，相比上一代NVIDIA Tesla V100 GPU增加了了许多新特性，在HPC、AI和数据分析领域都有更好的表现。

滴滴云GPU服务器使用AI大师码1717购买GPU等产品享9折优惠。

滴滴云基于 A100 GPU 的产品包括裸金属服务器（BMS）、透传性 GPU 云服务器和 vGPU 云服务器产品，可用于深度学习训练/推理、视频处理、科学计算、图形图像处理等场景。目前基于 A100 GPU 的裸金属服务器产品开放测试，欢迎企业用户垂询。

A100 搭载了革命性的多实例 GPU（Multi-instance GPU 或 MIG）虚拟化与 GPU 切割能力，对云服务供应商（CSPs）更加友好。当配置为 MIG 运行状态时，A100 可以通过分出最多 7 个核心来帮助供应商提高 GPU 服务器的利用率，无需额外投入。A100 稳定的故障分离也能够让供应商安全的分割GPU。

A100 带有性能强劲的第三代 Tensor Core，支持更为丰富的 DL 和 HPC 数据类型，同时具有比 V100 更高的计算吞吐。 A100 新的稀疏（Sparsity）特性能够进一步让计算吞吐翻倍。新的 TensorFloat-32 (TF32) 核心运算单元让 A100 在 DL 框架和 HPC 中轻松加速以 FP32 作为输入/输出数据的运算，比 V100 FP32 FMA 操作快10倍，稀疏优化（sparse）下可以达到 20 倍。在 FP16/FP32 的混合精度下也能达到 V100 的 2.5 倍，稀疏优化后达 5 倍。新的 Bfloat16(BF16)/FP32 混合精度 Tensor Core 运算单元和 FP16/FP32 混合精度以相同的频率运行。Tensor Core 对 INT8，INT4 和 INT1 的加速为 DL 推理提供了全面支持，A100 sparse INT8 比 V100 INT8 快 20 倍。在 HPC 中，A100 Tensor 核心的 IEEE 兼容 FP64 处理让它的表现是 V100的 2.5 倍。

下图为A100 GPU支持的各种浮点数据类型位宽表示：

A100 硬件参数与前代GPU对比

A100与前代GPU CUDA Core/Tensor Core计算能力对比（单位：每时钟周期每 SM 乘累加次数）：

根据上述表格中的数字可以计算出A100峰值计算能力：