寒武纪和NVIDIA Tesla GPU系列P4、T4、P40以及V100参数性能对比

原创已于 2023-04-12 17:46:06 修改 · 2.5w 阅读

15 ·

CC 4.0 BY-SA版权

文章标签：

#云计算 #腾讯云 #阿里云

于 2021-01-08 14:51:20 首次发布

芯片专栏收录该内容

3 篇文章

订阅专栏

本文对比了NVIDIA Tesla系列的P4、T4、P40及V100 GPU的参数性能，这些GPU适用于高性能计算和深度学习。NVIDIA Tesla V100以其强大的125 teraflops推理性能和1 petaflop的计算能力脱颖而出。Tesla P40提供了双倍的专业图形性能，而T4则以高效的能源利用率和高密度服务器适配性吸引眼球。此外，还提到了NVIDIA A800作为A100的中国特供版，性能略有调整。

部署运行你感兴趣的模型镜像

关注、点赞、收藏是对我最大的支持，谢谢^v^

训练：寒武纪思元370、V100、P40、A100、A800、H100

推理：T4、P4

A800就是A100的中国特供版，计算性能基本没变，但数据带宽降低了，NV为了规避实体清单。

NVIDIA Tesla系列GPU适用于高性能计算（HPC）、深度学习等超大规模数据计算，Tesla系列GPU能够处理解析PB级的数据，速度比使用传统CPU快几个数量级，NVIDIA Tesla GPU系列P4、T4、P40以及V100是Tesla GPU系列的明星产品，云服务器吧分享NVIDIA Tesla GPU系列P4、T4、P40以及V100参数性能对比：

NVIDIA Tesla GPU系列P4、T4、P40以及V100、A100、A800

NVIDIA Tesla系列GPUP4、T4、P40以及V100性能规格参数对比表。
腾讯云提供基于NVIDIA Tesla GPU的计算型GPU云服务器，GPU实例规格包括GN6/GN6S/GN7/GN8/GN10X，参考：GPU云服务器详解 - 腾讯云

云服务器	寒武纪思元370	T4	V100	A100	H100	P4	P40
单精度性能 (FP32)		8.1 TFLOPS	15.7 TFLOPS	19.5 TFLOPS	67 TFLOPS	5.5 TFLOPS	12 TFLOPS
半精度性能 (FP16)		65 TFLOPS	125 TFLOPS	312 TFLOPS		—	—
整数运算能力 (INT8)	256 TOPS	130 TOPS	—	624 TFLOPS		22 TOPS*	47 TOPS*
整数运算能力 (INT4)		260 TOPS	—			—	—
GPU 显存		16GB	32/16GB HBM2			8GB	24GB
显存带宽		320GB/秒	900GB/秒			192GB/秒	346GB/秒
系统接口/外形规格		PCI Express 半高外形	PCI Express 双插槽全高外形 SXM2/NVLink			PCI Express 半高外形	PCI Express 双插槽全高外形
功率		70 W	250 W (PCIe) 300 W (SXM2)			50 W/75 W	250 W
硬件加速视频引擎		1 个解码引擎，2 个编码引擎	—			1 个解码引擎，2 个编码引擎	1 个解码引擎，2 个编码引擎

关于NVIDIA TESLA系列GPU详细介绍如下：

NVIDIA TESLA V100

NVIDIA Tesla V100采用NVIDIA Volta架构，非常适合为要求极为苛刻的双精度计算工作流程提供加速，并且还是从P100升级的理想路径。该GPU的渲染性能比Tesla P100提升了高达80%，借此可缩短设计周期和上市时间。

Tesla V100的每个GPU均可提供125 teraflops的推理性能，配有8块Tesla V100的单个服务器可实现1 petaflop的计算性能。

NVIDIA TESLA P40

The Tesla P40能够提供高达2倍的专业图形性能。Tesla P40能够对组织中每个vGPU虚拟化加速图形和计算（NVIDIA CUDA® 和 OpenCL）工作负载。支持多种行业标准的2U服务器。

Tesla P40可提供出色的推理性能、INT8精度和24GB板载内存。

NVIDIA TESLA T4

NVIDIA Tesla T4的帧缓存高达P4的2倍，性能高达M60的2倍，对于利用NVIDIA Quadro vDWS软件开启高端3D设计和工程工作流程的用户而言，不失为一种理想的解决方案。凭借单插槽、半高外形特性以及低至70瓦的功耗，Tesla T4堪称为每个服务器节点实现最大GPU密度的绝佳之选。