RTX 3090 与 Tesla P40与 Tesla M40 深度学习训练速度比较

原创 已于 2022-03-24 18:09:55 修改 · 4.6w 阅读 · 33 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python #pytorch #深度学习 #速度比较

于 2022-03-24 18:08:12 首次发布
这篇博客对比了RTX3090、Tesla P40和Tesla M40在训练StyleGan模型时的速度。在不使用混合精度的情况下，RTX3090训练1000次耗时107秒，而Tesla P40和M40分别为245秒和346秒。尽管M40性价比较高，但能耗方面可能不尽人意。

最近多了两张卡，一张P40，一张M40，都是24G显存版本，均为主动散热改装版，测试下训练速度。

训练StyleGan类对抗生成模型，占用显存15G。核心100%满载。
没有使用混合精度加速技巧。

平均下来，每训练1000次
RTX 3090，耗时约 107 秒
Tesla P40，耗时约 245 秒
Tesla M40，耗时约 346 秒

时间比为
RTX 3090 为 1X
Tesla P40 为 2.3X
Tesla M40 为 3.2X

与它们的价格比较
M40性价比很高。

不过耗电嘛，见仁见智了。

A100 A800 V100s 4090 3090 p40 t4,性能最好的GPU以及最贵的GPU
ZJQ的博客
07-31 6334
A100是英伟达（NVIDIA）在2020年推出的一款基于Ampere架构的数据中心GPU，主要用于高性能计算和人工智能（AI）应用。
Nvidia GPU 教程之基于Tesla P40 上的自然语言处理
iCloudEnd的博客
10-08 3238
自然语言处理 (NLP) 是计算机科学的一个子领域，涉及人类与计算机之间的交互，使用自然人类语言。它是语言学和人工智能 (AI) 的一个子领域，提供了直到几年前我们才具备的潜力。GPT-J-6B 是一个拥有 60 亿参数的 NLP 大型模型，由 EleutherAI [1] 构建并通过 Hugging Face 社区开源。[2]该模型具有令人印象深刻的能力、创造力和预测能力。然而，加载像 GPT-J-6B 这样的大型 NLP 模型需要具有挑战性的硬件设置，并且至少需要有关其内部结构和推理方法的基本知识。
p40 3090_RTX 3090显卡实拍照曝光/3060至3090显卡售价曝光
weixin_39740346的博客
10-26 606
RTX 3090显卡实拍照曝光：比2080显卡尺寸大不少据外媒WCCF Tech报道，有推主曝光了RTX 3090显卡的实拍照，从照片上看这张显卡的尺寸和厚度也都相当“够意思”。推主@GarnetSunet在推特上晒出了两张英伟达GeForce RTX 3090显卡实拍。推主把RTX 3090和2080显卡放在一起对比，可以看到RTX 3090比2080的尺寸要大上不少；这位推主还表示，...
【GPU训练显卡对比】H100/H200/RTX 4090/5090/A100/MI300X
最新发布
分享技术干货，聚焦AI前沿科技
11-06 1481
【GPU训练显卡对比】H100/H200/RTX 4090/5090/A100/MI300X
请以 A100 在FP16精度进行训练情况下为基准，对比 H200、H100、A100、H800 和 A6000等显卡综合性能
专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化
04-01 2504
以下是关于 H200、H100、A100、H800 和 A6000 GPU 在 FP16 精度下训练和推理 Llama 70B 模型速度的详细对比，以 A100 为基准（速度设为 1x）。Llama 70B 模型在 FP16 下约需 140 GB 内存（包括权重和激活），H200 的 141 GB 内存可能完全容纳，而其他 GPU 可能需要分布式训练，影响效率。考虑到内存限制，H200 的 141 GB 内存可能完全容纳模型，而 H100 和 A100（80 GB）可能需要分布式训练，增加通信开销。
大模型训练：单卡GPU与多卡GPU效率对比
qq_38744288的博客
08-25 739
gpu云服务器租用,闪电云算力,gpu算力租用,3090租用,4090租用,算力平台,免费算力平台,渲染服务器,深度学习服务器,人工智能,AI绘画,AI数字人,AI视频,大语言模型,全面覆盖大模型,AIGC,元宇宙,渲染测绘
p40 3090_PC《看门狗：军团》3090无法驾驭最高画质/4K+60帧
weixin_39724266的博客
10-28 221
　　近日，油管主“RajmanGaming HD”发布了对《看门狗：军团》PC版内置跑分工具的测试视频。这名玩家使用RTX 3090+i9 10900k配置测试，不过这款售价1500美元的显卡仍然无法在4K/最高画质下稳定60帧运行这款开放世界游戏。顺便说一下，这还是没有开启光追特效的情况下。【游侠网】《看门狗：军团》RTX 3090测试　　通过视频，可以看到《看门狗：军团》内置的Benchmar...
P40 M40魔改问题集锦+温控散热方案【文末】
爱在深秋
03-01 8555
tesla魔改引发的问题
RTX 3090，Tesla P40，Tesla M40，
06-06
RTX 3090，Tesla P40和Tesla M40都是NVIDIA的显卡产品。 RTX 3090是NVIDIA推出的一款高端显卡，采用Ampere架构，配备了10496个CUDA核心、328个纹理单元、112个光线追踪加速器和328个张量核心，具有强大的计算和图形...
3500元组装一台 AI 深度学习服务器？
Ai.den
05-10 1155
在2024年11月的汽车保养期间，作者在休息室偶遇一位资深基建工程师，后者因行业困境转向投资AI科技公司，激发作者对AI领域的深入思考。尽管作者已在日常工作中使用AI工具，但对AI原理知之甚少，决定通过实践入门AI，特别是通过低成本组装AI深度学习服务器。作者详细介绍了选择主板和显卡的过程，强调了根据个人需求进行选择的重要性，而不是盲目跟风。最终，作者选择了一块二手工作站级别的主板和四张Tesla M40显卡，总计投入不超过1000元，为未来的AI学习和实践打下基础。这一过程不仅锻炼了作者的硬件组装能力，也
Your GPU Compute Capability计算能力
qq_35818865的博客
07-21 2300
由于nvidia官网经常卡顿，所以把计算能力列在这里，方便查看。（注意区分桌面端显卡和移动端显卡）
DeepSeek 部署过程中的问题
一个专注于机器学习基础与实战的技术博客，内容涵盖算法推导、模型实现、数学原理与代码实践。用通俗的语言解析复杂概念，记录学习过程中的思考与总结，适合机器学习爱好者和从业者参考。
02-06 3974
使用它生成内容时，会发现CPU被严重占用，这里我是使用 wsl 布置的 docker 容器，并且在容器中运行大模型。因此，ollama 其默认并没有使用 GPU 来运行 Deepseek，其是使用 CPU，来运行。这可能是因为 ollama 模型本身的问题：ollama 的速度还不错，但受限于本地硬件配置。中，我们使用Windows直接部署ollama，当然我们也可以使用docker来进行ollama的部署。发现 CPU 被调用了 82% ，但是 GPU 被调用了，但是调用的不多，虽然才 31%。
p40 3090_华为官方剧透P40重磅卖点！
weixin_39564831的博客
11-08 165
继华为余承东首曝P40系列之后，华为官方今日正式婉转曝光了P40系列新机一个重磅卖点——配备石墨烯电池。外媒今天发布了一篇关于P40系列的爆料文章，在文章中该媒体称华为将会在P40系列上使用石墨烯电池，电池容量为5000mAh，支持50W超级快充，45分钟即可充满。随后，这篇文章被华为发过官方推特转发，并评论道：华为将会是第一个发布配备石墨烯电池的高端智能手机制造商，石墨烯电池将带来更...
p40 3090_买前必看 华为P40发布会上这些细节没告诉你
weixin_39996750的博客
10-23 194
不知朋友们26号晚上有没有守在电脑前看华为P40系列全球发布会呢？要说此次P40系列最令人惊讶的想不到的地方就要数三机齐发了，华为一下为我们带来了华为P40，华为P40 Pro和华为P40 Pro +三款新品，被有才的网友们称为“中杯，大杯，超大杯”。华为P40系列共推出三款新品如果没记错，这是华为P系列自产生以来首次首次连推三款产品，这让作为普通消费者的我们拥有更的选择的同时，也显示华...
lgg7深度详细参数_深度学习显卡参数详细对比
weixin_39886956的博客
11-21 2210
这里，我们列出了英伟达近年来各种适合深度学习的显卡的详细参数，并作出一些说明，方便大家根据自己的需求挑选适合自己的显卡。直接上图（小编整理了好半天）。怎么看这张图呢，主要看几个关键的性能指标。1. 单精度浮点数运算速度单精度浮点数，也就是FP32，tensorflow里面的tf.float32，是我们最常用的数据精度，也是各个深度学习框架默认的数据精度。可以看出，在这项性能指标上，各个显卡的差距都...
NVIDIA Tesla GPU系列P4、T4、P40以及V100参数性能对比
张伟的专栏
07-24 2万+
NVIDIA Tesla V100采用NVIDIA Volta架构，非常适合为要求极为苛刻的双精度计算工作流程提供加速，并且还是从P100升级的理想路径。该GPU的渲染性能比Tesla P100提升了高达80%，借此可缩短设计周期和上市时间。Tesla V100的每个GPU均可提供125 teraflops的推理性能，配有8块Tesla V100的单个服务器可实现1 petaflop的计算性能。正式购买之前，推荐先领取代金券再购买阿里云官方云小站），可帮助我们进一步降低购买成本。
Tensorflow与keras学习 (9)——TensorFlow的RTX 2080 Ti深度学习训练基准
AI知识搬运工
04-27 1742
TensorFlow的RTX 2080 Ti深度学习基准-2020年 在本文中，Lambda讨论了RTX 2080 Ti与其他GPU相比的深度学习性能。我们使用RTX 2080 Ti来训练ResNet-50，ResNet-152，Inception v3，Inception v4，VGG-16，AlexNet和SSD300。我们在训练每个网络时测量每秒处理的图像数。 一些注意事项： 我们使用TensorFlow 1.12 / CUDA 10.0.130 / cuDNN 7.4.1 单GP...
深度学习常用显卡比较
热门推荐
studyeboy的专栏
03-10 4万+
Titan RTX深度学习评测结果 NVIDIA TITAN RTX 专为数据科学、AI 研究、内容创作和通用 GPU 开发而构建。它基于 Turing 架构搭建，具有 4608 个 CUDA 核心、576 个用于加速 AI 的全速混合精度 Tensor Core 核心和 72 个用于加速光线追踪的 RT 核心。TITAN RTX 还包含 24 GB GPU 显存，支持使用大批量样本训练神经网络、处理大型数据集，并适用于大型动画模型和其他占用大量内存的工作流程。 AI硬件供应商Lambda Labs对Tit
GPU型号简介
caoyongsheng的博客
11-07 3486
¶型号显存单精(FP32)半精(FP16)详细参数说明Tesla P4024GB11.76 T11.76 T查看比较老的Pascal架构GPU，对于cuda11.x之前且对大显存有需求的算法是非常不错的选择TITAN Xp12GB12.15 T12.15 T查看比较老的Pascal架构GPU，用作入门比较合适1080 Ti11GB11.34 T11.34 T查看和TITANXp同时代的卡，同样适合入门，但是11GB的显存偶尔会比较尴尬2080Ti11GB。
评论 20
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值