显卡配置选型:
1.GPU显存与内存是一个1:4的配比:
比如说我们上了2张3090显卡叠加显存是48GB(每张24G显),那机器的内存建议上到192GB。(48*4=192GB),预算有限的话稍微降低一点也是可以的。
2.内存通道:(这个其实差不多就好,因为内存通道是主板决定的,有很多主板就是只有2个内存通道,可不作为重要点考虑)
比如说我们现在需要128GB内存,按照我们常规操作,我们一般会上两根64GB的内存上去就ok了。但是呢我们其实建议是上四根32GB的。好处就是:
2.1.能够带来更多的内存通道。
2.2.就是为了保证双路机器上的内存故障是不会影响使用一颗cpu的运行。
3.硬盘(视情况而定,一般组内而言,在服务器上面的存储数据不会太多,正常原机器配置可以满足)
4.显卡的选型:
最重要的参数
针对不同深度学习架构,GPU参数的选择优先级是不一样的,总体来说分两条路线:
卷积网络和Transformer**:张量核心>FLOPs(每秒浮点运算次数)>显存带宽>16位浮点计算能力
循环神经网络:显存带宽>16位浮点计算能力>张量核心>FLOPs
博客围绕深度学习的显卡配置选型展开。提到GPU显存与内存建议1:4配比,如2张3090叠加显存48GB,内存建议192GB。内存通道方面,推荐用四根32GB内存而非两根64GB。硬盘一般原配置可满足。还给出不同深度学习架构下GPU参数选择优先级。
7639

被折叠的 条评论
为什么被折叠?



