大模型预训练与微调,对显卡的显存要求高,显存是决定模型能不能跑的关键因素,因此,挑选显卡时优先考虑显存问题;其次再考虑单精度等性能问题
目前常用的显卡包括A6000 48G、L20 48G、L40 48G、6000Ada 48G,A100 80G等等.目前有一款常被大家忽略的显卡突围而出,5880Ada 48G
推荐一款8卡5880Ada 服务器供参考
大模型预训练与微调,对显卡的显存要求高,显存是决定模型能不能跑的关键因素,因此,挑选显卡时优先考虑显存问题;其次再考虑单精度等性能问题
目前常用的显卡包括A6000 48G、L20 48G、L40 48G、6000Ada 48G,A100 80G等等.目前有一款常被大家忽略的显卡突围而出,5880Ada 48G
推荐一款8卡5880Ada 服务器供参考