很多时候,我们想要跑大模型,但是实验室的算力资源有限,分到每一个同学身上就更少了,有的同学可能会选择去租赁算力,但是时间长了就不是很划算了,有时候导师会给我们一笔钱让我们去组装一台用于深度学习的服务器,那么究竟知道哪些必要知识能让我们装机的时候少被商家坑呢?
首先明确一个点,我们必须把大部分预算都花在显卡上面。
显卡:
英伟达主要有3种级别的显卡:
一GeForce系列
这个是消费级别的显卡,熟知的主要有4090、3090等系列,面向游戏玩家和普通用户,主要用于打游戏和家庭娱乐,不过旗舰系列的显卡如4090也因为他们的性价比高,用于中小模型的训练也是比较划算的。