超级会员免费看
本文介绍了模型显存占用的两大因素：权重参数和中间变量，以及FLOPs和MACs作为计算量和计算速度的指标。在模型评价时，精确度是最基本的，其次是计算力和参数数量。详细分析了卷积层的计算力消耗，并提出了一系列节省显存的方法，包括降低模型复杂度、使用特定类型的卷积、优化器变换和利用inplace操作等。
模型所占的显存无非是这两种：
- 模型权重参数
- 模型所储存的中间变量
- FLOPS：注意全大写，是floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。
- FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。
-
MACs(Multiply–Accumulate Operations):乘加累积操作数，常常被人们与FLOPs概念混淆实际上1MACs包含一个乘法操作与一个加法操作，大约包含2FLOPs。通常MACs与FLOPs存在一个2倍的关系。
模型评价
<
订阅专栏 解锁全文
扫一扫
1776
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
