- 博客(12)
- 收藏
- 关注
原创 深度学习模型压缩
方法描述适用对象是否要预训练优点缺点模型剪枝判断参数、通道、滤波、卷积层的显著性,并剪除不重要的部分。卷积层、全连接层是显著减少参数数量,便于在硬件上实现加速。结构化剪枝使模型变窄,从而减少存储与提高运算速度。非结构化剪枝会造成网络结构不规整,难以有效加速。结构化剪枝可能会造成与硬件平台不兼容,灵活性差。模型量化基于权值共享、矩阵近似,减少参数及激活值的存储位数,降低内存开销。卷积层、全连接层是有不错的压缩量和模型性能,训练时间短可以获得存储量小、计算量低和模型性能好的小型模型。
2024-11-12 19:37:12
989
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人