-
Quantization
-
方法介绍
-
效果
论文(参考文献a)中以imageNet数据(1.2M training images,1K categories,50k validation images),使用多个模型,从各个角度做了实验,对比quantization的效果,结果如下:
-
forward效果
AlexNet模型,不Quantization Q tilt (ReLU) sign tilt (hard tanh) Q(HWGQ) + ReLu backward sign + ReLU backward Alex Net Full Weight top 1 55.7 55.7 46.7 49.5
-
-
深度学习模型的量化方法(论文学习 & tensorflow lite量化方法)
最新推荐文章于 2025-07-03 16:04:43 发布