2.1 静态与动态量化算法(Statistical Calibration & Mapping)
2.1.0 量化的数学本质:从连续到离散的仿射映射
在神经网络推理中,量化(Quantization)的核心目标是:
用有限精度的整数表示近似浮点张量,同时尽量保持数值结构与相对误差最小。

(1)仿射量化(Affine Quantization)公式

2.1.1 静态量化(Static Quantization)
静态量化(PTQ / QAT 推理阶段)在推理前完成统计,得到固定的 ,
,推理时不再变化。
订阅专栏 解锁全文
11万+



被折叠的 条评论
为什么被折叠?



