HEVC原理--量化之SDQ,HDQ,RDOQ

最近在做RDOQ算法优化和硬件系统结构设计，建立其时序模型，估算算法的硬件复杂度。在做这部分工作的同时，博主调研了软判决量化SDQ，硬判决量化HDQ，率失真优化量化RDOQ，总结如下：

硬判决量化

• 系数独立、基于四舍五入的量化算法统称为硬判决量化（Hard Decision Quantization ，HDQ ）算法。
  
  u — DCT 变换系数 ；q — 量化步长 ；δ— dead‐zone 偏移量 ； floor — 向下取整操作 ；HDQ（u） — 硬判决量化幅值

软判决量化

• 考虑系数间相关性的软判决量化算法（Soft Decision Quantization，SDQ）可获得更加优异的率失真（Rate Distortion，RD）性能。SDQ 算法采用维特比网格搜索，从多个候选较优量化结果中抉择出率失真代价最小的量化候选值，从而实现率失真性能的较大提升。

率失真优化量化rdoq

• SDQ 算法的简化算法，即率失真优化量化（Rate Distortion Optimized Quantization， RDOQ）算法。相比于 SDQ 算法的全网格搜索，RDOQ 只搜索了部分路径，在 RD 性能上比SDQ算法稍差，但可大幅降低算法复杂度。因此，在H.264／AVC 及 HEVC 等标准参考软件 JM 和HM 中，均采用了该算法作为量化算法的备选算法。原因如下：
  • 在支持 CABAC 编码的量化算法中 ，由于采用有记忆信源上下文高阶熵编码，使得变换系数量化幅度不仅与块内前面已量化系数的量化幅值相关，同时会影响到块内后续变换系数的量化结果，即系数间存在着前后相关性。因