VVC的变换设计主要包含三方面:初级变换(primary transform)、二次变换(secondary transform)、变换划分(transform partitioning)。
VVC继承了部分HEVC变换编码特性,包括:
- 采用定点操作,数据中间值的表示和算术都保持为16bit;
- 变换过程既可以通过直接矩阵乘法实现,也可以通过快速方法,比如部分蝶形;
- 变换核通过缩放变换基为64√ N,并通过微调舍入到最近的整数,其中变换基的范数为1,N是变换尺寸;
- 小点数的DCT-2时大点数DCT-2的一部分,所以所有的DCT-2变换核都包含在64x64 DCT-2变换核中。虽然VVC允许的最大CB尺寸达到128x128,但为了适应VDPUS,限制为64x64。
-
初级变换
-
1、变换核 (Transform Kernels)
VVC中,除了常见的DCT-2以外,可选的变换类型包括DST-7和DCT-8,公式表示如下:
式中,N时变换尺寸,i=0,1,…,N-1对应输出向量中的元素索引,j=0,1,…,N-1对应输入向量中的元素索引。
对于不平滑的残差分布,DST-7和DCT-8比DCT-2更有效,因为前者的函数更符合这种不平滑的统计。DCT-2的尺寸范围从4点到64点,DST-7/DCT-8的尺寸范围从4点到32点(此处的N点对应NXN的矩阵块)。
为了与HEVC中每个系数最差的乘法过程保持一致,对于64点DCT-2和32点DST-7/DCT-8,分别只保持前面32个和16个低频系数,高频系数调零。这一点在进行last coeficeien position 编码和cg扫描时有所应用。
VVC中,初级变换指定为分离变换。支持五种不同的变换类型组合:传统的(DCT-2,DCT-2)和四种新的MTS模式组合,(DST-7,DST-7),(DST-7,DCT-8),(DCT-8,DST-7)和(DCT-8,DCT-8)。由于编码增益有限,而且引入额外的编码器搜索和额外的变换组合会增加复杂度,所以不支持DCT-2和DST-7(或DCT-8)之间带有额外指示信号开销的显式组合。对于VVC,DST-7和DCT-8在某些编码工具中应用在亮度块上,包括MTS,ISP和SBT。对于色度编码,在VVC的发展过程中,DST-7/DCT-8也展示了潜在的收益。但由于色度分量通常呈现光滑的纹理,相对于复杂度而言,编码收益甚微,此时使用DCT-2已经足够。
2、多变换选择(Multiple T