2024 Fast Transform Kernel Selection Basedon Frequency Matching and ProbabilityModel for AV1

这篇论文的标题是《Fast Transform Kernel Selection Based on Frequency Matching and Probability Model for AV1》，发表在《IEEE Transactions on Broadcasting》上，主要研究的是视频编码中的变换核选择问题。论文提出了一种针对AV1视频编码标准的快速变换核选择算法，该算法基于频率匹配和概率模型。以下是论文的主要贡献：

1. 频率匹配因子（FMF）的引入：论文首次提出了基于余弦相似度的频率匹配因子（FMF），用于描述残差块与变换核的主频率基图像之间的相似度。统计结果显示FMF与归一化率失真优化成本（nRDOC）之间存在明显的分布关系。

2. 高斯正态概率模型的建立：利用FMF的分布特性，为每个FMF建立了nRDOC的高斯正态概率模型，并将这些模型参数表示为FMF的函数，提高了模型的准确性和编码性能。

3. 快速选择算法的设计：基于导出的正态模型，设计了一种快速变换核选择算法，该算法具有可扩展性和硬件友好性，能够跳过非优选的变换核。实验结果表明，该快速算法在跳过57.66%的变换核的情况下，性能损失仅为1.15%，编码时间节省了20.09%，优于文献中的其他快速算法，并且与AV1参考软件中的基于神经网络的剪枝算法具有竞争力。