神经网络后处理：A PRACTICAL CONVOLUTIONAL NEURAL NETWORK AS LOOP FILTER FOR INTRA FRAME

本文链接：https://blog.youkuaiyun.com/shayashi/article/details/86612041

本文介绍了一种新的卷积神经网络（CNN）滤波器，用于视频编码的后处理，解决了不同质量帧需要不同模型的问题。作者提出的CNNF模型在全intra配置下，通过动态固定点（DFP）量化，实现了在不同平台上的连续性和资源效率。在JEM7.0上的实验表明，该方法在三个分量上分别节省了3.14%，5.12%和6.28%的码率。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

A Practical Convolutional Neutral Network As Loop Filter for Intra Frame

以往的视频编码后处理的神经网络模型在实际应用中存在问题：一是：使用不同QP的编码帧使用不同的模型，硬件上贵。二是：在不同平台上的编解码端的CNN的浮点运算可能导致不连续性。三是：CNN模型有冗余，消耗资源。
所以作者提出的网络旨在单个，低冗余，并且适应不同质量的解码帧。所以，将重构和QP也作为网络的输入，经过训练后将模型压缩，以减少冗余。为了确保连续性，采用DFP（dynamic fixed points），模型中的参数先经过DFP量化再被输入到CNN中。CNN的最终输出也经过DFP操作。在全intra配置下，取代传统的滤波，在JEM7.0上的实验结果显示在三个分量上分别有3.14%,5.12%,6.28%的码率节省。
作者提出一个实用的卷积神经网络滤波CNNF(convolutional neural network filter)取代所有的传统滤波，如下图所示：
CNNFJEM
作者提出的模型包含三部分：a novel network,model compression和DFP-based inference of CNNF。CNNF采用全卷积残差学习结构。在压缩模型部分，包含两步：一，在损失函数中增加正则项来帮助压缩。二，将第一部分获得的模型微调进行低阶近似。