感知视频编码---自由能引导的率失真优化

技术分享| 探索视频感知编码 一.什么是视频编码 视频编码就是指通过压缩技术,将原始视频格式的文件转换成另一种视频格式文件的方式。视频流传输中最为重要的编解码标准有国际电联的H.261、H.263、H.264、H265,Google公司主推的VP8、VP9,运动静止图像专家组的M-JPEG和国际标准化组织运动图像专家组的MPEG系列标准,此外在互联网上被广泛应用的封装格式还有Real-Networks的RealVideo、谷歌公司的WebM、微软公司的WMV以及Apple公司的QuickTime等。 那么视频编码技术到底是什么呢?首先视 阅读详情

自由能—free-energy principle
The freeenergy principle suggests that the human visual system (HVS)
can actively predict “orderly” information and avoid “disorderly”
information for image perception. Basically, “orderly” is associated
with the skeletons and edges of objects, and “disorderly”
mostly concerns textures in images. Based on this principle, an
image is separated into orderly and disorderly regions, and
processed differently in image quality assessment (IQA).
大致意思:自由能理论指出,人眼对有序的信息更容易接受和关注到,而对无须的信息则比较排斥,不感兴趣。而图像的有序和无序可以通过他们的边缘,纹理,结构等信息来表示。通过这些信息的提取,可以将图像分割成有序区域和无序区域。在图像质量评估的时候可以区别对待。

这个Free-energy principle的理论其实可以简单概述成,人眼对纹理复杂区域不敏感,对纹理简单区域敏感。同时,在结构信息比较重要的图像中,需要将结构信息另外提取出来。充分提升视频编码的感知性能,重点在于如何有效的提取出感知信息,并将这些感知信息合理的应用到编码过程中去。

参考文献:Free-energy Principle Inspired Video Quality Metric and Its Use in Video Coding

浅谈视频编码的原理 本文主要大体谈谈视频编码压缩的原理。 阅读详情

相关推荐

【待更新】感知视频编码中的感知检测技术(显著性物体检测向)

显著检测分类 显著物体检测

video coding 2657

【感知优化视频编码研究综述】

本文首先从神经生理学的角度分析了HVS的视觉特性,并对HVS的感知模型和视觉质量评估算法进行了综述。然后,我们对感知优化视频编码算法的最新进展进行了系统的回顾,分析了问题的提出、关键特征、性能、优缺点。第三,对最新编码标准的感知编码性能进行了实验分析和比较。最后,指出了感知视频编码面临的挑战和机遇。

qq_44398093的博客 2092

万老师《H.265/HEVC》第十一章:率失真优化

有损压缩算法,性能由编码输出的比特率和失真共同决定。 编码的目的:就是在保证一定视频质量的条件下尽量减少编码比特率,或在一定编码比特率限制条件下尽量地减小编码失真。 编码器工作:根据以上率失真准则找到最佳编码参数。 1 理论部分 信息论中率失真概念:在允许一定程度失真的条件下,能够把信源信息压缩到什么程度,即最少需要多少比特数才能描述信源。由此得到率失真函数:R(D) = min I(X, Y),...

时间有泪 2767

感知视频编码

感知视频编码就是在视频编码的过程中,将HVS应用进去,挖掘主观视频感知冗余,进一步提高视频编码压缩效率。1.Computational visual perception:三种视觉感知计算模型(1)视觉敏感模型(2)视觉注意模型(3)视觉可见模型2.perceptual video coding:三种感知视频编码方法(1)基于视觉模型法(vision-mpdel based approaches)...

charleslei的专栏 3365

一文读懂视频感知编码:原理、应用全解析

一文读懂视频感知编码:原理、应用全解析

世界那么大,我想去看看~【随心更新,看世界去了😄】 1545

【信息科学与工程学】计算机科学与自动化——第六篇多媒体01 主要参数和算法

参数分类参数名称技术定义典型值范围测量方法优化目标采样参数采样频率每秒采集样本数8-384 kHz设备规格高保真≥48kHz量化参数采样深度每个样本量化位数8-32 bit设备规格高保真≥16bit声道配置声道数量独立音频通道数1-128声道配置参数立体声≥2声道音频格式格式类型音频数据格式PCM, ADPCM, MP3, AAC格式标识按需选择动态范围最大动态范围最大最小声压比40-144 dB声学测试越大越好频率响应频率范围可响应频率范围20-20kHz ±3dB频率扫描20-20kHz平坦信噪比信号噪

weixin_49199313的博客 1346

感知视频编码(perceptual video coding )

感知视频编码就是在视频编码的过程中,将HVS应用进去,挖掘主观视频感知冗余,进一步提高视频编码压缩效率。 1.Computational visual perception:三种视觉感知计算模型 (1)视觉敏感模型 (2)视觉注意模型 (3)视觉可见模型 2.perceptual video coding:三种感知视频编码方法 (1)基于视觉模型法(vision-mpdel based

yang-彧 4432

【信息科学与工程学】【通信工程】第四篇 通信网络的数学架构10 通信网络核心数学方程式01

卸载:Toffload​=L/R+C/fserver​+Tback​, Eoffload​=Ptx​⋅(L/R)。下层:在切片 s内,为用户 u分配资源,最大化对数效用函数 ∑u​log(ru​), 其中 ru​=∑n∈NRBs​​au,n​⋅SEu,n​, au,n​∈{0,1}表示分配。:在时隙 t, 能量到达 Et​, 电池能量状态 Bt​更新:Bt+1​=min(Bt​−pt​+Et​,Bmax​)。:基站发送:x=α1​P​s1​+α2​P​s2​, α1​+α2​=1, α1​>α2​。

weixin_49199313的博客 376

AI视觉任务算法全景详解(全部任务类型与对应算法列表)

本文档全面梳理了计算机视觉领域的46类核心任务及600+主流算法,涵盖图像理解、目标检测、3D视觉、图像增强、生成编辑、视频处理等方向。内容包含每类任务的算法原理、演进脉络和工业选型建议,并附6个实用附录(选型速查表、骨干网络对比、数据集汇总等)。适用于算法工程师、视觉AI研究员和技术决策者进行技术调研和项目落地参考,技术栈覆盖深度学习框架与CUDA加速方案。文档采用系统化分类体系,提供从理论到实践的完整指导。

weixin_45590420的博客 447

【信息科学与工程学】计算机科学与自动化-——第十五篇云计算 11 算法篇

在百万级虚拟机、百万级租户的超大规模云环境中,核心算法挑战包括:挑战维度具体问题算法需求技术复杂度规模性​百万级对象并发管理分布式算法、分区算法极高(NP-hard问题)多租户​租户间隔离与资源共享公平性算法、隔离算法高(多目标优化)动态性​资源需求实时变化自适应算法、在线算法高(实时决策)异构性​硬件/负载/需求差异分类算法、匹配算法中高(多维度优化)经济性​资源利用率与成本平衡优化算法、博弈论算法高(多目标博弈)以下是按领域分类的详细算法列表:算法名称数学建模表达核心思想时间复杂度适用场景推理步骤首次适

weixin_49199313的博客 1406

【信息科学与工程学】【产品体系】第二十篇 CDN网络 04

国内 CDN 厂商在多租户隔离场景下实现 μ_c 求解与 LRU 淘汰的结合,公开资料中并未确认任何一家直接部署了 AdaptSize 原版的完整组合。最接近的公开生产级方案是腾讯 CDN 的LACA,通过异常租户检测 + 局部 MRC + DP 搜索实现轻量多租户缓存分配,但其不直接求解 μ_c,而是通过调整租户配额 K_t 间接控制。外层(LACA 式):异常租户检测 → 局部 MRC → DP 搜索租户配额 K_t中层(AdaptSize 式)

weixin_49199313的博客 158

动态优化器—一种感知视频编码优化框架

Netflix提出了一种基于感知视频编码优化框架,在非峰值流时间期间,将此编码系统应用于AVC-High和VP9数据流,提高了用户的视频质量的同时并节省了带宽。LiveVideoStack对本文进行了编译,感谢英特尔资深软件开发工程师赵军对本文的审校。文 / Loannis Katsavounidis,Netflix视频算法高级研究科学家译 / 王月美审校 / 英特尔资深软件开发工程师 赵军动机视

LiveVideoStack 1791

【信息科学与工程学】【安全领域】第一百四十二篇 零信任网络解决方案中的算法04

对于节点 i, 有功和无功功率平衡方程为: Pi​=Vi​∑j=1N​Vj​(Gij​cosθij​+Bij​sinθij​), Qi​=Vi​∑j=1N​Vj​(Gij​sinθij​−Bij​cosθij​)。下风向某点 (x,y,z)的浓度 C为: C=2πuσy​σz​Q​exp(−2σy2​y2​)[exp(−2σz2​(z−H)2​)+exp(−2σz2​(z+H)2​)], 其中 Q是源强, u是风速, H是有效源高, σy​,σz​是水平和垂直扩散参数。

weixin_49199313的博客 1414

编码压缩新思路:面向QoE的感知视频编码

面向用户体验的感知视频编码即通过机器学习检测用户感兴趣的视觉感知区域,并重新分配以更多的码率与复杂度。本文来自北京航空航天大学副教授、博士生导师 徐迈在LiveVideo...

LiveVideoStack 1899

【信息科学与工程学】【物理/化学和工程技术】第七十五篇 电气工程 系列二 电路电气基础04 电场、电网

电网

weixin_49199313的博客 1405

ESP32 WiFi自平衡小车硬件与PID控制实战

自平衡小车是典型的嵌入式实时反馈控制系统,其核心依赖姿态感知(如MPU6050)、电机驱动(如L298N)与闭环控制算法(如PID)的协同。系统通过IMU采集俯仰角,经互补滤波融合处理,再由PID控制器实时计算PWM输出,驱动直流电机产生恢复力矩;WiFi模块(ESP32内置)则提供远程遥控接口,实现AP模式下的Web指令交互。该架构兼具硬实时性(毫秒级采样与响应)与软实时性(HTTP服务),广泛应用于机器人教学、智能小车开发及边缘控制原型验证。本文围绕ESP32平台,详解传感器接口、驱动电路设计、PID抗

weixin_42509513的博客 393

视频编码技术的基本原理及其现状分析

 监控中视频编码分辨率的选择     目前监控早教行业中主要使用以下分辨率:SQCIF、QCIF、CIF、4CIF。     SQCIF和QCIF的优点是存储量低,可以在窄带中使用,使用这种分辨率的产品价格低廉;缺点是图像质量往往很差、不被用户所接受。     CIF是目前监控行业的主流分辨率,它的优点是存储量较低,能在普通宽带网络中传输,价格也相对低廉,它的图像质量较好,被大部分

xilibaby的专栏 503

保姆级教程:在STM32CubeIDE上快速部署micro_ros到STM32F407(附常见问题解决)

本文提供了一份详细的保姆级教程,指导开发者如何在STM32CubeIDE上快速部署micro_ros到STM32F407微控制器。内容涵盖从Windows与Ubuntu双环境搭建、micro-ROS静态库编译、STM32CubeIDE工程深度集成,到串口通信联调与常见问题解决的完整流程,旨在帮助读者构建稳定可靠的ROS2与嵌入式设备通信系统。

o4p5q6r7s的博客 324

关于率失真训练方式的一些总结

关于率失真训练方式的一些总结R+lambda * Dbatch_size 和batch_step优化器的选择 R+lambda * D D的选取有很多选择,这里优化的是MSE,也可以是MSSSIM,也可以是l1范数,R也有交叉熵或者高斯分布计算的方法。单独优化MSE是可以提高MSSSIM的,反过来MSE无法降低 batch_size 和batch_step batch_size要尽量的大,对应的s...

smileformylove的博客 266

[Adaptive Autosar]深入理解--Time Synchronization

目录 1.TS典型应用场景 2.CP和AP时间同步对比 3.时间同步基础知识 4.TBR部分参数说明 5. TS功能说明 5.1 基本说明 5.2 时间纠正计算说明 5.3 时间验证 Time Synchronization 时间同步,后面简称TS 1.TS典型应用场景 时间同步,典型应用就是在自动驾驶领域,自动驾驶领域涉及到各个传感器的数据采集,如IMU采集当前车身姿态和运动信息,毫米波雷达-超声波雷达-环视摄像头-前视摄像头...等等传感器捕获的数据,在算法中需要精确知道每个数.

AgingMoon的博客 3997

ESP32S3新手避坑:用IDF5.0驱动GT911触摸屏,我踩过的三个雷都给你填平了

本文详细解析了在ESP32S3开发板上使用IDF5.0驱动GT911触摸屏时常见的三大问题:软重启失效、状态寄存器读取异常和初始化参数差异。通过逻辑分析和硬件调试工具,提供了针对性的解决方案和优化建议,帮助开发者高效完成触摸屏驱动开发。

weixin_42567497的博客 297

视频编码格式对比

视频编码 时间上的冗余信息 在视讯资料中,相邻的帧(frame)与帧之间通常有很强的关连性,这样的关连性即为时间上的冗余信息。即帧间压缩。 空间上的冗余信息 在同一张帧之中,相邻的像素之 间通常有很强的关连性,这样的关连性即为空间上的冗余信息。这即是上一次学习中的帧内压缩。 统计上的冗余信息 统计上的冗余资讯指的是欲编码的符号(symbol)的机率分布是不均匀(n...

Sloven 1万+

深度学习论文: AnomalyDINO: Boosting Patch-based Few-shot Anomaly Detection with DINOv2

通过将DINOv2模型适应到一次性和少量异常检测中,并专注于工业应用少量异常检测。实验表明,这种方法不仅与现有技术相匹敌,甚至可以在许多设置中超越它们。我们提出的仅视觉方法AnomalyDINO基于补丁相似性,能够实现图像级别的异常预测和像素级别的异常分割。该方法在方法论上很简单,无需训练,因此不需要任何额外的数据进行微调或元学习。

mingo_敏 1906
上一篇: latex插图
下一篇: 内存模型和名称空间
yang-彧
博客等级 码龄12年 105粉丝 53原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值