【计算摄影】浅析多重曝光与自动图像融合技术

【图像融合-论文笔记】Fusion of multi-exposure images多曝光图像的融合 本文,以选定的图像的最佳曝光块为中心,使用单调递减的混合函数(混合函数将最大权重分配给块中心的像素,其他像素的权重与到块中心的距离成反比 ),将图像颜色与相应的混合函数值相乘。与此相识的算法有“Szeliski”,它从一组多重曝光图像中创建平均图像(平均图像像素是多重曝光图像对应位置像素的平均值),通过平均图像的直方图均衡过程(用于增加图像对比度,并补偿强度平均期间的对比度损失),将平均图像强度(以不改变平均强度的方式)映射到新强度。通过这种方法获得的图像块的组合图像,可能在块与块之间存在明显的不连续性。 阅读详情

大家好,这是专栏《计算摄影》的第六篇文章,这一个专栏来自于计算机科学与摄影艺术的交叉学科。

                                            作者&编辑 | 言有三

多重曝光(multiple exposure)是摄影中一种采用两次或者更多次独立曝光,然后将结果按照某种图像处理算法进行融合得到单张图片的技术,本文我们介绍常见的多重曝光方法以及技术实现。

1 摄影中的多重曝光 

多重曝光需要采用多次曝光手段来实现,在传统的胶片单反相机中,多次曝光是一个非常重要的功能,它的原理是在一幅胶片上拍摄几幅影像,让一个被摄物体在画面中出现多次,从而可以拍摄出魔术般无中生有的效果,吸引了很多摄影师使用这种技法。

对于传统的胶片相机而言,多重曝光是在同一张底片上进行多次曝光,而现代数码相机的多重曝光效果则是多张照片分别拍摄,最后由相机内部进行合成所取得。在数码相机时代,由于数码后期合成的便利性,多次曝光功能已经逐渐被厂家忽视,即使是专业级数码单反相机,很多都不具备多重曝光功能。

下面我们介绍几种常见的多次曝光方法。

(1) 单纯多次曝光

在拍摄照片的过程中,相机和被摄物体都保持不动,对被摄物体不同时间或不同光线照射情况下进行多次曝光拍摄,这样就可以突出被摄物体的层次感。这是一种最基本的多次曝光技法,比较适合拍摄光照较暗的夜景图像。

下图展示了使用三脚架对同一场景进行多次曝光后进行叠加融合的结果,它渲染了光的层次感,增强了作品的表达能力。

(2) 变换焦距多次曝光

对于花卉或者静物的拍摄,可以采用变换焦距的方法进行两次拍摄,一次使用实焦拍摄,一次使用虚焦拍摄。在实焦拍摄过程中可以曝光多些,而虚焦拍摄时则曝光少些,两者叠加后可以获得朦胧的效果。

(3) 遮挡法多次曝光

所谓的遮挡法,就是遮挡镜头全部或者一部分,过程中需要保持镜头的位置绝对不动。

以长曝光拍摄烟花,闪电,车流等运动目标为例,当目标没有出现时,可以遮挡住镜头,当目标出现时再撤掉遮挡,这样可以防止过度曝光。另外,还可以每次遮挡镜头的一部分拍摄一次被摄物体,最后将不同遮挡次数的被摄物体同时曝光到一张底片上。

(4) 叠加法多次曝光

所谓叠加法多次曝光,即多张照片的叠加,拍摄时各自在画面的某些区域预先留出位置,然后进行多张图叠加,是创作最自由的曝光手法,可以叠加拍摄场景完全不同的照片。下图展示了使用将两幅拍摄场景,时间完全不同的图像进行叠加融合的结果,两幅图内容和气氛相互补充,增强了作品的表达能力。

叠加法是逐像素融合方法,即两张图的像素在某一个规则下进行叠加,在photoshop对应就是两个图层的叠加,有长达27种融合模式。

2 自动图像融合关键技术

在以上介绍的各种多重曝光技术中,叠加法多次曝光可以将多张不同的照片进行融合,具有最大的自由度,对前期拍摄的要求也最低,其背后是图像融合技术的支持,下面我们对其中的核心技术进行描述。

(1) 前背景与透明度估计

当我们需要融合两张图像时,往往不需要对所有的像素进行同样的操作,而是只选择其中一部分。假如我们想将上一图层中的感兴趣的前景添加到下一图层中,在photoshop中可以创造蒙版来控制需要操作的区域,而使用算法来完成这个步骤就需要对它进行自动前背景估计。

在计算机视觉中使用图像分割技术就可以估计前背景,它的分割结果就是对每一个像素进行二分类,从而可以得到前景掩膜。当前随着计算机视觉技术的发展,以FCN[1]为代表的深度学习图像分割技术已经非常成熟,FCN的结构如下:

图像分割可以获得二值的主体轮廓,但对于很多细小的目标,分割边缘会非常粗糙,与下一图层进行融合时会显得比较‘生硬’,此时我们常常需要另一个更精细的前背景透明度估计抠图技术,即Image Matting,它可以估计前景,背景,及两者进行线性融合的透明度,数学表达式如下:

I=aF+(1-a)B

其中F是前景,B是背景,a是透明度,图像可以被看作是在透明度图像的控制下,前景和背景的线性融合。当给定一张图,求解需要同时解出透明度通道和前背景,这是一个病态的问题,因为对于三通道的RGB图像,只有3个方程,却需要解出7个变量。

早期的Image Matting问题求解以传统方法为主,有数十种方法被提出,而随着深度学习技术的发展,当前的Image Matting问题也可以直接使用深度学习模型求解,主要有两个思路。

第一个是模仿传统的closed matting等技术,首先初始化一个三值图Trimap,它包含确定性的前景,背景,以及不确定区域,然后使用编解码模型对Trimap进行改进,得到透明度估计,以Adobe研究人员提出的Deep Image Matting[2]方法为代表。

第二个思路是直接从彩色图中进行最终的透明度估计[3],可以直接使用编解码模型进行估计,也可以采用有粗到精的估计方法。

(2) 局部区域融合

假如我们只获得了需要融合到一张图中的目标区域,而无法得到透明度等参数,如果直接在原图中进行替换,该部位的颜色往往会与周围区域有明显差异,而边缘处也没有平滑过渡,此时需要对该区域在颜色和梯度的约束下进行变换,其中经典的方法是泊松融合[4],它要解决的是如下问题:

如果我们要把源图像B融合在目标图像A上,令f表示融合的结果图像C,f*表示目标图像A,v表示源图像B的梯度,▽f表示f的一阶梯度即结果图像C的梯度,Ω表示要融合的区域,∂Ω代表融合区域的边缘部分。

上式的意义就是在目标图像A的边缘不变的情况下,使结果图像C在融合部分的梯度与源图像B在融合部分的梯度最为接近,所以在融合的过程中,源图像B的颜色和梯度会发生改变,以便与目标图像A融为自然的一体。

随着深度学习和生成对抗网络等技术的发展,当前基于深度学习的图像融合也被研究人员提出,以Gaussian-Poisson GAN(GP-GAN)[5]为代表。GP-GAN是第一个基于GAN的图像融合网络,它将GAN模型和泊松融合进行了结合,框架流程如下图。

GP-GAN框架主要包含两部分:Blending GAN和Gaussian-Poisson Equation。

Blending GAN是一个编解码结构,它使用输入输出的L2距离作为重建损失,再添加对抗损失后作为优化目标。该结构可以作为颜色约束(colour constraint),使生成的图像更加真实和自然,结果为比较模糊的低精度输出图。

Gaussian-Poisson Equation是一个金字塔式的高分辨结构,它作为梯度约束(gradient constraint),用于进一步提高图像的分辨率,使其拥有逼真的纹理细节。

一些基于泊松融合的结果如下:

3 参考资料

[1] Long J, Shelhamer E, Darrell T. Fully convolutional networks for semantic segmentation[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2015: 3431-3440.

[2] Xu N, Price B, Cohen S, et al. Deep image matting[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2017: 2970-2979.

[3] Liu J ,  Yao Y ,  Hou W , et al. Boosting Semantic Human Matting with Coarse Annotations[C]// 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). IEEE, 2020.

[4] Pérez P, Gangnet M, Blake A. Poisson image editing[M]//ACM SIGGRAPH 2003 Papers. 2003: 313-318.

[5] Wu H, Zheng S, Zhang J, et al. Gp-gan: Towards realistic high-resolution image blending[C]//Proceedings of the 27th ACM International Conference on Multimedia. 2019: 2487-2495.

更多内容细节,请参考我最近出版的新书,《深度学习之摄影图像处理》,介绍如下:

言有三新书来袭,业界首本深度学习计算摄影书籍,科技与艺术的结合

总结

本文介绍了多重曝光与图像融合,包括摄影中的各种多重曝光技术,自动图像融合的关键技术,这是一个兼具技术性和艺术性的方向,还有许多研究空间等待大家发掘。

有三AI秋季划-图像质量组

图像质量小组需要掌握与图像质量相关的内容,学习的东西包括8大方向:图像质量评价,图像构图分析,图像降噪,图像对比度增强,图像去模糊与超分辨,图像风格化,图像深度估计,图像修复。了解详细请阅读以下文章:

【CV秋季划】图像质量提升与编辑有哪些研究和应用,如何循序渐进地学习好?

转载文章请后台联系

侵权必究

往期精选

【HDR】曝光融合(Exposure Fusion) 在曝光融合(Exposure Fusion)算法问世之前,多曝光序列合成用于显示的HDR需要两个步骤,第一步是将多张不同曝光的低动态范围图像合成为HDR(例如Debevec提出的加权融合方法),通常HDR为12bit或者16bit;第二步是通过tonemapping对高动态范围HDR进行压缩以支持低动态范围显示设备(例如Durand提出的基于双边滤波的tonemapping算法),一般会压缩至8bit。 阅读详情

相关推荐

多曝光图像融合与曝光消除鬼影技术指南

图像融合技术是指将来自同一场景的多幅图像信息整合到一起,形成一幅包含各原始图像所有有效信息的新图像的过程。通过融合,能够得到比任何单一图像都要丰富的信息量,增强图像的可读性和处理后的图像质量。在图像处理领域,基于块(block-based)的方法是指将图像分割成多个小块(通常是正方形或矩形区域),然后对这些小块进行独立处理以实现特定的图像处理任务。块处理的基本思想源自于将复杂问题分解为更易管理的小块,从而简化问题的解决。

weixin_32242475的博客 1198

Boosting semantic human matting with coarse annotations

tensorflow,按顺序对三个网络进行训练,在输入到MPN之前,对所有的图进行降采样处理,192x160,在每个训练上随机翻转,在MPN上训练20个epoch,将低分辨率图像和输出的前景mask连接起来作为输入来训练QUN,在训练QUN时,对精细化注释数据执行随机滤波(滤波器大小为3或5),二值化和形态学操作(腐蚀膨胀)以生成配对的高质量和低质量mask数据。第一阶段预测的是粗糙的mask,所有的训练数据调整为192x160,使用所有数据进行训练,包括低质量和高质量的注释数据。

liguandong 1229

Multi-exposure image fusion via deep perceptual enhancement 通过深度感知增强实现多曝光图像融合

其中,DEM由两个编码器组成,其中一个称为联合编码器,接收两个源图像作为输入,旨在提取两个源图像之间的相关特征,而另一个对每个源图像进行单独编码,倾向于发现每个输入的代表信息,即判别编码器。为了训练 CEM 推断给定亮度的颜色,本文每个序列随机选择三个不同曝光度的图像,然后将选择的两个图像与第三个图像的亮度一起输入CEM。得益于色彩增强模块,即使原始图像由于过度曝光而缺乏色彩信息,本文的结果也具有更逼真和鲜艳的色彩,而竞争对手的结果可能会因为缺乏对颜色信息的具体处理,而遭受苍白或不真实的色彩问题。

u012183541的博客 4445

多曝光图像融合技术_文章和代码总结(Multi-Exposure Image fusion_papers_and_codes)

多曝光图像融合技术_文章和代码总结(Multi-Exposure Image fusion_papers_and_codes)

zxt_JiuMing的博客 1万+

哨兵1号(Sentinel-1)雷达SAR数据预处理全流程:从下载到精确配准

本文详细介绍了哨兵1号(Sentinel-1)雷达SAR数据从下载到精确配准的全流程预处理方法。内容涵盖SLC与GRD数据选择、ASF平台下载技巧,并重点解析了使用SNAP软件进行几何校正、辐射定标及高精度配准的核心步骤,为InSAR形变监测等应用提供可靠的数据基础。

weixin_29208327的博客 479

Buck的振铃实验与分析

上上期我们提到了buck电路的开关的振铃波形,本质原因是LC的阻尼振荡。文章偏理论,那BUCK到底是怎么产生尖峰振荡呢? 要想把这个问题搞清楚,也很是不容易,所以文章有点长,请直接点赞转发加收藏。 问题 本期主要分析以下这两个问题: 1、死区时间是什么?这里有个小台阶是什么情况? 2、上下尖峰振荡是如何产生的?跟哪些因素有关? 理想的BUCK的SW波形 我们由浅入深,一步一步来,先看理想的开关SW波形—没有尖峰电压的波形。 为了能更好的看buck电路各个点的电压电流情况.

weixin_42005993的博客 3万+

opencv-python图像增强四:多曝光融合(方法一)

在摄影和计算机视觉领域,高动态范围(HDR)技术已经成为了捕捉丰富细节和真实感图像的重要手段。然而,要实现高质量的HDR效果,我们需要对多张不同曝光时间的图像进行融合处理。本文将探讨多曝光融合技术的基本原理和应用,帮助您深入了解这一技术如何捕捉更丰富、更真实的世界。在自然界中,我们的眼睛能够感知从最暗到最亮的广阔亮度范围。然而,传统的相机传感器和显示设备却无法捕捉到这一完整的亮度范围,导致图像在亮度上出现失真。为了解决这一问题,HDR技术应运而生。

HanWenKing的博客 3864

从零开始用TS开发babylonjs - 本机环境搭建

babylonjs,初始化本地安装,web3d引擎

han3527638的专栏 797

【完结】重磅!深度学习计算摄影的12篇干货文章

文/编辑 | 言有三计算摄影是指使用数字计算而不是光学处理的数字图像捕获和处理技术。计算摄影可以提高照相机的能力,或者引入基于胶片的摄影根本不可能的特征,或者降低照相机元件的成本或尺寸(本...

hacker_long的专栏 3544

jira bug 仪表盘

背景: 更直观管理bug,方便项目组内人员,创建、修改、关闭bug 使用的场景: 筛选器结果:可用来展示open、什么级别open的问题,方便督促开发快速解决问题 2维筛选器统计:统计经办人下bug状态是open,具体什么等级的数量。有利于开发可以调整工作进度 问题统计: 统计某版本,产出对应等级的bug数量,用于后期测试报告的编写 饼图:直观展示筛选人员的bug,例如想要看出每位测试人员产出bug比例 创建与解决的问题对比图: ...

chuanying_xiaoqi的博客 815

ZynqMP双核通信避坑指南:Linux驱动+裸机固件协同开发实录

本文详细解析了Xilinx ZynqMP芯片中APU与RPU双核通信的技术实现,重点介绍了通过IPI中断实现Linux驱动与裸机固件协同开发的实战经验。内容涵盖硬件寄存器配置、Linux驱动开发、RPU裸机程序编写以及双核调试技巧,为开发者提供了一套完整的工程化解决方案,帮助规避常见开发陷阱。

weixin_29168153的博客 128

matting系列论文笔记(三):Boosting Semantic Human Matting with Coarse Annotations

matting系列论文笔记(三):Boosting Semantic Human Matting with Coarse Annotations 论文链接: CVPR2020 Boosting Semantic Human Matting with Coarse Annotations [1] 代码:暂无 文章目录matting系列论文笔记(三):Boosting Semantic Human Matting with Coarse Annotations前言Abstract1. Introduction2

Mao_Jonah的博客 2589

vue3:最新实现腾讯人脸核身+增强版人脸核身使用方法及示例源码,Vue3如何使用腾讯云慧眼人脸核身,提供人脸核身案例、身份信息核验、活体检测与核身比对等示例代码(后端spring与thinkphp)

vue3接入腾讯人脸核身,腾讯云人脸核身Vue3+后端代码,H5人脸核身,vue3 H5如何使用腾讯人脸核身sdk,vue3+thinkphp腾讯人脸核身,Spring Boot接入腾讯云人脸核身教程,hinkphp腾讯人脸核身,vue3人脸核身插件接入流程,vue+spring boot实现腾讯人脸核身,vue3接入腾讯云【增强版人脸核身接入】,vue3 h5微信公众号网页腾讯云慧眼人脸核身,tvue3接入人脸核身SDK,vue3+typescrip+vite接入慧眼实名认证,vue3腾讯云活体人脸核身(

✅ 精选推荐文章 4121

多曝光融合

在实际应用中,如果有至少两张图像,而这几张曝光都不好,那么怎样将他们融合在一起从而得到一张曝光较好的图像呢? HDR(high dynamic range)或者叫WDR(wide dynamic range)是一个方向,2007年Mertens提出了从多曝光融合方向解决这个问题,下图解释两者区别 opencv提供了这个算法的接口 import cv2 mergeMertens = cv2....

yywxl的博客 8759

搭建一个简单的 Django + Vue 项目

在本文中,我将为您详细介绍如何搭建一个简单的 Django + Vue 项目。Django 是一个使用 Python 编写的高级 Web 框架,而 Vue 是一个流行的 JavaScript 框架,用于构建用户界面。通过结合 Django 和 Vue,我们可以创建强大的全栈 Web 应用程序。创建 Django 项目设置 Django 后端创建 Vue 前端连接 Django 和 Vue让我们开始吧!

JfpBlockchain的博客 352

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

opencv-python图像增强五:多曝光融合(方法二)

在多曝光融合方法一中,我们首先估算相机的响应函数(CRF)。接着,利用 cv2.createCalibrateDebevec() 方法,依据相机的CRF对多曝光图像进行融合理。这一过程最终通过映射将高动态范围的图像生成平常我们常用的0-255范围的图像从而实现多曝光融合。此外,本文还将介绍一种更为直接的多曝光融合方法,它利用OpenCV提供的现成封装功能来完成融合操作,简化了多曝光融合的步骤。

HanWenKing的博客 1761

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

深度特征融合---高低层(多尺度)特征融合

在很多工作中,融合不同尺度的特征是提高分割性能的一个重要手段。低层特征分辨率更高,包含更多位置、细节信息,但是由于经过的卷积更少,其语义性更低,噪声更多。高层特征具有更强的语义信息,但是分辨率很低,对细节的感知能力较差。如何将两者高效融合,取其长处,弃之糟泊,是改善分割模型的关键。 空洞卷积 高低层特征直接concat 融合特征的SSD:对小目标的快速检测 FSSD: Feature Fusion...

xys430381_1的专栏 13万+

【图像融合】基于深度学习的多曝光图像融合附matlab代码

✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,matlab项目合作可私信。????个人主页:​​Matlab科研工作室​​????个人信条:格物致知。更多Matlab仿真内容点击????​​智能优化算法​​ ​​神经网络预测​​ ​​雷达通信 ​​ ​​无线传感器​​ ​​...

m0_60703264的博客 1214

多曝光融合算法(三)cv2.createAlignMTB()多曝光图像融合的像素匹配问题

异或运算计算差异的时候还有一个问题是 在均值附近的一些区域,两张不同曝光的图像的二值图可能被引入一些噪声,此时可以计算图像的 exclusion mask,标记,在均值[-4,4]的区域。计算均值和中值的时候,对于严重过曝或者过暗的图像,可能因为大量的255,0像素导致 计算的均值 接近255和0。那么我们通过遍历其中一个图像的位移dx,dy,计算 error_sum, 寻找最恰到的dx,dy。还有特殊的图像就是多帧曝光,小位移,重合区域多,但是亮度差异有点大。而且计算的是全局的位移。介绍了一些配准方法。

tony365的博客 1190

结构光中多重曝光图像融合算法

算法参考自文章:[1] ZHANG S, YAU S. High dynamic range scanning technique[J]. Optical Engineering, 2009, 48(3): 33604. 1.基本背景 当前数字图像的动态范围(一般为0-255)远小于自然界真实场景,难以获取高质量的图像细节。应用到结构光领域,像素过暗会导致调制度过低噪声大,相位计算误差大,重建质量差;像素过饱和会导致相位计算直接错误,重建不出点云。传统的高动态范围图像关注于图像的细节显示,会对每个像素计算权

zhangpan333的博客 3299

多曝光图像融合

非深度学习方法: 参考Galaxies99开发的基于对齐方法的HDR合成方法工具包AlignHDRToolkit。 (可以主要地)参考使用 OpenCV 进行高动态范围(HDR)成像 都是主要分为以下3个步骤: 1. 对齐方法 我们在中提供了以下对齐方法对齐.py,您可以自由选择要使用的方法。 MTB(AlignMTB(**kwargs)):MTB alignment method,是OpenCV的内置方法;**kwargs是cv2.createAlignMTB()的参数。 参考Median Threso

Never let it go. 3709

基于深度学习的医学图像融合(Medical image fusion)论文及代码整理

基于深度学习的医学图像融合(Medical image fusion)论文及代码整理。主要将已有的基于深度学习的医学图像融合算法归类为基于卷积神经网络的医学图像融合框架和基于生成对抗网络的医学图像融合框架。

fovever_的博客 1万+

别再手动调曝光了!用Python+PyTorch实现多曝光图像融合,一键生成HDR大片

本文介绍如何利用Python和PyTorch实现多曝光图像融合技术,自动生成高质量HDR图像。通过深度学习模型,告别手动曝光调整,提升摄影效率。文章详细解析了核心原理、数据准备、模型构建及部署应用,帮助开发者快速掌握智能HDR合成工具的开发与实践。

weixin_32487557的博客 323
上一篇: 【完结】有三AI&阿里云的深度学习基础课程暂时完结,欢迎扩散学习
下一篇: 【赠书】五一假期福利,OpenCV4最新原理与实战书籍
言有三
言有三 领域专家: 人工智能技术领域 领域专家: 人工智能技术领域
博客等级 码龄15年 3635粉丝 976原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

言有三

三人行必有AI

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值