低光图像增强的“显微镜”:可学习小波如何让算法“看见”头发丝
深夜街角的路灯下,手机拍出的照片总是一片模糊的噪点;博物馆里珍贵的展品,在弱光环境下记录的细节荡然无存。对于计算机视觉的研究者和工程师而言,低光图像增强(Low-Light Image Enhancement, LLE)远不止是让照片“变亮”那么简单,它是一场在极微弱信号中重建视觉世界的精密手术。传统的增强方法,无论是基于直方图均衡还是经典的Retinex理论,常常陷入一个两难困境:提升整体亮度的同时,高频的细节——比如发丝的纹理、织物的经纬、叶片边缘的锯齿——就像被水洗过一样,变得模糊不清。噪声被放大,色彩发生畸变,得到的图像虽然明亮,却失去了“灵魂”。
近年来,Transformer架构凭借其强大的全局建模能力,在视觉任务中崭露头角,为低光增强带来了新的思路。然而,直接将处理自然语言的“注意力”机制搬过来,有时会带来过度平滑或引入不自然伪影的问题,特别是在处理需要像素级精度的纹理和边缘时。问题的核心在于,空域(Spatial Domain)的运算擅长捕捉大范围的照明关系和语义内容,但对于图像中蕴含的、决定视觉清晰度的细微高频信息,其感知和保留能力存在天然瓶颈。这正是频域(Frequency Domain)分析可以大显身手的地方。
于是,一个融合了双域(空域与频域)智慧的新思路应运而生:双域双分支Transformer架构。而在这个架构中,真正扮演“细节守护神”角色的,是一个名为可学习小波模块(Learnable Wavelet Module) 的创新设计。它不像传统滤波器那样固守一套固定的数学规则,而是让网络在训练中自行领悟如何最有效地分解与重组图像的频率成分。本文将深入剖析这一模块的工作原理,揭示它如何像一台高精度的“显微镜”,在增强亮度的同时,牢牢锁定并强化那些关乎图像质感的、头发丝级别的细节。
1. 理解瓶颈:为何传统方法总在细节上“失手”?
在深入可学习小波之前,我们必须先厘清低光图像增强任务的核心挑战,以及现有主流方法的局限性。这有助于我们理解为何需要引入频域视角。
低光图像并非简单的“暗版本”正常图像。其信号退化是一个复杂的过程,主要包括:
- 极低的信噪比(SNR):有效信号(场景反射光)微弱,被传感器噪声、读出噪声等严重污染。
- 非线性响应:相机传感器在低照度下的响应并非线性,暗部区域的对比度被极度压缩。
- 颜色失真:不同颜色通道的感光度不同,导致色彩平衡严重偏离。
- 细节淹没:高频的纹理和边缘信息强度远低于噪声,在空域中几乎无法辨识。
面对这些挑战,主流方法各有侧重,也各有短板:
基于卷积神经网络(CNN)的方法:如RetinexNet、KinD等,通过编解码器结构学习从低光到正常光的映射。CNN的局部感受野特性使其擅长提取局部特征和纹理,但在建模图像全局的照明关系(如一个光源如何影响整个房间)时能力有限。此外,池化等操作会不可避免地导致空间信息丢失,对细节恢复不利。
基于Transformer的方法:如Retinexformer等,利用自注意力机制建立图像所有像素点之间的长程依赖,能更好地估计全局光照。然而,标准的Transformer注意力机制在计算相似度时,倾向于平滑化高频的、局部的突变(这正是边缘和纹理的特征),容易导致结果“塑料感”过强,缺乏锐度。
传统频域方法:使用离散余弦变换(DCT)或固定的小波基(如Haar、Daubechies)将图像转换到频域,在频域进行滤波(如压制低频、提升高频)后再转换回来。这种方法能直接操作频率分量,但固定的基函数无法自适应于千变万化的图像内容与退化类型。用一套固定的“滤波器组”去处理所有图像,效果必然受限。
提示:可以将图像想象成一段交响乐。空域方法是直接调整乐手(像素)的音量,关注整体旋律(光照);频域方法则是将音乐分解成不同频率的声部(低频如贝斯、鼓点,高频如小提琴、三角铁),分别调整后再合成。固定频域方法好比只用一套标准的均衡器设置,而可学习小波则是为每首曲子(每张图像)训练一个专属的、最优的均衡器。
下面的表格对比了几类方法的特性:
| 方法类别 | 核心优势 | 在细节保留上的主要局限 | 对噪声的鲁棒性 |
|---|---|---|---|
| 传统CNN方法 | 强大的局部特征提取,计算效率较高 | 全局光照建模弱,池化操作损失细节 | 一般,需额外设计去噪模块 |
| Transformer方法 | 优秀的全局上下文建模,光照估计准确 | 容易过度平滑高频细节,产生伪影 | 对噪声敏感,可能放大噪声 |
| 固定频域方法 | 直接分离频率分量,理论清晰 | 基函数固定,无法自适应,处理复杂纹理效果差 | 依赖人工设计滤波器,鲁棒性差 |
| 双域融合方法 | 兼顾全局照明与局部细节 | 结构相对复杂,设计难度大 | 通过频域分离,能更有针对性地处理信号与噪声 |
由此可见,理想的低光增强框架需要一种机制,既能利用Transformer把握全局“光影”,又能像精密仪器一样捕捉并增强局部“肌理”。可学习小波模块,正是为填补这一空白而设计的桥梁。
2. 可学习小波模块:从固定基到自适应滤波的跃迁
小波变换被誉为“数学显微镜”,它通过一组可缩放、平移的基函数,能将信号同时在时域(空域)和频域进行局部分析。这与傅里叶变换只能提供全局频率信息截然不同。在图像处理中,二维离散小波变换(DWT)可以将一幅图像分解为四个子带:
- LL(低频近似):包含图像的主要轮廓和光照信息。
- LH(水平高频):包含垂直方向的边缘和纹理(水平变化)。
- HL(垂直高频):包含水平方向的边缘和纹理(垂直变化)。
- HH(对角线高频):包含对角线方向的纹理和细节。
传统的DWT使用预设的小波基(如db1 Haar小波)和对应的固定滤波器组(低通滤波器 h,高通滤波器 g)来完成这一分解。然而,“固定”即是枷锁。自然图像的内容何其丰富,低光退化的模式又何其多样,一套固定的分解方式不可能在所有情况下都是最优的。
可学习小波模块的核心思想,就是将这一套滤波器组 {h, g} 从固定的参数,变为网络中可以通过梯度下降进行端到端优化的可学习参数。这意味着,网络不再被动地接受一种数学定义好的频率分解方式,而是主动地从海量的低光-正常光图像对中,学习出最适合于“低光增强”这一特定任务的频率分解与重组方式。
2.1 模块的运作机制:一个动态的频率解析器
在DLEN架构中,可学习小波模块通常被嵌入在光照估计或特征提取的早期阶段。其工作流程可以概括为以下几个步骤:
- 特征图输入:模块接收来自上一层网络的特征图
F_in,其尺寸为[B, C, H, W](批大小、通道数、高、宽)。 - 可学习滤波:网络维护两组可学习的一维滤波器:低通滤波器
L和高通滤波器H。它们的长度是预设的(例如5或7),初始值可以借鉴经典小波系数,但训练过程中会自由变化。 - 二维张量积分解:利用
L和H,通过张量积生成四个二维滤波器,分别对应LL, LH, HL, HH的分解。# 概念性伪代码,展示二维滤波器生成 L = self.learnable_lowpass_filter # 形状: (filter_length,) H = self.learnable_highpass_filter # 形状: (filter_length,) # 通过外积生成二维滤波器核 filter_LL = torch.outer(L, L) # 低通-低通 -> 近似分量 filter_LH = torch.outer(L, H) # 低通-高通 -> 水平细节 filter_HL = torch.outer(H, L) # 高通-低通 -> 垂直细节 filter_HH = torch.outer(H, H) # 高通-高通 -> 对角细节 - 多子带卷积与下采样:使用这四个生成的二维滤波器,分别对输入特征图
F_in进行卷积操作(通常步长为2,实现下采样),得到四个子带特征图F_LL, F_LH, F_HL, F_HH。每个子带的尺寸变为[B, C, H/2, W/2]。 - 通道拼接与后续处理:将四个子带特征图沿通道维度拼接,得到一个通道数变为4倍、空间尺寸减半的特征图
F_wavelet = cat([F_LL, F_LH, F_HL, F_HH], dim=1)。这个特征图包含了从不同方向、不同频率捕捉到的图像信息,随后被送入后续的Transformer分支进行更深层的空域关联建模。
关键在于“可学习”:在训练过程中,当网络发现某些高频模式(如特定类型的边缘纹理)对于最终还原清晰图像至关重要时,它可以通过梯度反向传播,调整 L 和 H 滤波器的系数,使得 H 滤波器对这些模式更加敏感,从而在 F_LH, F_HL, F_HH 子带中更突出地保留它们。反之,对于无用的高频噪声,网络可以学会让滤波器对其响应减弱。
2.2 可视化洞察:小波核学到了什么?
为了理解可学习小波模块的工作,我们可以对其学习到的滤波器进行可视化。经过在低光增强数据集(如LOL)上训练后,这些滤波器往往会呈现出一些有趣的模式:
- 低通滤波器
L:可能学习到一种比经典小波更平滑、衰减更慢的形态,旨在更干净地分离出光照成分,同时减少吉布斯效应(振铃伪影)。 - 高通滤波器
H:其形状可能变得不对称,或者在某些位置有突出的正负系数对。这对应于边缘检测器的优化版本。例如,它可能强化了对“从暗到亮”过渡(低光图像中常见的边缘类型)的响应,而弱化了对“从亮到暗”或某些噪声模式的响应。
通过可视化四个子带的输出热力图,我们可以更直观地看到其效果:
F_LL热力图:通常显示为模糊化的、对比度低的图像,主要承载光照和颜色信息。F_LH,F_HL,F_HH热力图:这些图会亮起在图像的边缘、纹理密集区域。与使用固定小波基相比,可学习小波生成的热力图在真实的细节边缘处响应更集中、更清晰,而在平坦或噪声区域响应更微弱。这直接证明了其自适应分离信号与噪声的能力。
3. 双分支Transformer:空域与频域的协奏曲
可学习小波模块并非孤立工作,它被精巧地嵌入一个双分支Transformer架构中,与空域注意力机制协同,共同完成增强任务。理解这个协作关系,才能看清全貌。
DLEN的典型流程如下:
- 光照成分预测器(LCP):首先,一个轻量级的卷积网络对输入低光图像进行初步处理,提取粗略的光照特征。可学习小波模块就集成在此处,对初步特征进行频域分解,将富含细节的高频信息与承载光照的低频信息初步分离。
- 双分支恢复器(DBR):这是核心部分,包含两个并行且交互的Transformer分支:
- 光照学习分支(ILB / MIAB):该分支主要处理经过小波分解后的低频近似分量(
F_LL)以及经转换的空域特征。它利用多头光照感知注意力(MIAB),专注于建模全局的光照分布。例如,它能够识别出图像中靠窗的明亮区域,并利用该区域的信息来指导和增强远处黑暗的角落。这个分支确保图像在整体上获得自然、协调的亮度提升。 - 结构增强分支(SEAB):该分支则主要“消化”可学习小波模块输出的高频细节子带(
F_LH, F_HL, F_HH)。它采用结构增强注意力块(SEAB),这是一种更注重局部上下文和空间结构的注意力机制。它会在高频信息指引下,强化边缘的连续性,修复断裂的纹理,并抑制被错误提升的高频噪声。
- 光照学习分支(ILB / MIAB):该分支主要处理经过小波分解后的低频近似分量(
两个分支的输出——经过全局光照校正的图像基底和增强后的细节层——最终通过自适应加权或卷积的方式进行融合。这个过程类似于高级图像编辑中的“亮度蒙版”与“高频细节叠加”技术,但这一切都是由网络自动、端到端地学习完成的。
注意:这种双分支设计巧妙地解耦了“提亮”和“锐化”这两个子任务。光照分支不用担心增强细节时会引入噪声,细节分支也无须顾虑调整整体亮度。它们通过共享的早期特征(尤其是小波分解结果)进行通信,最终合成一个既明亮又清晰的结果。
4. 实战对比:量化指标与视觉效果的飞跃
理论的优势需要实验的验证。在LOL-v1、LOL-v2-real等权威低光增强数据集上,引入可学习小波模块的双域Transformer架构,相比之前的SOTA方法,展现出了全面领先的性能。
定量分析:数字说话 在峰值信噪比(PSNR)和结构相似性(SSIM)这两个核心指标上,DLEN类模型 consistently 位居榜首。PSNR的提升(通常比其他方法高出0.5dB以上)意味着重建图像与真实正常光图像在像素值上更接近,噪声更少。SSIM的领先则直接反映了其在保持图像结构、对比度和亮度关系上的优越性,这正是细节保留能力的体现。
更关键的证据来自消融实验(Ablation Study)。当从完整模型中移除可学习小波模块(w/o LWN)后,模型性能会出现显著下降,尤其是在衡量细节保真度的指标上。这直接证明了该模块对于最终效果不可或缺的贡献。
定性对比:眼见为实 数字指标或许抽象,但视觉对比一目了然。我们将DLEN与RetinexNet、KinD++、Retinexformer等前沿方法进行对比:
- 头发与毛发区域:其他方法增强后,人物的发丝容易粘连成片,失去根根分明的质感。而DLEN的结果中,头发的纹理、光泽过渡依然清晰可辨。
- 织物纹理:衣物上的编织纹理、毛衣的绒线感,在其他方法的结果中往往被平滑或产生虚假的规则图案(伪影)。DLEN则能很好地恢复出自然、不规则的真实纹理。
- 边缘锐利度:建筑物轮廓、树叶边缘等,在DLEN的结果中更加锐利,没有出现光晕或模糊扩散现象。
- 噪声控制:在提升暗部的同时,DLEN对阴影区域噪声的抑制也更为出色,画面整体干净,没有出现常见的“彩色噪点”或“块状噪声”。
这些视觉优势,正是可学习小波模块与双分支注意力机制协同作用的结果。网络学会了在频域中精准地“找到”并“保护”那些构成细节的关键高频成分,避免它们在空域的全局调整中被淹没或扭曲。
5. 实现启示与未来展望
对于想要将此类技术应用于实际项目或研究中的算法工程师而言,理解其实现细节和设计哲学至关重要。
工程实现要点:
- 滤波器初始化:可学习小波滤波器的参数不宜完全随机初始化。一个良好的实践是使用某一种经典小波(如Haar或Db2)的滤波器系数作为初始值,这为网络提供了一个合理的起点,能加速收敛并提高稳定性。
- 与注意力机制的集成:如何将小波分解的多子带特征有效地喂入后续的Transformer分支是关键。一种常见做法是对不同子带进行通道注意力或简单的1x1卷积进行融合与降维,再输入注意力块。也可以考虑为不同频率子带设计不同的处理路径。
- 计算效率:小波变换本身是线性操作,计算开销很小。主要的计算负担仍在Transformer的自注意力部分。在设计时,可以考虑对低频子带(
F_LL)使用更高的分辨率进行处理以保持全局光照精度,对高频子带则可以在稍低的分辨率下处理以节省计算,因为细节的局部性更强。
未来的演进方向: 可学习小波模块的思想可以进一步扩展。例如,多尺度可学习小波:在网络的多个层级进行小波分解与重构,构建一个金字塔式的频域分析体系,从而在不同尺度上捕捉和增强细节。或者,探索动态小波基,让滤波器系数能根据输入图像的内容进行轻微调整,实现更高程度的自适应。
在我自己尝试复现和调优类似架构的过程中,最大的体会是:这个模块的成功,不在于它用了多么复杂的数学,而在于它提供了一种让网络自主发现信号最优表示形式的机制。它把“如何分析图像频率”这个先验知识,从一个硬编码的规则,转变为一个可优化的、任务驱动的子问题。这或许才是其背后更深层的、对计算机视觉领域有启发意义的理念——与其设计更复杂的网络结构去拟合数据,不如设计更灵活的机制,让网络自己去学习如何“理解”数据。当你的模型学会了自己为自己定制“显微镜”的镜头,看清头发丝般的细节,便成了水到渠成之事。



被折叠的 条评论
为什么被折叠?



