SaMam横空出世!全球首个Mamba风格迁移框架,线性复杂度+局部增强,双指标碾压SOTA!

🌐 社群导航

🔗 点击加入➡️【AIGC/LLM/MLLM/3D/自动驾驶】 技术交流群

🔗 点击加入➡️【2-3月CCF投稿】交流群

最新论文解读系列

论文名:SaMam: Style-aware State Space Model for Arbitrary Image Style Transfer     

论文链接:https://arxiv.org/pdf/2503.15934

项目链接:暂无

导读

全局有效感受野对于图像风格迁移(ST)获得高质量的风格化结果起着至关重要的作用。然而,现有的ST主干网络(如卷积神经网络和Transformer)在实现全局感受野时会面临巨大的计算复杂度。最近,状态空间模型(SSM),特别是改进的变体Mamba,在线性复杂度下对长距离依赖建模显示出了巨大的潜力,这为解决上述困境提供了一种途径。在本文中,我们开发了一个基于Mamba的风格迁移框架,称为SaMam。具体来说,设计了一个Mamba编码器来高效地提取内容和风格信息。此外,开发了一个风格感知的Mamba解码器,以灵活适应各种风格。此外,为了解决现有SSM存在的局部像素遗忘、通道冗余和空间不连续的问题,我们引入了局部增强和之字形扫描机制。定性和定量结果表明,我们的SaMam在准确性和效率方面都优于现有最先进的方法。

简介

风格迁移(ST)旨在捕捉图像风格以生成艺术图像,自开创性工作以来,它引起了越来越多的关注。随着现代深度学习技术的发展,如卷积神经网络、Transformer和扩散模型,风格迁移性能在过去几年中不断提高。我们认为这种改进部分归因于感受野的增加。首先,相对较大的感受野允许模型从更广泛的区域提取足够的图像模式,使其能够更好地捕捉风格模式。其次,有了更大的感受野,模型能够利用内容图像中的更多像素来促进锚点像素的风格迁移。

图片

图1. 不同方法在推理时间 (毫秒)和ArtFID之间的权衡。圆圈的大小表示乘累加运算次数(G)。

方法

1. 预备知识

结构化状态空间序列模型(S4)和Mamba受连续系统的启发,该系统通过一个隐式潜在状态  映射一个一维函数或序列 。具体而言,连续时间状态空间模型(SSMs)可以表述为如下的线性常微分方程(ODEs):</

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值