文章核心总结
主要内容
该研究针对自回归视觉语言模型(VLM)生成SVG时缺乏渲染反馈、导致视觉保真度低、代码效率差的问题,提出了RLRF(Reinforcement Learning from Rendering Feedback)方法。通过两阶段训练(先SVG监督微调,再基于渲染反馈的强化学习),结合图像重建、语义相似性和代码效率的复合奖励函数,让模型从自身生成SVG的渲染结果中学习,显著提升了SVG生成的准确性、泛化能力和代码紧凑性,在Im2SVG和Text2SVG任务中均超越监督微调及现有主流模型。
创新点
- 首次将在线强化学习应用于逆渲染代码生成任务,通过渲染反馈解决自回归SVG生成中渲染过程不可微的核心难题。
- 设计了多维度复合奖励函数,整合像素级重建精度、语义对齐度和代码效率,提供全面且自动化的训练信号。
- 提出两阶段训练框架(SVG-SFT + RLRF),先构建SVG基础生成能力,再通过强化学习优化视觉与代码质量,实现跨数据集的强泛化能力。
译文(Markdown格式)
Abstract
可缩放矢量图形(SVG)提供了一种强大的格式,能将视觉设计表示为可解释的代码。近年来,视觉语言模型(VLM)的进步通过将该问题构建为代码生成任务并利用大规模预训练,实现了高质量SVG生成。VLM特别适合此任务,因为它们既能捕捉全局语义,又能捕捉细粒度视觉模式,同时在视觉、自然语言和
订阅专栏 解锁全文
714



被折叠的 条评论
为什么被折叠?



