Automata-Based Steering of Large Language Models for Diverse Structured Generation

文章主要内容总结

该研究聚焦于大型语言模型（LLMs）结构化生成中的多样性不足问题，提出了一种基于自动机遍历历史的引导方法，核心内容如下：

1. 问题背景：现有结构化生成方法（如Outlines、SGLang）虽能通过有限自动机或下推自动机保证输出的语法有效性，但普遍缺乏多样性，导致下游应用（如软件测试、AI智能体规划）难以覆盖边缘场景。初步实验证实，即使调整采样温度，主流方法仍存在结构模式重复、自动机状态/转移覆盖不足的问题。
2. 核心方法：通过追踪生成过程中自动机的状态和转移历史，自适应调整LLM的token选择概率：
   • 引入全局转移计数器，奖励探索低频访问的状态路径，提升结构多样性；
   • 设计局部状态计数器，惩罚重复访问的状态，避免陷入局部最优；
   • 加入动态范围调整因子，根据logits分布规模适配奖励/惩罚强度，平衡探索与生成质量。
3. 实验验证：在电子邮件、CSS颜色码、JSON格式、内容过滤（禁止"bomb"）四类正则约束任务上，与基线方法Outlines对比，结果显示：
   • 结构多样性（状态/转移/路径覆盖）平均提升45%、12%、40%，内容多样性（Vendi得分）平均提升90%；
   • 保持88%左右的生成效率（tokens/秒），未显著牺牲速度；
   • 案例研究中，生成的测试用例对开源库（email_validator、webcolors）的分支覆盖率分别提升12.89%和5.14%。<