Transformer——Q94 验证解码指导（Decoding Guidance）中约束满足的概率边界

该问题归类到Transformer架构问题集——解码策略——采样与可控性。请参考LLM数学推导——Transformer架构问题集。

1. 引言

在大语言模型（LLM）的生成任务中，解码指导（Decoding Guidance）如同一位严格的 “语法教练”，确保生成的文本不仅流畅自然，更能满足特定领域的约束条件 —— 比如法律文书的条款合规性、医疗报告的格式规范或代码生成的语法逻辑。而理解这些约束在解码过程中被满足的概率边界，就像掌握了一把 “质量标尺”，既能评估生成内容的可靠性，又能指导解码策略的优化。本文将从技术原理、数学理论、实战案例到代码实现，层层解析解码指导中约束满足的概率边界，揭开 LLM 生成的 “质量控制” 之谜。

2. 技术原理：解码指导的约束嵌入机制

2.1 约束类型：从 “硬规则” 到 “软偏好”

解码指导的核心是将约束条件融入生成过程，常见约束可分为两类：

• 硬约束（Hard Constraints）：必须严格满足的条件，如代码生成中的括号匹配、法律文本中的关键条款存在性。违反硬约束的生成序列会被直接拒绝（如生成 “if (x> 0” 后必须跟 “{”）。

• 软约束（Soft Constraints）：期望满足的偏好，如对话生成中的礼貌用语、故事创作中的情感倾向。通过概率调整（如增加合规词的 logits）引导生成，不绝对禁止违规序列。

2.2 解码过程的约束整合

主流解码算法（如 Beam Search、Top-p 采样）通过以下方式嵌入约束：

1. 状态转移过滤：在每一步生成时，排除违反硬约束的候选词（如生成 “SELECT * FROM” 后必须跟表名，而非运算符）。
2. 概率重加权：对符合软约束的词增加 logits 分数（如医疗报告中 “体温”“血压” 等词的 logits+2），提升其生成概率。
3. 后验修正：生成完成后，通过规则引擎或分类器筛选合规序列（如检查合同中的甲方乙方是否完整）。

2.3 概率边界的核心问题

我们关心的核心问题是：给定解码策略 和约束集合 ，生成序列 满足所有约束的概率 的上下界是多少？这需要从概率论和信息论角度，分析约束对生成概率的影响。

3. 数学理论：约束满足的概率边界推导

3.1 硬约束的概率下界

假设硬约束要求生成序列必须包含特定子序列 （如代码中的错误处理语句），定义状态空间 为所有可能序列，合规子集