使用 LLM 实现结构化输出

在大多数情况下，我们处理的是 LLM 返回的文本响应：用户提出问题，模型用自然语言回答，然后系统以某种方式把响应展示给用户。

但如果需要模型以特定格式返回数据，便于后续通过程序进一步处理，或者根据响应触发后续操作，就需要使用 LLM 实现结构化输出。

从 LLM 获取结构化、机器可读输出的主要方法有 JSON 模式和函数调用。此外，还有一种更严格的函数调用变体：结构化输出，它进一步强化了 schema 的约束执行。

JSON 模式

JSON 模式是实现 LLM 输出机器可读数据的简便方法。本质上，它是在 API 请求中设置的一个参数，用于指示模型始终返回有效的 JSON 对象。

因为 JSON 模式没有定义具体的 schema、字段名称、字段类型或类似声明，所以它只能保证输出是有效的、可解析的 JSON，不能保证结构完全稳定。

JSON 模式虽然保证输出是有效 JSON，但并不保证结构的一致性。如果多次运行同一个示例，每次都可能得到略有不同的字段名称或略有不同的数据结构。

实践中，除了开启 JSON 模式，还应该在系统提示词中明确要求模型以 JSON 格式响应。否则，模型有时可能返回有效 JSON，有时也可能输出不符合预期的内容，行为会变得不可预测。

函数调用

函数调用也可以从 LLM 获取结构化、机器可读的输出。

它并不是简单地要求模型把响应格式化为 JSON，而是先定义一个 schema，用形式化的方式描述期望的输出结构。这样，模型就更倾向于返回与该 schema 匹配的数据。

换句话说，通过函数调用，可以预先定义字段名称、字段类型、必填字段和可选字段等约束。

结构化输出

结构化输出是函数调用的一种更严格的变体。函数调用会引导模型按照预定义 schema 提供输出，但这种约束并不一定是严格的，仍然可能出现一些偏差。

常见偏差包括：

•如果模型无法确定某个字段的值，即使该字段被标记为必填，也可能被省略。

•模型可能添加未在 schema 中定义的额外字段。

•schema 中定义为 integer 的字段，可能返回为字符串形式，例如 "32"，而不是数字 32。

这是因为在函数调用中，模型只是试图遵循 schema，但输出的本质仍然是逐个预测 token。schema 更像是一个强提示，而不是硬性约束。逐 token 的生成过程仍然可能在某个环节出现偏差，从而产生不符合既定 schema 的输出。

结构化输出比函数调用更严格。它可以确保 schema 中定义的每个字段始终按定义出现在输出中，不会出现缺失字段、多余字段或类型不一致等意外情况。

关键区别在于，OpenAI 在后台使用了约束解码。在每个 token 生成步骤中，模型只能生成仍然符合 schema、并保持输出有效的 token。也就是说，schema 是在生成级别被强制执行的，而不仅仅是通过系统提示词提出要求。

对比总结

•约束强度：JSON 模式会生成有效 JSON，但不保证结构完整性；函数调用会生成更接近预定义 schema 的 JSON，遵循特定字段名称、类型和必填字段；结构化输出在生成级别执行 schema，从而尽可能杜绝偏差。

•使用场景：JSON 模式适用于需要机器可读响应、但可以接受格式变化的场景；函数调用最初设计用于模型需要触发操作或向外部工具传递参数的场景；结构化输出是具有可靠性保证的函数调用，适合对一致性要求极高的生产管道。

•设置便捷性：JSON 模式最轻量，通常只需要修改一个参数，无需定义 schema；函数调用需要设置参数，并预先定义 schema；结构化输出需要类似设置，此外还需要额外参数以及对 schema 本身的一些约束。

何时使用 JSON 模式

适合使用 JSON 模式的情况包括：

•需要机器可读输出，但对具体 schema 没有严格要求。

•正在构建快速原型，不想花时间设计 schema。

•下游任务足够灵活，可以处理字段名称和结构的细微变化。

•在对话语境中总结或提取信息，并且可以接受一定差异。

何时使用函数调用

适合使用函数调用的情况包括：

•需要一个更有保障的 schema，例如明确的字段名称、字段类型和必填字段。

•输出结果将被程序直接使用，并传递给函数、数据库或 API。

•正在构建智能体工作流，模型需要根据用户输入选择并调用工具。

•需要类型安全，例如 age 字段必须始终是整数，而不能是字符串。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】