大模型按照指定格式输出JSON

在 AI 原生开发落地的实践中，让大语言模型通过提示来输出答案只是第一步。更大的挑战是，如何保证大语言模型在相同的场景输入下，能够稳定地重现相同的效果，并且符合结构化的标准，以便与其他系统无缝集成。下面我介绍两种通过提示让大语言模型按照指定格式输出的策略。

1.输出格式引导

为了方便大语言模型和应用系统的集成，可以通过一些提示来指定大语言模型输出格式，例如“直接输出CSV结果即可”“Output as CSV format”等。这样，大语言模型就可以根据提示输出JSON、CSV、TSV、KV等不同的格式。

生成CSV格式的例子如下：

# 任务描述
作为一个宠物商店的老板，请给客户推荐一只可爱小宠物。请按照【动物名称,所属科目,尺寸大小】字段生成一条CSV格式的宠物信息，无需额外解释。

# 输出结果
->

输出：

猫,哺乳纲,中等

生成KV格式的例子如下：

# 任务描述
作为一个宠物商店的老板，请给客户推荐一只可爱小宠物。请按照"KV"格式生成一条数据，其中K为【动物名称,所属科目,尺寸大小】字段，V为对应的值，无需额外解释。
# 输出结果
```json

输出：

动物名称: 狗
所属科目: 哺乳纲
尺寸大小: 小

2 字段和类型引导

除了输出的格式，输出字段的名称和数据类型也是影响大语言模型与应用系统集成的关键因素，我们分别来看看如何指定输出字段名称和数据类型。

**指定字段名称：**使用输出结构示例进行字段名称定义。在“任务描述”中提供一个JSON结构的示例，用{}标识要填充的内容：

# 任务描述
从给定的文本