4、生成式AI的提示工程与推理配置

生成式AI的提示工程与推理配置

一、少样本推理与上下文学习

1.1 少样本推理示例

在棒球世界大赛冠军查询的例子中，通过提供不同年份大赛冠军及对手信息的少样本提示，模型能更聚焦和相关地生成响应。如询问2016年棒球世界大赛冠军，在有多个年份示例的上下文中，模型准确回答出“芝加哥小熊队在2016年赢得了世界大赛，他们击败了克利夫兰印第安人队”。

1.2 上下文学习的问题

上下文学习可能会出现错误情况。例如，若提供的上下文示例将积极的客户评价标记为负面情绪，将消极的评价标记为积极情绪，后续推理请求可能会返回相反的情绪分类结果。如下表所示：
| 评价内容 | 标记情绪 |
| — | — |
| 天气晴朗时，瑞格利球场是观看棒球比赛的有趣场地。 | 负面 |
| 小熊队主场比赛第九局时，饥饿的海鸥非常具有攻击性且烦人。 | 正面 |
| 墨菲酒吧是我周五下午小熊队比赛前在芝加哥最喜欢的酒吧。 | 负面 |

所以，在使用上下文学习时，要仔细核对提示 - 完成对。

1.3 上下文学习最佳实践

• 推理尝试顺序 ：开始使用新的生成式模型时，先尝试零样本推理。若结果不理想，再尝试单样本和少样本推理。
• 示例要求 ：进行少样本推理时，要提供能代表数据集的一致且合适的提示 - 完成示例组合，使模型能从上下文中正确学习。同时，要确保上下文不会使提示长度超过模型的输入大小或“上下文窗口”。
• 模型选择