使用LLM API开发应用
即通过调用LLM提供的接口开发应用,数据传递给LLM,结果返回调用方。
可用的api:
- Open ai
- 智谱GLM
流程类似:
- 在官网获取配置 KEY
- 本地环境文件中输入KEY
- 调用时,将用户提供的输入封装为string类型,使用openai的completions完善对话,接受模型的返回值
提示词工程:
和大模型交互时,好的提示词能激发模型能力,因此需要学习提示词工程、好的提示词应当清晰、具体
具体为:
1.使用分隔符清晰地表示输入的不同部分。分隔符就像是 Prompt 中的墙,将不同的指令、上下文、输入隔开,避免意外的混淆。你可以选择用 "",< >, ,: 等做分隔符,只要能明确起到隔断作用即可
2.结构化输出:有时候我们需要语言模型给我们一些结构化的输出,而不仅仅是连续的文本。什么是结构化输出呢?就是按照某种格式组织的内容,例如 JSON、HTML 等。这种输出适合在代码中进一步解析和处理
3.让模型检查是否满足条件
4.给出少量例子
5.给出完成任务所需的步骤
6.尝试给出自己的解法,帮助模型深入理解问题