在大模型的应用中,Prompt的书写是最基础、roi最高的一项工作,尤其是对于非专业的开发人员,想要用好大模型,Prompt的书写尤为重要。从本节开始,我们将陆续为大家介绍多种开源的Prompt书写框架,帮助大家能写好更好的Prompt。
1 背景介绍
LangGPT 是 Language For GPT 的简称,中文名为结构化提示词。LangGPT 是一个帮助你编写高质量提示词的工具。
结构化提示词框架由云中江树于2023年创造,最早于 2023 年 5.4 青年节开源发布为 LangGPT 项目,一经发布便成为 GitHub 开源社区全球趋势热榜前十项目,并且撰写了学术论文开源发表。
具体内容可以在飞书中查看或者github。其中有很多关于Prompt的基础介绍,以及很多高质量的文章,都是可以免费查看和复制,感兴趣的话可以搜索了解一下。
2 使用场景
-
直接使用 LangGPT 生成提示词:
-
月之暗面 Kimi × LangGPT 提示词专家: https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0
-
月之暗面 Kimi × LangGPT 使用体感不错,可以自动的帮助我们设计好的prompt。
也支持 OpenAI 商店 LangGPT 提示词专家。
3 框架小结
LangGPT中有很多好的文章,我们就不一一介绍,这里我们把一些核心的文章 结合 自己的理解 进行一个小结,每一小结代表一篇文章,感兴趣的话可以再进一步查看原文。
3.1 如何写好 prompt?
作者观点: prompt = 理解llm + know-how + 逻辑清晰
-
理解llm
不同的llm相当于我们面对不同的“专家”,每个“专家”都有自己的特点和擅长(差异源于:参数设置、训练预料、微调策略不同)。即使相同“专家”,不同版本也可能有很大差别。
因此需要我们对使用的“专家”有比较清晰的感知,作者推荐了《这就是ChatGPT》这本书。
-
know-how
常见的一些prompt的写作技巧,可以帮助我们获取较好的输出,但是一份高质量的、有深度的输出,还是需要利用专业的行业知识来引导,才能得到预期的回复。
因此对细分场景理解有多深决定了,llm回复有多好。
-
逻辑清晰
简单来说,就是能不能把心中所想的东西,简单、清晰、逻辑清晰的表述出问题的内核,可能需要不断思考和迭代才能有比较好的输出。
-
如何快速写好prompt
-
“meta-prompt”:基于现有的框架或者方法,快速成型一套模板,不同场景中,在这套模板下进行填空,减少重复性工作。
-
“药剂师prompt”:一套自动化的prompt,在我们自我优化prompt的同时,可以自动扩充、完善prompt,更快的达到最优。
-
3.2 构建高性能 prompt 之路
-
什么是结构化 prompt?
所谓结构化prompt就是针对prompt的各种模板,类似于ppt的各种模板,根据需要我们可以选择不同的模板。给一段作者提供的模板,作为示例说明: