LLM大模型：Prompt 万能框架

最新推荐文章于 2025-04-16 18:20:03 发布
最新推荐文章于 2025-04-16 18:20:03 发布
阅读量867 收藏 27
点赞数 19
CC 4.0 BY-SA版权
文章标签： prompt llama langchain 知识图谱 人工智能 大模型 LLM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/pythonhy/article/details/141262898

Prompt 万能框架

在这里插入图片描述

在编写 Prompt 时，从0到1的编写出第一版 Prompt 往往是最难的，而基于已有 Prompt 利用各种技巧进行优化则相对简单。善于解决 “数理问题” 的我们在面对这样一个偏 “文理问题” 的任务时，就像小时候写作文一样难以提笔。如上图所示，为了解决这个问题，我们使用了一套 “万能模版”，把一个 Prompt 拆分成了 “立角色 + 述问题 + 定目标 + 补要求” 这四个部分，希望通过结构化的拆分完成这最困难的一步，无论面对什么任务，利用这个模版都可以得到一个“及格”的 Prompt。下面我就具体和大家阐述一下这个模版是如何得到的，为什么他是有效的。

对与 Prompt 的作用和定位已经在第一章中进行了详细的讨论，Prompt 的作用就是根据我们的问题调用模型的能力，我们要通过提问的方式，明确的让模型知道我们想要什么，我们的目标是什么，从这个基本思想出发，Prompt 应该包含以下几点：

在这里插入图片描述

  1. 问题是什么： 首先你要告诉模型你的问题是什么，你的任务是什么，要尽量描述清楚你的需求。
  2. 你要做什么： 下面你需要告诉大模型具体要做什么，比如做一份攻略，写一段代码，对文章进行优化，等等。
  3. 有什么要求： 最后我们往往还需求对任务补充一些要求，比如按特定格式输出，规定长度限制，只输出某些内容，等等。

通这 3 部分的描述我们就把 “要大模型做什么” 描述清楚了，这个想法十分自然，即便不是大模型，而是希望其他人为你完成某项任务，往往也需要通过这 3 部分把问题描述清楚。由于这仅仅是第一版 Prompt，你不需要描述的过于详细，也不需要使用技巧，只需要用简练的语言把这几部分描述清晰即可。以下是几个示例：

例1：生成产品摘要 问题是什么：你的任务是帮我生成一个产品的简短摘要。 你要做什么：我会给你产品的需求文档，及用户对产品的评价，请结合这些信息概括产品的功能及现状，为我生成一份产品摘要。 有什么要求：请尽量概括产品的特点，并用轻松幽默的语言风格进行编写，摘要的字数不要超过50个字。

例2：生成代码注释 问题是什么：你的任务是帮我的代码生成注释。 你要做什么：我有一段 python 代码，需要你对代码的内容进行分析，并为代码添加注释。 有什么要求：请结合代码内容，尽量详细的补充注释，不要遗漏，每条注释请以 “comment:” 作为前缀。

例3：生成测试用例 问题是什么：你的任务是帮我设计一款产品的测试用例。

你要做什么：我会提供给你产品的需求文档，需要你结合需求的功能描述进行测试用例的编写。

有什么要求：请结合需求中功能的结构，对测试点进行梳理，并有层级的输出测试用例，请保证每一个功能的测试点没有遗漏。

以上是3个简单的示例，让大家更直观的感受这 3 部分的含义，在实际应用中这 3 部分的内容会比例子中复杂的多，此处仅仅为了说明框架的结构，实际内容没有参考价值，各部分内容的细化会在第三章中详细展开。

在描述清楚任务后，我们就需要调度模型的能力去完成我们的任务， 不同的任务需要用到不同的能力，这往往依赖认为的拆分。我们可以想像，当我们让一个小白帮我们完成一项任务时，我们需要对任务进行分解，并告诉他每一步需要怎么做，以此来让他完成一项复杂的任务。对于大模型而言，这当然也是试用的，甚至十分好用，这在第5章的 “CoT” 中还会再次提到。

你当然可以人为的完成这种拆分，再一条条的解释给大模型，但这种做法并不通用，每个领域都有自己独特的专项能力，每个任务都有自己的工作流程，因此这种方案并不适合放到一个通用的框架当中。好在大模型能力的调用还存在一条捷径，那就是“角色”，他就像大模型里自带一个“能力包”，可以很容易的对模型能力进行调用。 每一个角色，都对应着该角色包含的若干能力，我们可以通过设定角色，“提示”大模型使用该角色对应的能力，这与前文“Prompt 到底是什么” 中介绍的想法极其匹配，充分说明是“Prompt” 提示的作用，通过简单的“提示”调用出大模型预先训练的能力，这也就是“角色”如此有用的原因。

在这里插入图片描述

由此我们就最终得到了我们的 “Prompt 模版”，通过这个统一的框架我们可以完成绝大多数 Prompt 初版的编写，让大家在面对各类任务时可以高效的完成从0到1的尝试，而不必陷入无从下笔的困境。

除了效果之外，对 Prompt 结构化的拆分也对 Prompt 管理提供了很大帮助，我们的 Prompt 库不再是大段的文本，而是拆分成了4张表“角色表”，“问题表”，“目标表”，“要求表”。通过这种方式我们可以很大的提升 Prompt 的灵活性，并通过动态组合4个元素的方式完成各类任务，这在面对复杂任务，或通过多模型解决问题时，会提供稳定有效的支撑。

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

Llama-Turbo
关注
【LLM】大模型SFT技术总结（数据|训练|评估）
发现问题，并解决问题，批判性思维
11-04 5122
# 一、背景篇 ## 1. Special Token pretrain 阶段完全没见过的 token，在sft 阶段会被赋予全新的语义。主要用于标注对话的角色：user、assistant、system 这些。 此外，special_token 可以用来“构造知识”，比如"喜欢"这种知识一定是 sft 阶段才会见到的，可以剔除掉 pretrain 先验知识的影响，用来验证 sft 的训练情况，比如会不会过拟合。 我默认大家都知道怎么用 special_token 去拼 prompt，如果不熟悉，看下
【从零开始大模型开发与微调】AI 人工智能大语言模型 LLM：语言与思维——实践的融合
AI天才研究院
07-04 2935
在人工智能领域，大语言模型（Large Language Models, LLMs）已经取得了令人瞩目的成就。这些模型基于深度学习，通过在大量文本数据上预训练学习语言知识，被广泛应用于各种自然语言处理（NLP）任务，如图像描述、对话系统、翻译、摘要生成等。但这些模型的性能和表现，特别是其对语言和思维的理解，仍存在诸多困惑和疑问。大语言模型（LLMs）：指基于深度学习技术，通过在大量文本数据上预训练学习语言知识，能够理解和生成自然语言的大规模模型。自监督学习。
Prompt提示词——常见的Prompt框架
热门推荐
pumpkin84514的博客
04-07 1万+
这些框架各有特点，适用于不同的场景和需求。在实际应用中，可以根据。
12个精选Prompt框架，快速提升你写Prompt的能力，内附实例（上篇）
python12345_的博客
06-11 2095
想要熟练驾驭大模型，除了掌握Prompt的原则和技巧外，我们还可以参考一些成熟的Prompt框架，这样能快速提升我们写Prompt的能力，我从网上搜集到了12个精选Prompt框架，并为每一个框架附上一个实际的例子，一方面是自我学习的一个过程，另外一方面也分享给大家，共同提高写Prompt的能力，希望大家阅读后能有所收获。
一文掌握Prompt：万能框架+优化技巧+常用指标
最新发布
Z4400840的博客
04-16 1246
随着大模型在2023年横空出世，“Prompt 工程” 应运而生，作为用好大模型最重要的武器，Prompt 的好坏对模型效果有着决定性的影响。然而，网络上大量相关文章多是罗列“Prompt 工程” 中的若干技巧，少有体系化的总结，让人看完依然不知道该如何入手。 本文希望结合我们在 “Prompt 工程” 中的实践经验，更加体系化地对 “Prompt 工程” 进行梳理，希望可以一步步地帮助大家用好大模型，人人都是 Prompt 工程师。
【LLM大模型】基于LangChain的Prompt模板
huang9604的博客
06-26 1166
LangChain是一个开源库，它致力于让开发基于LLM的AI应用更简单，它是一个AI开发领域的万能适配器。
结构化Prompt框架
weixin_42276816的博客
01-13 1575
📌 结构化的Prompt有很多种方式创作，比如MarkDown、JSON、XML，甚至可以用JAVA代码定义类、方法的方式。但是MarkDown对于不熟悉代码的人相对简单些，并且写着也很舒服，所以大多数的示例用MarkDown格式来写。我们可以直接拆解一下以上ChatGPT给出的解释1、prompt更加清晰有序和规范化2、prompt更加明确和具体3、模型更好地理解任务的上下文和约束条件。
一文探秘LLM应用开发(21)-Prompt(编写技巧)
youmaob的博客
04-22 1129
本文旨在让无大模型开发背景的工程师或者技术爱好者无痛理解大语言模型应用开发的理论和主流工具，因此会先从与LLM应用开发相关的基础概念谈起，并不刻意追求极致的严谨和完备，而是从直觉和本质入手，结合笔者调研整理及消化理解，帮助大家能够更容易的理解LLM技术全貌，大家可以基于本文衍生展开，结合自己感兴趣的领域深入研究。若有不准确或者错误的地方也希望大家能够留言指正。第一部分 基础概念1.机器学习场景类别2.机器学习类型(LLM相关)3.深度学习的兴起4.基础模型第二部分 应用挑战。
大模型LLM-Prompt-LangGPT框架
晓的博客
01-11 1324
LangGPT 是Language ForGPT的简称，中文名为结构化提示词。LangGPT 是一个帮助你编写高质量提示词的工具。结构化提示词框架由云中江树于2023年创造，最早于 2023 年 5.4 青年节开源发布为 LangGPT 项目，一经发布便成为 GitHub 开源社区全球趋势热榜前十项目，并且撰写了学术论文开源发表。具体内容可以在飞书中查看或者github。其中有很多关于Prompt的基础介绍，以及很多高质量的文章，都是可以免费查看和复制，感兴趣的话可以搜索了解一下。
Prompt万能框架与常用评估指标
AI从业者的专栏
08-07 3019
回顾GPT的发展历程可分为四个阶段：GPT-1、GPT-2、GPT-3和ChatGPT。GPT-1作为早期基于Transformer架构的模型，采用"pretrain + finetune"范式，但受限于模型规模，未被广泛应用。GPT-2引入了新范式，通过大规模预训练，无需监督数据即可完成多种任务，开启了zero-shot学习的先河。GPT-3进一步扩大了模型和数据规模，实现了在zero-shot任务中的显著效果，尤其在无需编程技能的场景下。
大模型学习笔记四：LangChain开发框架解析
谢白羽
02-23 3682
1、模型I/O封装LLMs：大语言模型Chat Models：一般基于LLMs，但按对话结构重新封装PromptTemple：提示词模板OutputParser：解析输出2、数据连接封装Document Loaders：各种格式文件的加载器Document transformers：对文档的常用操作，如：split，filter，translate，extract metadata，etcTextr Embedding Models：文本向量化表示，用于检索等操作。
几个简单但强大的Prompt提示词框架
rs勿忘初心的博客
08-13 2066
哈佛家训》：提出正确的问题，往往等于解决了问题的大半。一个好的 Prompt 可以极大地提高效率和效果。ChatGPT 可以看作是一面镜子，它的回应反映了你的输入。如同钥匙打开门锁，好的 Prompt 为我们打开了 AI 大模型的无限潜力。无论是 ChatGPT、Claude 还是 文心一言，一个合适的 Prompt 可以极大地提高问题的解答质量与效率。正如一位行业专家所言：“你得到的输出，往往取决于你输入的 Prompt。
AI菜鸟向前飞 — LLM简介
2401_82469710的博客
05-11 1625
AI菜鸟向前飞 — LLM简介
写了 1000 条 Prompt 之后，我总结出了这 9 个框架【建议收藏】
AAI666666的博客
05-11 1681
如果你对于写 Prompt 有点无从下手，那么，本文将为你带来 9 个快速编写 Prompt 的框架，你可以根据自己的需求，选择任意一个框架，填入指定的内容，即可以得到一段高效的 Prompt，让 LLM 给你准确满意的回答。
Prompt工程全攻略：15+Prompt框架一网打尽（BROKE、COAST、LangGPT）、学会提示词让大模型更高效
丨汀、的博客
03-25 4952
Prompt工程全攻略：15+Prompt框架一网打尽（BROKE、COAST、LangGPT）、学会提示词让大模型更高效
1个Prompt框架+4个公式，讲清产品经理如何用ChatGPT让工作效率翻倍
a1014981613的博客
04-12 835
ChatGPT的出现，有些人感觉害怕，觉得科技会代替人力；而有些人觉得兴奋，想要AI帮助提升人类的工作效率。作为产品经理，ChatGPT能够帮助我们做什么？本文作者用1个Prompt框架和4个公式，讲述ChatGPT是如何帮助产品经理提高工作效率的。
LLM内容
04-02
### 大规模语言模型（LLM）简介 大规模语言模型（Large Language Model, LLM）是一种能够处理自然语言任务的人工智能技术，其核心在于通过对大量文本数据的学习，掌握复杂的语义模式和语法结构[^1]。这些模型通常具有数十亿甚至数千亿的参数量，使其具备强大的泛化能力和适应能力。 #### LLM 的基本原理 LLM 的工作原理主要依赖于两种训练方式：掩码语言建模（Masked Language Modeling, MLM）和自回归建模（Autoregressive Modeling, AR）。 - **MLM** 是指通过遮蔽部分单词并让模型预测被遮蔽的内容来学习上下文关系[^5]。这种方式有助于提高模型对双向上下文的理解能力。 - **AR** 则是指按照顺序逐字生成下一个可能的词语或字符。这种方法更适用于生成连贯的文本序列。 此外，LLM 还可以通过微调（Fine-tuning）、提示工程（Prompt Engineering）等方式进一步提升性能，从而满足特定领域的需求[^3]。 --- ### 垂类模型与多模态模型的区别 尽管 LLM 功能强大，但它并非万能工具，在某些场景下仍需借助其他类型的模型完成任务。以下是几种常见模型及其特点： | 类型 | 描述 | |--------------|----------------------------------------------------------------------------------------| | **垂类模型** | 针对某一具体应用场景设计的小型专用模型，如医疗诊断、法律咨询等领域内的定制化解决方案[^4]。 | | **多模态模型** | 能够同时处理多种类型的数据源（例如图像、音频、视频），实现跨媒体分析的功能扩展版本。 | 相比通用的大规模预训练架构而言，上述两类细分方向往往拥有更高的针对性优势；然而它们也存在局限性——即缺乏足够的灵活性去应对未知环境下的新挑战。 因此，实际操作过程中往往会采用“基于大模型构建垂直应用”的策略，即将开源或者商业化的超大型基座网络作为起点，再结合目标行业的专业知识进行二次加工改造。 --- ### 如何利用 LLM 开发企业级应用？ 当谈及如何将理论转化为生产力时，《从零开始：基于 LLM 大模型构建智能应用程序的完整指南》提供了详尽指导。该文档强调了整个流程涉及多个环节，包括但不限于需求调研、算法选型、数据准备直至最终部署上线等一系列动作要素考量因素众多。 值得注意的是，“幻觉效应”一直是制约此类项目成功与否的关键障碍之一。所谓‘hallucination’现象指的是即使输入条件完全相同情况下也可能得到截然不同的输出结果的现象。对此业界提出了诸如引入外部知识库检索机制（Retrieval-Augmented Generation,RAG）加以缓解措施建议方案[^2]。 另外值得一提的例子还有国内几家头部科技公司推出的明星产品线，像科大讯飞旗下的星火认知平台以及百度研发团队打造而成的文心一言系列等等均属于这一范畴之内，并且已经在各自擅长范围内取得了不俗成绩表现出来[见引用4关于实战案例部分内容说明]. --- ```python # 示例代码展示简单的 Fine-Tune 流程 (伪代码) from transformers import AutoTokenizer, AutoModelForCausalLM def fine_tune_llm(model_name="bigscience/bloom", dataset_path="./data"): tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name) # 加载本地数据集 with open(dataset_path, 'r') as f: data = [line.strip() for line in f] inputs = tokenizer(data, return_tensors='pt', padding=True, truncation=True) optimizer = ... # 定义优化器 loss_fn = ... # 设置损失函数 for epoch in range(num_epochs): outputs = model(**inputs) loss = loss_fn(outputs.logits, labels=...) loss.backward() optimizer.step() fine_tune_llm() ``` --- ### 总结 综上所述，虽然运用 LLM 技术创建智能化软件系统充满难度系数较高的特性，但凭借持续积累经验教训加上合理规划安排完全可以克服困难达成预期效果。未来随着算力资源日益充沛再加上框架生态愈发完善健全，相信会有越来越多高质量作品涌现问世造福社会大众群体。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值