大模型能力扩展之——提示词(Prompt),知识库,思维链(CoT)和Agent(代理)

【AI】知识库,Chain,Agent,提示词工程 解释了知识库,Chain,Agent的区别,简单介绍了提示词工程,简单介绍了大模型落地时常见的问题和解决方案 阅读详情

“ 大模型的推理能力配合外部工具才能真正发挥大模型的作用**”**

在学习和使用大模型的过程中,我们会发现大模型只能用来进行一下简单的问答;一旦涉及到复杂的问题,大模型就无能为力了。

其原因就在于我们并不会使用大模型,或者说不知道怎么发挥大模型的强大能力。‍‍‍

虽然很多人使用别人开发好的AI工具去生成一些文本,图像等内容进行创作;或者通过外挂知识库的方式来增强大模型的能力范围,但离真正发挥大模型的能力还差好远。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍
在这里插入图片描述

01

—

怎么发挥大模型的能力?‍‍‍‍‍

对大模型的使用大致分为以下几种类型,入门级别可以简单使用大模型提供的聊天窗口进行问答来解决一些问题;再厉害一点的就是学会使用一些第三方基于大模型开发的一些AI工具。

而在更加高级的使用场景中,就不是普通人能够完成的了,这就需要有一定的技术和开发能力才能实现。‍‍‍‍‍

比如,自己搭建一个知识库,每次使用大模型的时候都会从知识库中获取知识输入到大模型,以获得更好的结果;而再高级一点的就是使用提示词+知识库+思维链+外部工具(API,功能代码等)来实现人类才能做到的事情。‍‍‍‍‍‍‍‍

举个例子,通过以上方式,告诉大模型给我规划一个三天两晚的短期旅程,并且要给出完整的可行性方案,还要让大模型帮你提取预定好酒店和门票等。‍‍‍‍‍‍‍‍‍‍‍

这个依靠大模型本身的能力是无法完成的,因此就需要使用外部工具,而这也叫做Agent(代理)技术。‍

_大模型知识来源_‍‍‍‍‍

我们都知道大模型有很强大的知识储备,在预训练阶段用于训练的数据越多,数据质量越好,大模型的性能就越好。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

一般来说,大模型的知识来源有三个方向,第一种就是大模型本身的知识储备,这些知识来源于预训练数据;这也是为什么大模型在不依靠任何外力的情况下就可以回答一些问题。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

但由于预训练的原因,大模型每次更新自身知识就需要重新训练或者微调;由于成本和技术原因就导致大模型自身知识更新不及时;这时就会出现一个问题,在涉及到大模型自身知识范围之外的问题时,大模型就会“一本正经的跟你胡说八道”。‍‍‍‍‍

因此就有了后面两种情况,第一种就是知识库,简单来说就是给大模型配置一个资料库。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

这样,大模型在遇到问题的时候就可以依靠自身的知识储备加上外部资料库的知识来回答问题。这样就间接解决了大模型知识更新不及时的问题。‍‍‍‍‍‍‍

但仅有知识库还不够完善,因为有些东西是动态改变的,比如说每天的天气情况,金融市场的交易情况等;这是知识库解决不了的问题,因此就需要给大模型配备外部工具,比如天气查询的API或者股票查询接口等。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

这时,大模型就可以利用其Function call的能力来调用外部工具来实现目的。‍‍‍

**Function call是在大模型之上封装的一层可以调用外部工具的一个方法,有些模型实现了Function call的功能,而有些模型没有实现这个功能,这时就需要你自己来实现。**‍‍‍‍‍‍‍‍‍

以上就是大模型知识的三个来源,根本不同的情景,大模型可能会使用自身的知识来解决问题;在自身知识解决不了的情况下就会使用知识库和外部工具的方式来解决——前提是配置了知识库和外部工具集。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

_Agent(代理)_‍‍‍‍‍‍‍

人工智能代理(AI Agent),目前为止其并没有一个公认的定义;简单来说就是让大模型能够像真正的人类一样来完成更加复杂任务的一种方式和方法论。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

因为大模型虽然能力很强大,但从应用的角度来说它更像是一个“大脑”,它能够理解问题,思考问题,但没办法解决问题。‍‍

比如说我想出去玩,让大模型给我规划行程,这个是没问题的;但你让它帮你订票就有问题了,而这时Agent就出现了,它就是可以让大模型不但能帮你规划,还能帮你订票。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

提示词

使用过大模型的人都知道,提示词直接影响到大模型的表现;简单的提升词虽然也能让大模型完成任务,但往往完成的不是很好,甚至会有很大问题。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

而在专业的提升词工程中,大模型会有几个角色,一个是system(系统)角色,一个是assistant(助手)角色和user(用户)角色。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

system角色是来限定大模型定角色范围的,比如是老师,科学家,医生等,不同的角色会擅长不同的领域;而user角色就是我们使用者的角色,可以用来提出问题等;assistant角色就是大模型本身或者说是大模型回答user角色问题的“助手”。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

因此良好的提示词能够激发大模型的能力,比如其推理和规划的能力;提示词越详细大模型就能回答的越好。‍‍‍‍

比如说,在设计提示词时需要告诉大模型的角色,当前背景,需要完成的任务以及大模型回答的风格等。‍‍‍‍‍‍

您想要ChatGPT帮您写一篇关于气候变化的文章,最终的提示词可能是这样:‍

作为一个专业研究气候变化的科学家(CR:能力与角色),请基于当前的科学共识和最新的研究数据(I:洞察),撰写一篇详细且科学严谨的报告(S:陈述),内容需涵盖气候变化的原因、影响以及可能的解决方案。请采用客观且权威的写作风格(P:个性),并提供几种不同的结构和论点供选择(E:实验)

https://blog.youkuaiyun.com/qq_17827079/article/details/136475535

思维链

而仅有提示词功能还不足以完全发挥大模型的能力,因此又有了思维链(CoT)的出现,思维链的作用就是让大模型有一个完整的思考过程,并且可以给出一些案例,来让大模型处理更加复杂的任务。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

比如说,让大模型帮你设计一个详细的理财方案;虽然依靠大模型或者知识库的能力,大模型也能完成任务;但完成任务的效果可能就不是那么满意了。‍‍‍‍‍‍

因此,大模型就可以通过自身的推理能力以及外部工具,通过多次思考来完成这个任务。‍‍‍‍‍

比如说,你想要一个理财方案,第一步要评估当前的财务情况;第二步要明确理财目标;第三步要怎么具体实施等。‍‍‍‍‍‍

而这就需要借助大模型等推理和规划能力来制定一个详细的可行性方案。‍‍‍‍‍‍‍‍‍‍‍‍‍

思维链的作用就是让大模型像人类一样思考,一步一步的来完成任务。‍‍‍‍‍‍

外部工具(tools)

外部工具的作用就是让大模型可以实时获取当前的信息,比如股票的价格波动;以及能够借助外部工具自主完成任务,比如订票。‍‍‍‍‍‍‍‍‍‍‍‍‍

通过以上方式用户就可以创建一个具有某种功能的Agent,比如一个理财大师;而用户可以创建多个不同的Agent来互相协作,比如创建一个投资人的Agent,它能够根据当前的市场环境做出准确的投资决策;然后再创建一个软件开发的Agent,这样就可以让两个角色互相配合,软件开发的Agent复杂产品的设计和研发,投资Agent复杂做市场融资和市场开拓。‍‍‍‍‍‍‍‍

在这里插入图片描述

知识库智能提示词编写技巧 精准性:明确“知识库范围+任务目标”,不模糊;结构化:用“步骤+格式”降低AI理解成本;约束性:加入“防编造+上下文约束”,确保结果可靠。掌握以上技巧,可让AI高效调用知识库,输出“有依据、贴合需求、易使用”的结果,避免“无效回复”或“编造信息”。 阅读详情

相关推荐

Prompt提示词技巧:如何使用思维链COT巧妙提升LLM输出效果

我们来回到问题的本质,他希望用户输入「产品名称」「目标客户」以及「产品卖点」,然后生成海报文案。稍微思考下,如果我们是海报文案的设计师,我们会怎么从用户给定的这些数据,生成一些优质的海报文案?

aiboycoder的博客 8776

大模型:提示词(Prompt),知识库,思维链(CoT)和Agent(代理)

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!

m0_56255097的博客 2305

告别玄学:手把手配置EtherCAT从站PDI接口与同步采样(含Sync/Latch信号实战)

本文详细解析了EtherCAT从站PDI接口配置与同步采样技术,涵盖微处理器通信与直接驱动IO模式选择、同步采样四大触发模式(SOF、Latch_in、Sync0/Sync1)及输出触发实战。通过伺服驱动器实例,帮助工程师突破配置难点,实现高精度同步控制,提升工业自动化系统性能。

weixin_30667649的博客 484

详解AI大模型行业黑话,迅速搞懂提示工程(prompt)、向量工程(embedding)、微调工程(fine-tune)

当身边的人都在讨论大模型时,你有没有发现总会听到一些陌生的词汇?本文通过通俗易懂的例子带你轻松了解这些大模型的行业黑话,看完你也是专家!

分享AI芯片开发经验 3632

Win11下高效管理JDK1.8与JDK17双环境的实战指南

本文提供了一份在Windows 11系统上高效管理JDK 1.8与JDK 17双环境的实战指南。文章详细讲解了如何实现双版本切换,包括如何干净安装两个JDK、通过巧妙配置环境变量实现命令行一键切换,以及在不同IDE和构建工具中为项目独立配置JDK版本,旨在帮助Java开发者彻底解决版本冲突问题,提升开发效率。

ipfs8storage的博客 547

9、工业数据管理:Historian、ERP、MES与资产模型解析

本文深入解析了工业数据管理中的核心概念与技术,包括Historian数据库、ERP和MES系统以及资产模型。文章详细介绍了Historian数据库的特性、架构分类、数据采集方式及时间序列处理能力,同时探讨了ERP和MES系统的功能与优势,特别是MES在生产执行中的重要作用。资产模型部分结合ISA-95和ISA-88标准,阐述了工业资产的层次化建模方法。此外,文章还分析了各系统之间的协同关系、面临的挑战及应对策略,并展望了未来工业数据管理的发展趋势,如云原生技术、人工智能融合和工业物联网的应用。

pz89012345的博客 145

AI大模型技术进阶学习——提示词(Prompt)、知识库、思维链(CoT)和Agent(代理)

如果你真的想学习大模型,请不要去网上找那些零零碎碎的教程,真的很难学懂!你可以根据我这个学习路线和系统资料,制定一套学习计划,只要你肯花时间沉下心去学习,它们一定能帮到你!

2401_85373691的博客 1656

MIKE水动力笔记13_数字化海图2之克里金插值

在进行MIKE水动力建模之初,需要准备好水深数据,本专题系列博文主要讲解如何将扫描版JPG格式海图数据在ArcGIS中进行数字化并制作成xyz水深地形数据,用的克里金插值方法,仅供参考。

晏长街的博客 2881

【科普】大模型系列—提示词(Prompt),知识库,思维链(CoT)和Agent(代理)

大模型并不只是一个用来回答问题的机器人,通过提示词,思维链,知识库和工具集的合理配合,它能够发挥人们无法想象的威力。

kaka0722ww的博客 1445

UG\NX二次开发 使用UF_CURVE_create_ocf_feature函数创建“在面上偏置”特征

使用UF_CURVE_create_ocf_feature函数创建“在面上偏置”特征。

王牌飞行员_里海的博客 850

华为OD机考双机位C卷 - 风险投资计划(Java & Python& JS & C/C++ & GO )

华为OD机考双机位C卷 - 风险投资计划(OD上机考试双机位C卷)。提供Java、C++、Python、Go、JavaScript源码实现,并提供完整思路讲解,以及在线OJ模拟做题。

算法大师! 548

【科普】大模型核心概念解析:提示词 (Prompt)、知识库、思维链 (CoT) 和 Agent

【科普】大模型核心概念解析:提示词 (Prompt)、知识库、思维链 (CoT) 和 Agent

大模型研究中心 1070

【RTD】二分法查找和分段线性插值算法在RTD中应用

二分法查找和分段线性插值算法在RTD中的典型应用。

只要思想不滑坡,想法总比问题多。 2377

AI大模型技术进阶学习——提示词(Prompt)、知识库、思维链(CoT)和Agent(代理),小白到程序员的进阶指南

大模型单纯使用只能解决简单问题,通过结合提示词工程、思维链、知识库和外部工具(API等)才能发挥其强大能力。大模型知识来源于自身预训练数据、外部知识库和实时工具调用,Agent技术使大模型能像人类一样完成复杂任务。学习大模型技术抓住AI风口,需系统掌握这些方法与工具,才能在金融、医疗等多领域创造价值。

2401_85154887的博客 741

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

小白学大模型:提示词工程(Prompt)与Agent,简单易懂,轻松拿捏!!

提示是输入给生成式人工智能(Generative AI)模型的指令,用于指导模型的输出。提示可以由文本、图像、声音或其他媒体组成。一些提示的例子包括:“为会计公司的营销活动写一个三段式的电子邮件”,一张桌子上放着东西的照片,附带文本“描述桌子上的所有东西”,或者一段在线会议的录音,附带指示“总结这个会议”。为了帮助更多热爱技术、渴望成长的朋友,我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶,也是我在行业一线实战经验的总结。

datian1234的博客 3315

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

COT:大模型的强化利器

一个完整的包含 CoT 的 Prompt 往往由指令(Instruction),逻辑依据(Rationale),示例(Exemplars)三部分组成。一般而言指令用于描述问题并且告知大模型的输出格式,逻辑依据即指 CoT 的中间推理过程,可以包含问题的解决方案、中间推理步骤以及与问题相关的任何外部知识,而示例则指以少样本的方式为大模型提供输入输出对的基本格式,每一个示例都包含:问题,推理过程与答案。

1608

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

上一篇: 大模型之提示词工程原理——提示学习(prompt learning)
下一篇: 基于LangChain+ChatGLM2的本地知识库实践
大模型应用场景
博客等级 码龄5年 7683粉丝 1350原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值