从零手搓大模型之路（三、TinyAgent的构建）

写在前面：

第三堂课是关于Agent的构建，可能是之前的博文学习llama3时进行过agent的能力体验，感觉这堂课还是比较轻松。

也借助这个机会，重温了一遍agent，也翻阅了一些文章，了解了下ReAct，碰巧最近本地部署了qwen-7b-int4的模型，所以本博文就记录下将教程中的大模型替换成qwen的输出样貌以及其他前面博文没提到的内容。

依旧是先放上课程链接：

手搓大模型

React的论文链接：

ReAct论文链接

 一位大佬的Agent解读：

一文带你了解基于大模型的Agent

1、ReAct介绍

ReAct（Reasoning and Acting，推理+行为），一种用于语言模型的新方法，专注于将推理和行动融合在一起。（其实也是一种提示词工程）

推理部分有助于模型进行归纳、跟踪和更新行动计划，并处理异常情况；而行动部分则使模型能够与外部信息源（知识和环境）进行交互，以收集所需信息。

为什么使用：

• 一步步操作（相当于做数学题给出详细的做题步骤），提高了模型的可解释性和可信度。
• 提升大模型处理复杂问题的能力。
• 一定程度上解决的大模型的幻觉问题（模型在处理输入时可能会产生一些看似合理但实际上是错误的输出），
• 在与思维链（CoT）结合使用时，可以帮助解决推理错误，