【收藏必备】深入理解循环神经网络：NLP领域的基石，大模型学习的必经之路

Agent学习路线

墨衍会员 · AI 创作全网分发码龄6年

关注

原创最新推荐文章于 2026-11-10 00:57:14 发布 387 阅读 AI 写同款· GEO 优化 ›

「文智助手」全场景办公AI助理AI+OPC全流程实践方案（大赛作品）阅读详情

前言

有了上文的铺垫，本节进入循环神经网络(Recurrent Neural Network)。卷积神经网络主要解决计算机视觉领域的问题，而循环神经网络主要解决自然语言处理(NLP)领域的问题。

自然语言应该是人工智能中最难的，首先输入就是不确定的，有长有短；另外同一个词语，在不同位置，在不同的上下文，语义可能天差地别。

想要处理自然语言，这就要求神经网络能够处理变长的输入，另外还得有“记忆”能力，从记忆的上下文中理解语义。

1.循环神经网络

循环神经网络最核心的就是循环，隐藏层与输入层之间的循环。

我们设定一个三层的神经网络，输入是token的嵌入向量，那么可以这样大致的描画循环神经网络的处理流程：

每次输入一个token的嵌入向量，这样就能应对任意长度的序列。

隐藏层的输出又称作隐状态，基于该机制后面的词就能利用前面的信息进行计算，也就是有了理解上下文的能力。

看似很完美，实则有个致命的问题：隐状态传递的是一种短期记忆(Short-Term Memory)，距离比较远的两个token很难产生关系。

1.1 LSTM

LSTM(Long Short-Term Memory)长短期记忆网络，就是针对循环神经网络只有短记忆而进行的缝缝补补。

这个缝缝补补既没有革命性的改变，而且还特别晦涩难懂。

记忆细胞状态是 LSTM 的脊柱，一条贯穿时间的水平线，它的目的是在很长一段时间内稳定地携带信息，让早期的信息也能影响到后期的决策。

记忆细胞状态这个“长期记忆”的维护工作有遗忘门和输入门完成，直观理解就是首先通过遗忘门扔掉应该遗忘的信息，然后通过输入门加上应该记住的新的信息。

新的长期记忆 = 旧的长期记忆 × 遗忘门的决定 + 输入门的决定

回想一下之前介绍激活函数 sigmoid 的内容，它的输出是0到1的区间，通过乘法操作可以实现保留趋向于1的信息，扔掉趋向于0的信息。

输出门的作用就是在长期记忆的基础上生成下一个短期记忆。

由于 LSTM 太复杂了，而且训练成本更高，所以又缝缝补补出了个简化版：GRU(Gated Recurrent Unit)门控循环单元[1]，效果不如 LSTM，这里就不详细介绍了。

2 注意力机制

在 Seq2Seq[2] 模型中，注意力机制被引入循环神经网络，用于提高长句的翻译质量。

此时注意力机制还仅仅是个配角，谁能想到2017[3]年之后成为了绝对的主角！

Transformer 是下一节的主题，本节我们来回顾一下 encoder-decoder 翻译中的注意力机制。

使用循环神经网络进行翻译工作，一般流程如上所示。对于长句可以用 LSTM 优化效果，但是聪明的研究人员通过类比人类的翻译行为，提出了另一种革命性的优化方式，首先扪心自问我们自己是如何进行长句的翻译呢，我们不是一次性记住整个句子（编码器），而是会在翻译的过程（解码器）中时不时的把注意力放在原句的关联部分，然后逐步进行翻译。

看起来很玄妙，实际实现很简单，就是将编码器每一步生成的隐状态的值进行加权求和生成一个注意力向量。

在解码器中，拼接的不再是简单的隐状态，而是注意力向量。基于这个注意力向量，模型能够关联原句中需要关注的部分。

普通人如何抓住AI大模型的风口？

为什么要学AI大模型

当下，⼈⼯智能市场迎来了爆发期，并逐渐进⼊以⼈⼯通⽤智能（AGI）为主导的新时代。企业纷纷官宣“ AI+ ”战略，为新兴技术⼈才创造丰富的就业机会，⼈才缺⼝将达 400 万！

DeepSeek问世以来，生成式AI和大模型技术爆发式增长，让很多岗位重新成了炙手可热的新星，岗位薪资远超很多后端岗位，在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合，飞速发展，成为炙手可热的新风口，企业非常需要了解AI、懂AI、会用AI的员工，纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述

AI大模型开发工程师对AI大模型需要了解到什么程度呢？我们先看一下招聘需求：

在这里插入图片描述

知道人家要什么能力，一切就好办了！我整理了AI大模型开发工程师需要掌握的知识如下：

大模型基础知识

你得知道市面上的大模型产品生态和产品线；还要了解Llama、Qwen等开源大模型与OpenAI等闭源模型的能力差异；以及了解开源模型的二次开发优势，以及闭源模型的商业化限制，等等。

了解这些技术的目的在于建立与算法工程师的共通语言，确保能够沟通项目需求，同时具备管理AI项目进展、合理分配项目资源、把握和控制项目成本的能力。

产品经理还需要有业务sense，这其实就又回到了产品人的看家本领上。我们知道先阶段AI的局限性还非常大，模型生成的内容不理想甚至错误的情况屡见不鲜。因此AI产品经理看技术，更多的是从技术边界、成本等角度出发，选择合适的技术方案来实现需求，甚至用业务来补足技术的短板。

AI Agent

现阶段，AI Agent的发展可谓是百花齐放，甚至有人说，Agent就是未来应用该有的样子，所以这个LLM的重要分支，必须要掌握。

Agent，中文名为“智能体”，由控制端（Brain）、感知端（Perception）和行动端（Action）组成，是一种能够在特定环境中自主行动、感知环境、做出决策并与其他Agent或人类进行交互的计算机程序或实体。简单来说就是给大模型这个大脑装上“记忆”、装上“手”和“脚”，让它自动完成工作。

Agent的核心特性

自主性： 能够独立做出决策，不依赖人类的直接控制。

适应性： 能够根据环境的变化调整其行为。

交互性： 能够与人类或其他系统进行有效沟通和交互。

对于大模型开发工程师来说，学习Agent更多的是理解它的设计理念和工作方式。零代码的大模型应用开发平台也有很多，比如dify、coze，拿来做一个小项目，你就会发现，其实并不难。

AI 应用项目开发流程

如果产品形态和开发模式都和过去不一样了，那还画啥原型？怎么排项目周期？这将深刻影响产品经理这个岗位本身的价值构成，所以每个AI产品经理都必须要了解它。

看着都是新词，其实接触起来，也不难。

从0到1的大模型系统学习籽料

最近很多程序员朋友都已经学习或者准备学习 AI 大模型，后台也经常会有小伙伴咨询学习路线和学习资料，我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师（吴文俊奖得主）
在这里插入图片描述

给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料，这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。
在这里插入图片描述

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入，精准学习显得尤为重要。一份系统的技术路线图，不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点，还能提供一条高效、有序的学习路径。

基础篇，包括了大模型的基本情况，核心原理，带你认识了解大模型提示词，Transformer架构，预训练、SFT、RLHF等一些基础概念，用最易懂的方式带你入门AI大模型
进阶篇，你将掌握RAG，Langchain、Agent的核心原理和应用，学习如何微调大模型，让大模型更适合自己的行业需求，私有化部署大模型，让自己的数据更加安全
项目实战篇，会手把手一步步带着大家练习企业级落地项目，比如电商行业的智能客服、智能销售项目，教育行业的智慧校园、智能辅导项目等等