【图解】LSTM模型教程 对比RNN

最新推荐文章于 2025-06-30 12:45:23 发布
原创 最新推荐文章于 2025-06-30 12:45:23 发布 · 1.4k 阅读 · 21 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#lstm #rnn #深度学习 #人工智能 #神经网络 #ai

比较好的博客：LSTM模型结构讲解-优快云博客

1. 初识LSTM

我对LSTM的理解：

总结：一个短时记忆单元（RNN的隐藏层记忆单元）和一个长时记忆单元共同处理同一个数据得出输出结果

较详细解释：单看LSTM的输出层门，将输出ht改为输出ot将，sigmoid函数改成tanh函数便成了RNN网络单元。所以LSTM网络便是在RNN的基础上引入了记忆单元C，记忆单元在每个时间步进行一次遗忘门处理，一次记忆门处理，然后对RNN的输出再处理一遍，也就是说记忆单元C会对之前所有的信息都进行了记录然后对当下的RNN输出结果再共同处理一遍得到最终输出。简单说就是，一个短时记忆单元（RNN的隐藏层记忆单元）和一个长时记忆单元共同处理同一个数据得出输出结果。

2. 超详细拆解模型

LSTM一个时间步

对比一下RNN一个时间步

最低0.47元/天 解锁文章

200万优质内容无限畅学
【RNN架构解析】LSTM 模型
风口IT猪的成长录
10-07 2029
LSTM 模型前言1. LSTM 内部结构图2. Bi-LSTM 介绍3. LSTM 代码实现4. LSTM 优缺点 前言 了解LSTM内部结构及计算公式. 掌握Pytorch中LSTM工具的使用. 了解LSTM的优势与缺点. LSTM（Long Short-Term Memory）也称长短时记忆结构, 它是传统RNN的变体, 与经典RNN相比能够有效捕捉长序列之间的语义关联, 缓解梯度消失或爆炸现象. 同时LSTM的结构更复杂, 它的核心结构可以分为四个部分去解析: 遗忘门 输入门 细胞状态 输出门
使用Python实现长短时记忆网络（LSTM）的博客教程
Echo_Wish
05-13 2545
长短时记忆网络是一种循环神经网络的变体，通过引入特殊的记忆单元（记忆细胞）和门控机制，可以有效地处理和记忆长序列中的信息。LSTM的核心是通过门控单元来控制信息的流动，从而保留和遗忘重要的信息，解决了普通RNN中梯度消失或爆炸的问题。我们定义一个简单的LSTM模型，包括一个LSTM层和一个全连接层。out = self.fc(out[:, -1, :]) # 取最后一个时间步的输出return out# 定义模型参数input_size = 1 # 输入特征维度（时间序列数据维度）
Pytorch：RNN、LSTM、GRU、Bi-GRU、Bi-LSTM、梯度消失、梯度爆炸
あずにゃん梓喵的博客
07-28 1万+
日萌社 人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新） 1. RNN架构解析 1.1 认识RNN模型 学习目标: 了解什么是RNN模型. 了解RNN模型的作用. 了解RNN模型的分类. 什么是RNN模型: RNN(Recurrent Neural Network), 中文称作循环神...
lstm结构图_LSTM模型结构的可视化
weixin_39529463的博客
11-20 7640
目录： 1、传统的BP网络和CNN网络 2、LSTM网络 3、LSTM的输入结构 4、pytorch中的LSTM 4.1 pytorch中定义的LSTM模型 4.2 喂给LSTM的数据格式 4.3 LSTM的output格式 5、LSTM和其他网络组合最近在学习LSTM应用在时间序列的预测上，但是遇到一个很大的问题就是LSTM在传统BP网络上加上时间步后，其结构就很难理解了，同时其输入输出数据格式...
长短期记忆（LSTM）网络模型
最新发布
weixin_31293733的博客
06-30 60
长短期记忆（Long Short-Term Memory，LSTM）网络是一种特殊的循环神经网络（RNN），专门设计用于解决传统 RNN 在处理长序列数据时面临的梯度消失 / 爆炸问题，能够有效捕捉长距离依赖关系。其核心在于引入记忆细胞（Cell State）和门控机制（Gate Mechanism），通过控制信息的流动来实现对长期信息的存储与遗忘。
LSTM模型
zakexu的专栏
09-17 3万+
（一）NN模型（neural network） 1.NN模型是复杂神经网络模型的基础计算单元，广泛使用于各种神经网络模型中，如下所示： 2.NN模型常见的激活函数主要有3种：sigmoid函数，tanh函数，以及ReLU（rectified linear unit）函数，分别如下： 3.NN模型若放在输出层，不同的任务使用不同的激活函数： （1）multi-class：使用
LSTM---0基础入门级教程
2403_83135661的博客
05-26 1422
使用LSTM模型的场景，是由于我们进行统计建模大赛进行农业亩产量的预估，为了处理一个三维的数据，准确的说是由（样本数，时间步长，特征数（类似温度，降雨量，光照的数据））三个维度上的量构成的一个数据集，由于一开始采用一般的模型都处理的是两维的模型，未考虑时间，所以我们都是将数据集降维（样本数，时间步长*特征数）进行处理，效果较差，所以选择LSTM模型。接着就是把剔除后的数据进行归一化处理，这里采用的归一化算法也是最简单的最大最小值的归一化，使得数据都能落在（0，1）之间。3.构建模型，喂入模型训练。
快速入门LSTM
ProgrammersFighting的博客
06-08 1160
十分钟学会LSTM一、引言二、RNN基本结构  2.1 普通DNN与RNN的区别  2.1 RNN存在的缺点三、RNN到LSTM  3.1 遗忘门  3.2 记忆门(输入门)  3.3 细胞状态  3.4 输出门四、参考文献 一、引言   LSTM是RNN的变体，因此在了解LSTM之前我们有必要先了解一下RNN的基本结构。 二、RNN基本结构   2.1 普通DNN与RNN的区别     普通的DNN结构一般包括：输入层，隐藏层，和输出层。但是隐藏层的输出和输入之间无反馈。DNN结构如下图所示。     
RNN和LSTM图解
bcwdlh的博客
08-01 891
从网上看到一些对RNN和LSTM的讲解，说得实在不明白，我看了好久才理解一点。所以把自己的理解画成图总结了一下。都是从网上找的资料不一定权威，也不是专门搞这个的，只是入门的介绍，其他深入的问题也不会。权当做一个简介和入门吧。 神经网络 如果看神经网络的一个单层而且是全连接层的话，可以表示成下面这样。 其中W就是权重矩阵，，非常好理解。 循环神经网络（RNN） 首先，为什么要有这个循环神经网络呢？因...
图解RNN\LSTM及参数分析
MansonRi
04-07 5569
循环神经网络 经典神经网络结构如下图： 从图中可以看出，循环神经网络主体A的输入除了来自输入层的xt，还有一个循环的边来提供上一时刻的隐藏状态(hidden state)ht-1。在每一时刻，循环神经网络的模块A读取了xt和ht-1后，会生成新的隐藏状态ht，并产生本时刻输出ot。因为模块A中运算和变量在不同时刻是相同的，因此RNN理论上可以被看做是同一神经网络结构被无限复制的结果。 正如CNN...
AI人工智能进阶-BERT/Transformer/LSTM/RNN原理与代码
u012456282的专栏
09-07 1902
所有的分享都来自于我个人笔记，经过我自己的思考总结实践积累下来的东西，希望能帮助到入门的朋友们。
RNN及LSTM，联系与区别
06-19
循环神经网络(Recurrent Neural Networks，RNNs)已经在众多自然语言处理(Natural Language Processing, NLP)中取得了巨大成功以及广泛应用，RNNs主要用来处理序列数据。
LSTM从入门到精通（形象的图解，详细的代码和注释，完美的数学推导过程）
热门推荐
mary19831的博客
03-16 22万+
按照八股文来说：RNN实际上就是一个带有记忆的时间序列的预测模型RNN的细胞结构图softmax激活函数只是我举的一个例子，实际上得到y也可以通过其他的激活函数得到其中a代表t-1时刻隐藏状态，a代表经过X这一t时刻的输入之后，得到的新的隐藏状态。公式主要是大白话解释一下就是，X是今天的吊针，a是昨天的发烧度数39，经过今天这一针之后，a变成38度。这里的记忆体现在今天的38度是在前一天的基础上，通过打吊针来达到第二天的降温状态。
LSTM模型介绍
张启宇(Joey Zhang)的专栏
02-04 5万+
递归神经网络（RNN） 人类不会每时每刻都开始思考。 当你阅读这篇文章时，你会根据你对之前单词的理解来理解每个单词。 你不会忘掉掉所有东西，然后再从头开始思考。 你的想法有持久性。 传统的神经网络不能做到这一点，这是一个主要的缺点。 例如，假设您想要对电影视频中每个点发生的事件进行分类。 目前尚传统神经网络无法利用其对电影中先前事件的推理来预测后者。 循环神经网络解决了这个问题。 它们是带有循环的...
RNN与LSTM的区别
MrLittleDog的博客
07-19 5万+
这篇文章简单总结一下RNN与LSTM的区别。 首先，对于基本RNN来说，它能够处理一定的短期依赖，但无法处理长期依赖问题。比如句子The cat, which already ate …, was full.和句子The cats, which already ate …, were full.，两句话的差别在于主语和谓语动词的单复数，由于句子比较长，RNN就无法处理这种问题。那么RNN为什么无法...
RNN与LSTM区别
WangYouJin321的博客
03-23 4549
RNN与LSTM的区别。 首先，对于基本RNN来说，它能够处理一定的短期依赖，但无法处理长期依赖问题。比如句子The cat, which already ate …, was full.和句子The cats, which already ate …, were full.，两句话的差别在于主语和谓语动词的单复数，由于句子比较长，RNN就无法处理这种问题。那么RNN为什么无法处理这种问题呢？因为...
经典逻辑题--谁最富
借雨醉东风的博客
06-16 447
推荐专栏《10天学会使用asp.net编程AI大模型》，目前已完成所有内容。
lstm模型原理和图解
07-14
LSTM（Long Short-Term Memory）是一种常用的循环神经网络（Recurrent Neural Network，RNN）的变体，旨在解决传统RNN中的梯度消失和梯度爆炸问题，以及对长期依赖关系的建模能力不足的问题。 LSTM中引入了一个称为"记忆单元"（memory cell）的关键组件，它允许网络在长时间内保持和访问信息。下面是LSTM的基本结构和关键组件： 1. 输入门（Input Gate）：决定是否将输入信息加入到记忆单元中。它通过对输入和前一时刻隐状态进行加权求和，并经过一个sigmoid函数输出一个0到1之间的值。 2. 遗忘门（Forget Gate）：决定是否将前一时刻的记忆保留到当前时刻。它通过对前一时刻的记忆和当前输入进行加权求和，并经过一个sigmoid函数输出一个0到1之间的值。 3. 更新状态（Update State）：根据输入门和遗忘门的输出，更新记忆单元的内容。这里使用了一个tanh函数来生成一个候选记忆单元的值。 4. 输出门（Output Gate）：决定当前时刻的隐状态输出。它通过对当前记忆单元和当前输入进行加权求和，并经过一个sigmoid函数输出一个0到1之间的值。 5. 隐状态（Hidden State）：根据输出门的输出和当前记忆单元的内容，计算当前时刻的隐状态。这里通过将当前记忆单元的值经过一个tanh函数得到一个新的候选隐状态，然后与输出门的输出相乘得到最终的隐状态。 这些门控制着信息的流动和记忆的更新，使得LSTM能够有效地学习长期依赖关系。通过在时间序列上重复使用LSTM单元，网络可以在不同时间步之间传递信息，并且保持对过去信息的记忆。 希望这个简单的图示和解释能够帮助你理解LSTM模型的原理。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AIScholar_lrm

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值