LSTM理解与pytorch使用

本文深入解析了LSTM的结构原理,阐述其在处理时序数据如视频和句子方面的应用,并通过实例展示了Pytorch中LSTM的使用方法及参数配置,包括输入输出格式、隐藏层信息获取等。

引言

LSTM应该说是每一个做机器学习的人都绕不开的东西,它的结构看起来复杂,但是充分体现着人脑在记忆过程中的特征,下面本文将介绍一下LSTM的结构以及pytorch的用法。

LSTM结构

总体结构

在这里插入图片描述
首先,LSTM主要用来处理带有时序信息的数据,包括视频、句子,它将人脑的对于不同time step的记忆过程理解为一连串的cell分别对不同的时刻输入信息的处理。

详细结构

一个典型的 LSTM 结构可以分别从输入、处理和输出三个角度来解析:

  • 输入: 输入包含三个部分,分别是 cell 的信息𝐶t-1,它代表历史的记忆细胞(cell)状态信息的汇总;隐藏层的信息ht-1, 它是提取到的上个时刻的特征信息; 以及当前的输入𝑥t
  • 处理: 处理部分主要是由遗忘门、输入门、输出门组成。遗忘门由当前的输入和隐藏层信息控制对于历史的 cell 信息的遗忘程度;输入门是决定当前的输入和隐藏
    层信息的利用程度;输出门是由当前的 cell 状态和输入决定输出。
  • 输出: 分别是当前的 cell 状态𝐶’和当前的隐藏层信息h’。

遗忘门
在这里插入图片描述
输入门
在这里插入图片描述
细胞状态更新
在这里插入图片描述
输出门
在这里插入图片描述

Pytorch用法

参数介绍

class torch.nn.LSTM(*
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值