初学，将LSTM由tensorflow框架转换为pytorch遇到的一些问题汇总

Jw133

已于 2024-12-18 22:07:35 修改

阅读量226

点赞数 1

文章标签： lstm tensorflow pytorch

于 2024-12-18 20:53:08 首次发布

本文链接：https://blog.youkuaiyun.com/Jw133/article/details/144569344

版权

环境：cuda10.0，python3.7，torch 1.2.0

问题1：前向传播时报错：

RuntimeError: cuDNN error: CUDNN_STATUS_BAD_PARAM

原因是nn.LSTM这个模块不支持torch.float64，如果直接用torch.from_numpy转换向量，其类型是torch.float64，需要加一个.float()转换为torch.float32

问题2：我的输入是（batch, 7, 5）keras.LSTM直接输出了（batch，50）
原因是keras.LSTM默认输出最后一个时间步的结果，如果return_sequences设置为True，则会输出（batch，7，50）

持续更新中。。。

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Jw133

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

2025年课程设计机器学习&深度学习实战案例,含有python代码和教程 (4月10日已更新1179篇)

sybh的博客

10-05

8039

10月促销价99.9,适合初学python机器学习深度学习的学生,从入门到精通,专栏内含有讲解,每篇文章都含有对应的代码,会持续更新,更新至千篇案例,已经更新六百多个项。

深度学习系列资料总结

专注大数据与人工智能技术分享，欢迎私信加群互相学习！

07-17

2万+

说明本系列深度学习资料集合包含机器学习、深度学习等各系列教程，主要以计算机视觉资料为主，包括图像识别、分类、检测、分割等，内容参考Github及网络资源，仅供个人学习。深度学习定义一般是指通过训练多层网络结构对未知数据进行分类或回归深度学习分类有监督学习方法——深度前馈网络、卷积神经网络、循环神经网络等；无监督学习方法——深度信念网、深度玻尔兹曼机，深度自编码器等。手写机器学习笔记github机器学习算法公式推导以及numpy实现github人工智能相关术语link。..................

参与评论您还未登录，请先登录后发表或查看评论

12大深度学习开源框架（caffe,tensorflow,pytorch,mxnet等）汇总详解

YBAdiam的博客

01-19

2万+

这是一篇总结文，给大家来捋清楚12大深度学习开源框架的快速入门，这是有三AI的GitHub项目，欢迎大家star/fork。 https://github.com/longpeng2008/yousan.ai 1 概述 1.1 开源框架总览现如今开源生态非常完善，深度学习相关的开源框架众多，光是为人熟知的就有caffe，tensorflow，pytorch/caffe2，keras，mxnet，paddldpaddle，theano，cntk，deeplearning4j，matconvnet

fengdu78的博客

12-10

404

TensorFlow、Keras和Pytorch是目前深度学习的主要框架，也是入门深度学习必须掌握的三大框架，但是官方文档相对内容较多，初学者往往无从下手。本人从github里搜到三个非...

【深度学习】资源：最全的 Pytorch 资源大全

探索世界，改变世界

10-22

5128

Pytorch资源大全目录 Pytorch及相关库 NLP和语音处理：计算机视觉：概率/生成库：其他库：教程和示例论文的实现 Pytorch其他 Pytorch及相关库 pytorch：Python中的张量和动态神经网络，具有强大的GPU加速功能。 NLP和语音处理： pytorch text：火炬文本相关内容。 pytorch-seq2seq...

主流深度学习框架及神经网络模型汇总

ZJQ的博客

08-27

1万+

用大白话说就是是一个中间件，比如你PyTorch的模型想转换别的，就得通过ONNX，现在有的框架可以直接转，但是在没有专门支持的时候，ONNX就非常重要了，万物先转ONNX，ONNX再转万物。NCNN的速度是超过TFLite的，但是有点麻烦的是之前得经常自己用C去复现一些算子(框架起步都这样)，现在因为使用的人数很多，因此算子很多。同样的设备，MNN的部署速度是非常快的，树莓派3B上cpu的加速是NCNN速度的3被以上，而且文档非常的全，代码整洁清晰，非常适合开发者使用。对下图左，标注为人，羊，狗，草地。

60分钟快速入门 PyTorch

AI 算法笔记

05-22

1282

PyTorch 是由 Facebook 开发，基于 Torch 开发，从并不常用的 Lua 语言转为 Python 语言开发的深度学习框架，Torch 是 TensorFlow 开源前非常出名的一个深度学习框架，而 PyTorch 在开源后由于其使用简单，动态计算图的特性得到非常多的关注，并且成为了 TensorFlow 的最大竞争对手。目前其 Github 也有 2w8+ 关注。 Githu...

大模型带你学pytorch课程

qwerty200696的博客

07-23

1335

了解张量的概念，这是PyTorch数据结构的基础。张量类似于NumPy的数组，但它们可以利用GPU进行加速计算。深入理解的 C++ 源码可以揭示 PyTorch 如何高效地执行自动求导和反向传播。然而，这需要对 C++ 和深度学习算法有深厚的了解，以及对 PyTorch 源码的详细研究。对于大多数用户而言，了解高层次的接口和使用方式就已经足够了。如果需要进行底层优化或扩展 PyTorch 的功能，那么深入源码是必要的。

手把手教你用 Keras 实现 LSTM 预测英语单词发音

IT派

08-02

2509

1. 动机我近期在研究一个 NLP 项目，根据项目的要求，需要能够通过设计算法和模型处理单词的音节 (Syllables)，并对那些没有在词典中出现的单词找到其在词典...

理解BERT:一个突破性NLP框架的综合指南

TensorFlowNews

11-04

1676

概述 Google的BERT改变了自然语言处理(NLP)的格局了解BERT是什么，它如何工作以及产生的影响等我们还将在Python中实现BERT，为你提供动手学习的经验 BERT简介想象一下——你正在从事一个非常酷的数据科学项目，并且应用了最新的最先进的库来获得一个好的结果!几天后，一个新的最先进的框架出现了，它有可能进一步改进你的模型。这不是一个假想的场景——这是在自然语言处理(...

【PyTorch进阶指南】：自定义数据集与训练策略的实战技巧

![【PyTorch进阶指南】：自定义数据集与训练策略的实战技巧]...在这一章节中，我们将对PyTorch框架做基础介绍，并带领读者完成安装配置。 ## 1.1 PyTorch框架简介 PyTorch由Facebook的人工智能研究小组开发，它

深度学习知识点全面总结

最新发布

qq_27390023的博客

04-13

591

AlphaFold3 protein_dataset模块 ProteinDataset 类 _patch 方法的主要目的是围绕锚点残基（anchor residues）裁剪蛋白质数据，提取一个局部补丁（patch）作为模型输入。

R3打卡——pytorch实现心脏病预测

qq_52649952的博客

04-07

2089

1.环境配置与数据加载检查GPU可用性并设置训练设备使用Pandas加载心脏病数据集heart.csv数据集包含13个生理特征和1个目标变量（是否患病）样本总量：303条（示例数据未展示具体维度）2.数据预处理特征标准化：使用对特征列进行Z-score归一化数据集划分：训练集90%（约273条）测试集10%（约30条）数据张量化：将Numpy数组转换为PyTorch Tensor创建DataLoader：批量大小64未启用shuffle（可能影响训练效果）

从代码学习深度学习 - 注意力汇聚：注意力评分函数(加性和点积注意力) PyTorch 版

weixin_43887510的博客

04-10

1216

在深度学习领域，注意力机制（Attention Mechanism）已经成为许多模型的核心组件，尤其是在自然语言处理（NLP）和计算机视觉任务中。注意力机制的核心思想是通过计算查询（Query）与键（Key）之间的相关性，动态地为值（Value）分配权重，从而聚焦于最重要的信息。本篇博客将通过 PyTorch 代码，深入探讨注意力汇聚（Attention Pooling）的两种常见评分函数：加性注意力（Additive Attention）和点积注意力（Dot Product Attention）。

pytorch小记（十六）：PyTorch中的`nn.Identity()`详解：灵活模型设计的秘密武器

xzs1210652636的博客

04-09

1072

在PyTorch的深度学习模型开发中，`nn.Identity()`是一个看似简单但功能强大的工具。它虽然不进行任何数学运算，但在实际开发中却能解决许多复杂问题。本文将深入解析`nn.Identity()`的作用、应用场景以及实际代码示例，帮助开发者更好地利用这一“隐形利器”。

如何使用 PyTorch 和 EfficientNet 创建一个 AI 游戏外挂[特殊字符]

欧阳天涵的专栏

04-10

1085

你是否刚刚接触人工智能领域，并想找一个有趣的入门项目？那就来吧！这篇博客将指导你使用 PyTorch 和 EfficientNet 创建一个可以玩 Chrome 小恐龙游戏的 AI 模型。开发 ChatGPT 的 OpenAI 组织实际上是从构建可以玩 Atari 游戏的 AI 模型开始的。这个项目被称为 Atari AI，是深度强化学习的首次演示之一，为人工智能领域的许多后续进展铺平了道路。

lstm为什么将数据转换为 PyTorch 张量

05-23

LSTM 是一种深度学习模型，它需要输入数据的张量格式来进行训练和预测。PyTorch 是一种深度学习框架，它提供了张量操作和自动求导功能，方便用户定义和优化模型。将数据转换为 PyTorch 张量可以带来以下好处： 1. 方便数据处理：PyTorch 提供了丰富的张量操作，可以方便地对数据进行处理。例如，可以使用 PyTorch 的函数将数据进行标准化、归一化等操作。 2. 支持 GPU 计算：PyTorch 支持使用 GPU 进行计算，可以大大加快模型的训练和预测速度。 3. 方便模型定义：PyTorch 提供了自动求导功能，可以方便地定义和优化模型。将数据转换为 PyTorch 张量后，可以直接将其作为模型的输入。综上所述，将数据转换为 PyTorch 张量可以提高数据处理效率、加速模型计算以及方便模型定义和优化。