MindSpore0.3.0-alpha体验笔记 之 LSTM

开源大模型选型实战:中美路径差异与垂直场景落地指南 大语言模型(LLM)的‘开源’并非单纯指代码或权重开放,而是涉及算力适配、数据合规、工程能力与业务闭环的系统性决策。理解open-weight模型的本质,需从其底层原理——参数可获取性、架构可修改性、部署可控制性——出发,评估其在真实生产环境中的可用性价值。尤其在金融、政务、医疗等强监管垂直领域,模型是否支持国产芯片部署、能否满足数据不出域要求、是否具备可审计的微调能力,远比参数规模或基准测试分数关键。本文结合Qwen、Llama等主流模型在国产DCU/昇腾平台与NVIDIA生态的实测对比,解析open-w 阅读详情

MindSpore0.3.0-alpha体验笔记 之 LSTM

MindSpore面世以来,更新迅速,今天已经发布了0.3.0-alpha。这篇笔记,就简单记录一下新版本中LSTM Demo的体验过程。

Demo地址:

https://gitee.com/mindspore/mindspore/tree/master/example/lstm_aclImdb

操作步骤

具体操作步骤可以参考Demo中的README.md文件。
文档很详细,按照文档一步一步来操作,就可以了,这里就不重复了。

另外,希望了解更多细节,还可以看下另外一篇中文文档。

采坑集锦

既然是笔记,就记录一下今天踩过的坑吧。

坑1 gensim

这勉强算一个坑吧,主要是操作步骤的README.md中没有提到要安装gensim。
开始训练的时候会报错。解决方法也比较简单:

pip install gensim

坑2 CUDA版本

这个坑其实是一个疏忽大意造成的坑。在租用主机选择镜像的时候,没留神选择了CUDA10.0的镜像。
开始训练的时候也会报错。后来发现后,换了一台CUDA10.1的主机,重新安装,问题就迎刃而解了。

预装:Python 3.7.5, CUDA 10.1

坑3 /mnt容量

最开始的时候,我把数据集,glove和ckpt都放在了/mnt路径下。mount到这个路径下的设备有5G的容量。当训练到第7个epoch的时候,会出现RuntimeError。
当时的训练命令如下:

python train.py --preprocess=true --aclimdb_path=/mnt/aclImdb --glove_path=/mnt --ckpt_path=/mnt/ckpt

开始觉得,把ckpt移动到主盘就可以解决了,于是修改了路径参数:

python train.py --preprocess=true --aclimdb_path=/mnt/aclImdb --glove_path=/mnt --ckpt_path=./ckpt

但是问题没有得到解决。
虽然费解,但是立刻决定把数据集和glove都改到主盘下面。
于是复制文件后,再次修改了路径参数:

python train.py --preprocess=true --aclimdb_path=./aclImdb --glove_path=./glove --ckpt_path=./ckpt

不出意料问题还是没有解决,这时仔细看了下错误信息,怀疑与预处理数据有关。
于是清空了preprocess文件夹,问题得以解决。

rm ./preprocess/*

解决了上面说的所有问题后,终于顺利完成了训练与验证。
acc有0.84。

HINT

HINT1

我当时上传glove压缩包用了很长时间。后来才想到,其实只需要下面这个文件。

glove.6B.300d.txt

如果先取出这个文件,重新压缩成只包含这一个文件的小压缩包,应该可以节约不少时间。

HINT2

注意ckpt文件的字符。
README中与实际生成的不太一样哦。。。

lstm-20-390.ckpt
lstm-20_390.ckpt

写在最后

今天主要记录了一下在跑Demo时踩过的大坑小坑,希望对大家有帮助。
最后祝贺MindSpore 0.3.0-alpha新版发布。

mindspore实现convLSTM报错:The cell inputs should not be numpy arrays MindSpore图模式不支持numpy类型数据作为输入。 阅读详情

相关推荐

HCIP - Al Solution 华为认证—— 7、大模型训练解决方案

CANN全称: Compute Architecture for Neural Networks,是昇腾针对AI场景推出的异构计算架构。核心定位: 在AI框架与硬件之间发挥承上启下的关键作用。对上: 支持多种AI框架(如MindSpore、PyTorch、TensorFlow等)。对下: 服务AI处理器与编程,是提升昇腾AI处理器计算效率的关键平台。编程接口: 针对多样化应用场景,提供高效易用的编程接口,支持用户快速构建基于昇腾平台的AI应用。05:58。

qq837993702的博客 279

【MindSpore】【LSTM】无法处理变长数据

问题描述:mindspore.nn.LSTM 无法处理变长数据对于填充的变长数据(训练前先行填充), MindSpore 中有没有对应的算子进行处理呢?PyTorch 的处理方案是使用 rnn_utils 里面的 pack_padded_sequence 进行压缩以使填充的数据不参与计算。在单向LSTM中,我可以通过手动从 output 中摘取有效的那个作为真实的 hidden ,从而防止填充的数据参与计算;但在 BiLSTM 中,由于存在从右到左的计算顺序,因此填充的数据不可避免地会参与计算,造成输出不合

weixin_45666880的博客 389

【信息科学与工程学】计算机科学与自动化—第十五篇 云计算 11 算法篇02

但若第一个应用需求40GB/s,第二个10GB/s,总需求50GB/s>40GB/s,第一个得32GB/s,第二个得8GB/s,不公平。但若分区负载不均(分区1-2各有100任务/s,分区3-4各有50任务/s),A负责1-2(200/s),B负责3-4(100/s),仍均衡。任务 τi​ 的计算需求 Wi​(CPU周期),在频率 f 下执行时间 Ti​=Wi​/f,能耗 Ei​=Pdyn​⋅Ti​=Ceff​⋅V2⋅f⋅(Wi​/f)=Ceff​⋅V2⋅Wi​。若 Mneed​>Mi​,需使用远程显存。

weixin_49199313的博客 114

MindSpore易点通·精讲系列--网络构建之LSTM算子

MindSpore易点通·精讲系列--网络构建之LSTM算子

kaierlong的博客 1667

一种结合Alphapose和LSTM的人体摔倒检测模型

Many Human-Body-Fall-Dow n Detection models are faced with problems like lower adaptability and higher w rong-detection rate in different detection scenes,and targeting on these shortcomings this research proposes a Human-Body-Fall-Dow n Detection Model based on the human skeleton keypoints and the LSTM neural network. This model detects the skeleton keypoints of the continuous multi-frame human body by Alphapose,and then divides the coordinate sequences of the skeleton keypoints into X and Y coordinate sequence,and then inputs them respectively into LSTM neural network to extract the time-order character; the last step is to input the LSTM hidden layer output vector into a full connection layer to obtain the results. This research uses public data set M uHAViMAS and Le2i to execute this experiment,and compares itself with many other detection models. The results show that this model has relatively high detection accuracy in multiple scenes,multiple view s,and multiple poses of falling.

AlphaPose人体姿态识别

AlphaPose 是一个精准的多人姿态估计系统,是首个在 COCO 数据集上可达到 70+ mAP(72.3 mAP,高于 Mask-RCNN 8.2 个百分点),在 MPII 数据集上可达到 80+ mAP(82.1 mAP)的开源系统。为了能将同一个人的所有姿态关联起来,AlphaPose 还提供了一个称为 Pose Flow 的在线姿态跟踪器,这也是首个在 PoseTrack 挑战数据集上达到 60+ mAP(66.5 mAP)和 50+ MOTA(58.3 MOTA)的开源在线姿态跟踪器,精准度高于现有技术的最好结果。

昇思MindSpore详细教程

给MindSpore添加一个新的硬件后端(device target)如何给MindSpore添加一个新的硬件后端?快速构建测试环境!如何给MindSpore添加一个新的硬件后端?快速构建测试环境!MindSpore支持异构算力,除支持华为自研的达芬奇架构的Ascend NPU外还支持CPU(e.g. MKLDNN) 以及 GPU(e.g. CUDA kernels)算子的运行。注意。

IT菜鸟 2401

鸿蒙手机卸载内置应用 adb连接

**傻瓜式删除鸿蒙系统内置应用,自己亲测有效。**

JJDXBT的博客 3万+

MindSpore QuickStart——LSTM算法实践学习

MindSpore QuickStart——LSTM算法实践学习 不得不说本作者实在很菜,还要努力的学习。首先说明一下: 1.机器学习和深度学习可以说初探完了,但是其功力太浅。 2.本想只是学习一下,看看的,但是还是入坟了 3.作者能力实在有限,基础实在太差,太菜,只是将流程走了一遍,部分理解不了。 此文为期两天的华为mindspore框架深度学习: 第一天: 1.MindSpore的WASM与Rust实验:https://www.bilibili.com/video/BV1SZ4y1p7Ab 2.基于eB

LKIDTI数据的博客 1002

Windows10 搭建 FTP 服务器

问题: 有这么一个需求,博主需要对班级同学的信息进行收集,同学的信息是一个个的文件, 正常是每个同学将自己的信息打包压缩通过 QQ 或者邮箱方式发送给博主, 博主一个个接收这些压缩包,然后进行解压,再统一放到一个文件夹下, 但是博主觉得这样子实在是太麻烦了,如果某一个同学的信息来回变动,就需要接收很多次,更改很多次, 另外如果消息过多还会产生漏掉某个同学的信息的问题。 解决方法: 如果可以使...

assiduous_me的博客 3969

半导体工厂自动化实战:用secs4net实现设备与MES系统通信(附完整代码)

本文详细介绍了如何利用secs4net框架实现半导体工厂设备与MES系统的高效通信。通过解析SECS/GEM协议的核心架构、关键业务场景实现及性能优化实践,帮助开发者快速掌握工业自动化通信技术,提升生产效率和系统稳定性。

transformer2023的博客 895

一名MindSpore新手的爬坑记录~~

转载地址:https://bbs.huaweicloud.com/forum/thread-113513-1-1.html 作者:GreatBug 作为一个DL的小白,本身也非计算机科班出身,在使用mindspore的一个多月中踩了不少坑,搞了一个NLP里的经典模型Seq2seq,虽然精度还没有达标,跪。这就来给大家总结一下新手常见的error吧,希望对大家有所帮助。 1.版本问题 目前MindSpore主要有1.0.1和1.1.1两个版本,1.1版本优化了不少MindSpore的性能和代.

skytttttt9394的博客 588

统信UOS V20 安装mysql5.7.42详细教程

到bin/下,执行下面的命令,初始化mysql服务信息,得到数据库的初始密码,实际如果目录不一样记得换成自己的目录。下载后通过远程将安装包上传至服务器,我这里将安装包上传至/usr/local/mysql 下。ps:这时候如果还是不能远程访问的话,可能是防火墙的原因,命令行执行以下命令即可。再次登录,发现缺少 libtinfo.so.5文件,再次建立软连接。登录,发现报错,提示缺少libncurses.so.5文件,使用。创建 /var/lib/ 下mysql目录。登录成功,修改密码,设置远程访问。

为谁伫立在风中 1万+

MindSpore QuickStart——LSTM算法实践心得体会

加粗样式MindSpore QuickStart——LSTM算法实践 安装0.3.0-alpha # 在矩阵池中更新mindspore pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/0.3.0-alpha/MindSpore/gpu/ubuntu_x86/cuda-10.1/mindspore_gpu-0.3.0-cp37-cp37m-linux_x86_64.whl 下载Glove数据集 Unzip the aclImd

xiyangsu2617的博客 705

分享通达信破解交易接口的使用!

那其实通达信破解交易接口的使用方法比较复杂,这里以MA均线指标为例子,只要理解了这些操作步骤,就可以很容易地使用其他指标包括自己编写的指标来进行交易。委托结果(包含委托编号), 需要分配 1024*1024 字节的空间。委托结果数组, 每项结果需要分配 1024*1024 字节的空间。0: 买入, 1: 卖出, 2: 融资买入, 3: 融券卖出,4: (市价委托)上海五档即成剩撤, 深圳五档即成剩撤。4: 买券还券, 5: 卖券还款, 6: 现券还券。0: 上海限价委托, 深圳限价委托。

1841085904的博客 2363

深度学习注意力机制新突破:YOLOv8结合SimAM无参数注意力模块,让目标检测更精准!

在计算机视觉领域,注意力机制已成为提升模型性能的关键技术。然而,传统的注意力模块如SENet、CBAM等往往引入大量额外参数,增加了模型的复杂度和计算负担。本文介绍一种创新的无参数注意力机制——SimAM(Simple Parameter-Free Attention Module),并将其成功应用于YOLOv8目标检测框架。SimAM基于神经科学理论,通过定义能量函数为特征图计算3D注意力权重,无需任何额外参数即可显著提升模型性能。本文详细阐述了SimAM的理论基础、实现原理,并提供了完整的YOLOv8集

YOLO 102

是科学还是魔法?Informer on MindSpore——时间序列预测技术实践

1研究背景时间序列预测在许多领域有着广泛和关键的应用,例如传感器网络监测、能源和智能电网管理、经济与金融、疾病传播分析等等。在这些应用场景中,可以利用大量关于过去行为的时间序列数据来做出长期预测,即长序列时序预测问题(LSTF)。不过现有的方法是在有限的问题设置下设计的,例如预测48个点或更少,而更长的序列长度则会使得模型的预测能力受到很大影响,这也是LSTF问题研究的关键点。最近的研究表明,Transformer模型具有提高预测能力的潜力。本文受到Transformer模型的启发,设计了Informer模

Kenji_Shinji的博客 2502

34、高效探索柔性蛋白质环构象空间的算法

本文介绍了一种高效探索柔性蛋白质环构象空间的算法,通过种子采样和变形采样两种技术,同时满足运动学闭合和避免空间位阻冲突的约束条件。种子采样能够在闭合无冲突构象空间中广泛生成构象,而变形采样则可以对“有趣”区域进行更密集的探索。实验结果表明,这两种方法在不同大小和受限程度的蛋白质环上均表现出色,运行时间在可接受范围内。相关算法已集成到工具包LoopTK中,可在https://simtk.org/home/looptk获取。

moon9的博客 128

mindspore打卡第24天之LSTM+CRF序列标注

序列标注指给定输入序列,给序列中每个Token进行标注标签的过程。序列标注问题通常用于从文本中进行信息抽取,包括分词(Word Segmentation)、词性标注(Position Tagging)、命名实体识别(Named Entity Recognition, NER)等。输入序列清华大学座落于首都北京输出标注BIIIOOOOOBI如上表所示,清华大学和北京是地名,需要将其识别,我们对每个输入的单词预测其标签,最后根据标签来识别实体。

qq_39306047的博客 2028

王者荣耀AI绝悟如何选英雄?

王者荣耀AI绝悟如何选英雄? 【抢射手?抢中单位?「绝悟」在打王者荣耀时是如何选英雄的?】 腾讯 AI Lab 开发的 AI 智能体「绝悟」已让王者峡谷不再只是人类召唤师的竞技场,而且这个 AI 战队在上月底进化成了「完全体」。在一局完整的比赛中,英雄选择阶段是至关重要的(比如五射手或五法师阵容会有官方劝退)。 近日,腾讯 AI Lab 和上海交通大学发布的一篇论文介绍了绝悟的英雄选择策略:Ju...

不断学习,不断进步,提高自己 1万+

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

MindSpore LSTM QuickStart

MindSpore LSTM 快入MindSpore 框架LSTM 运行安装命令GPU环境获取云端运行 MindSpore 框架 引用老师木文章深度学习框架的灵魂,“Mindspore 个人带来了惊喜,在众所周知的难题上勇闯无人区,auto-parallel完成度很高,数据并行,模型并行和混合并行。” LSTM 运行 安装命令 为了运行LSTM,需要安装MindSpore最新的0.3.0版本,通过官网mindspore获取安装方法,下面是我个人选择的环境获取的安装命令。 GPU环境获取 GPU环境5.3

Frank.Xu的专栏 931

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

python和mindspore安装教程

Python官网从2020-01-01就停止维护Python2.7版本Python官方推荐:使用Python3.X系列版本(不向下兼容python2.X版本)​ 个人推荐:使用Python3.6 ~ Python3.9之间的版本。

风中追风 1902

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

昇思25天打卡营-mindspore-ML- Day22-应用实践-自然语言处理-LSTM+CRF序列标注

学习了 LSTM+CRF 序列标注方法,它是一种结合了循环神经网络(RNN)和条件随机场(CRF)的强大模型,用于处理序列标注问题,例如命名实体识别(NER)、词性标注等。

littlesujin的专栏 672

昇思MindSpore 应用学习-LSTM+CRF序列标注-优快云

序列标注指给定输入序列,给序列中每个Token进行标注标签的过程。序列标注问题通常用于从文本中进行信息抽取,包括分词(Word Segmentation)、词性标注(Position Tagging)、命名实体识别(Named Entity Recognition, NER)等。输入序列清华大学座落于首都北京输出标注BIIIOOOOOBI如上表所示,清华大学和北京是地名,需要将其识别,我们对每个输入的单词预测其标签,最后根据标签来识别实体。

青云的博客 1193

昇思Mindspore25天学习打卡Day25:RNN实现情感分类/自然语音处理

情感分类是自然语言处理中的经典任务,是典型的分类问题。本节使用MindSpore实现一个基于RNN网络的情感分类模型,实现如下的效果:输入: This film is terrible正确标签: Negative预测标签: Negative输入: This film is great正确标签: Positive预测标签: Positive最后我们设计一个预测函数,实现开头描述的效果,输入一句评价,获得评价的情感分类。将输入句子进行分词;使用词表获取对应的index id序列;

weixin_42147595的博客 2312

如何将mindspore的ckpt文件转换为pytorch可用的pth文件

ckpt里面存放的是name 和value,可以先使用load_checkpoint方法读取MindSpore的checkpoint文件,把参数名和参数值拿到,然后使用pytorch的方法存储成pytorch支持的ckpt格式,就可以用pytorch加载了。需要在pytorch中验证在mindspore中的模型是否正确,如何将已知模型结构的mindspore模型的ckpt文件转换为pytorch可以加载的pth文件。pytorch保存ckpt的方法需要看一下官网的API介绍了。...

weixin_45666880的博客 2618
下一篇: 强化学习笔记 之 SAC算法样例(基于百度飞桨PARL)
UnseenMe
博客等级 码龄20年 193粉丝 35原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值