MindSpore Lite 端侧部署第一步:模型转换(mindir转ms)

【模型转换】将.mindir文件转换成.ms文件(Windows篇) 首先需要在MindSpore中训练好并经过评估可用的模型,可以以标准格式(例如onnx, mindir等)导出,得到.mindir模型文件(例如lenet.mindir)。为了将模型部署到自定义应用中,还需要将其转换为更为紧凑和高效的ms格式模型,用于在MindSpore-Lite环境中推理,这可以通过MindSpore Lite提供的模型转换工具converter_lite完成。 阅读详情

本文记录一下模型部署相关的MindSporeLite模型转换过程:mindir模型转ms模型
这里的ms模型是适用于端侧部署的,所以这个转换可以看成是部署的第一步。

环境

64位X86 ubuntu 16.04
MindSpore 1.1.0

clone代码

因为需要在本地编译并生成模型转换与推理相关的一系列文件,先下载MindSpore代码。
这里是从r1.1这个分支下载的。

unseenme@v100:~/study/github$ git clone -b r1.1 --depth=1 https://github.com/mindspore-ai/mindspore.git

访问Github困难的小伙伴们可以从Gitee下载。

编译

下载完成后,进入目录,通过下面的脚本与参数,进行一键编译。
这个脚本真的是非常方便,这里手动点赞!

unseenme@v100:~/study/github/mindspore$ bash build.sh -I x86_64

编译需要一定的时间,最后完成的时候有如下提示。

---------------- mindspore lite: build success ----------------

编译成功,在output目录下生成四个文件。

  • mindspore-lite-1.1.0-converter-linux-x64.tar.gz
  • mindspore-lite-1.1.0-converter-linux-x64.tar.gz.sha256
  • mindspore-lite-1.1.0-inference-linux-x64.tar.gz
  • mindspore-lite-1.1.0-inference-linux-x64.tar.gz.sha256

如下图所示。
在这里插入图片描述

其中,带有converter的包里是模型转换相关文件,
带有inference的包里是模型推理相关文件。
解压converter包,看看里面都有什么。

unseenme@v100:~/study/github/msmaster/output$ tar -xf mindspore-lite-1.1.0-converter-linux-x64.tar.gz 

在这里插入图片描述

unseenme@v100:~/study/github/msmaster/output$ tree ./mindspore-lite-1.1.0-converter-linux-x64
./mindspore-lite-1.1.0-con
关于如何得到Mindspore lite所需要的.ms模型 此过程并不复杂,需要注意的是,要在昇腾910的npu环境下训练得到的ckpt模型文件才可以转换,其它如cpu、gpu下得到的模型均不可以,所以可以用启智AI平台来,按照昇思官方给的示例就可以转成。input_np为训练/推理过程输入网络的数据(其中一个),可以先打印出来确定其内容和类型,我这个案例里面用的是(10,1),即一个二维数字,10列1行,这也是为什么数据是这个样子的原因;路径需要替换为自己的mindspore lite地址,后面按照转换示例走一下就可以转换得到,主要容易出错的是环境变量的设置。 阅读详情

相关推荐

OpenHarmony端侧AI部署实战:基于MindSpore Lite的图像分类应用开发

端侧AI部署是当前物联网和移动计算领域的关键技术,其核心原理是将云端训练好的深度学习模型,通过轻量化、优化和格式转换,部署到资源受限的边缘设备上执行本地推理。这项技术的核心价值在于实现了低延迟、高隐私保护和离线可用的智能能力,广泛应用于智能摄像头、可穿戴设备、工业质检等场景。借助华为开源的MindSpore Lite推理框架,开发者可以高效地将AI模型集成到OpenHarmony生态的各类终端中。本文以图像分类这一经典计算机视觉任务为例,详细阐述了从模型转换、环境搭建到应用集成的完整工程实践路径,并深入探讨

weixin_34049948的博客 437

基于MindSpore的OCR模型优化与部署实践

OCR(光学字符识别)技术通过深度学习实现图像到文本的转换,其核心在于CNN+RNN+CTC的架构设计。MindSpore作为国产深度学习框架,在昇腾芯片上展现出优异的计算性能,特别适合工业级OCR模型的训练与部署。本文以DeepSeek-OCR项目为例,详细解析了如何利用MindSpore框架实现文本识别模型的优化,包括动态感受野、多尺度特征融合等技术创新,以及混合精度训练等工程实践。针对OCR技术在文档数字化、票据识别等场景的应用需求,还探讨了模型量化、服务化部署等关键环节,为AI工程化落地提供参考方案

cuhongjiao7003的博客 408

【开发者实战】从零到一:我的昇思MindSpore全流程开发手记

本文详细记录了从零开始使用昇思MindSpore进行全流程AI开发的实战经验。作为华为开源的国产全场景AI框架,MindSpore凭借端边云统一架构、自动并行等特性,在图像分类任务中展现出显著性能优势。文章涵盖环境搭建、模型训练、部署优化等关键环节,特别分享了在工业质检等实际项目中的应用案例,为开发者提供了一份全面的MindSpore实践指南。

weixin_34199405的博客 535

MindSpore全场景AI开发:从模型训练到多端部署实战

深度学习框架作为AI工程化的核心工具,其设计原理直接影响模型开发效率与部署灵活性。MindSpore通过创新的动静态图结合机制和自动并行技术,实现了训练与推理的无缝衔接,特别适合需要跨平台部署的工业级应用。在计算机视觉、智能边缘计算等场景中,该框架的'一次开发,多端运行'特性可显著降低系统复杂度。以ResNet50图像分类为例,从数据加载、混合精度训练到MindIR模型导出,完整流程展现了MindSpore在Ascend/GPU/CPU等多硬件平台的兼容性优势。结合智慧园区等实际案例,更验证了其在端边云协同

weixin_31856057的博客 320

基于MindSpore Serving部署推理服务

今天要分享的是服务化部署框架(MindSpore Serving)具体要实现的就是一个可以在线识图的页面。

BaldheadedM的博客 542

MindSpore昇思深度学习框架:国产AI开发利器,从环境搭建到模型部署全解析

深度学习框架作为人工智能模型开发的核心工具,通过提供自动微分、张量计算等基础能力,简化了从算法设计到工程部署的复杂流程。其技术价值在于统一了模型开发范式,显著提升了研发效率与硬件资源利用率。在应用场景上,无论是学术研究、产业落地还是边缘计算,一个优秀的框架都能提供从训练到推理的全链路支持。本文聚焦于国产深度学习框架MindSpore昇思,探讨其如何通过开发友好的Python原生体验、部署灵活的图算融合技术,以及对国产昇腾芯片的深度优化,为开发者提供“一次编写,多端部署”的解决方案,有效降低AI开发与部署门槛

weixin_30607029的博客 488

HCIP-AI-MindSpore认证指南与开发实战

人工智能框架MindSpore作为华为推出的全场景AI计算平台,其核心优势在于自动微分和图算融合技术,能够显著提升模型训练效率并降低显存占用。在工程实践中,MindSpore的自动并行和动静结合特性尤其适合大模型训练场景,例如在NLP任务中可节省约30%的显存资源。对于开发者而言,掌握MindSpore的开发环境配置、模型构建与训练流程以及高级特性如自动并行训练,是提升AI项目交付效率的关键。特别是在企业级应用中,MindSpore的数据处理API和模型部署方案能够有效应对TB级数据和多模态训练挑战。通过H

weixin_33937778的博客 454

MindSpore实战:如何在华为Ascend芯片上跑通第一个深度学习模型(附代码)

本文详细介绍了如何在华为Ascend芯片上使用国产AI框架MindSpore部署并训练首个深度学习模型。从环境配置、数据预处理到模型构建与训练,提供了完整的代码示例和性能优化技巧,帮助开发者快速掌握这一国产技术组合的应用方法。

weixin_29230805的博客 162

深度学习框架选型实战:PyTorch、TensorFlow、MindSpore等工业落地决策指南

深度学习框架并非通用工具,而是面向特定任务域的计算载体。其核心原理在于将算法逻辑高效映射至硬件执行域,关键取决于动态图调试能力、静态图编译性能、端侧部署链路成熟度及国产芯片原生支持度。技术价值体现在降低算力成本、缩短模型迭代周期、保障产线交付稳定性;典型应用场景覆盖学术研究(如Hugging Face生态快速验证)、工业检测(YOLO系列训推一体)、国产化替代(昇腾+MindSpore全栈适配)与大模型训练(JAX千卡并行)。本文聚焦PyTorch和MindSpore在真实项目中的硬约束匹配与实测避坑经验。

rongdmmap的博客 487

MindSpore vs PyTorch:从科研到生产,哪个更适合你的AI项目?

本文深入对比了华为MindSpore与PyTorch两大AI框架,从项目生命周期的完整视角分析其优劣。在科研原型阶段,PyTorch凭借灵活生态和易用性占优;而在涉及生产部署,特别是需要端边云协同或使用昇腾硬件的场景下,MindSpore的全栈能力与原生优化则展现出独特价值。文章为开发者根据项目阶段、硬件环境和团队技能进行框架选型提供了实用建议。

weixin_29041195的博客 251

SAM模型在MindSpore框架下的图像分割实践

图像分割是计算机视觉领域的核心技术之一,通过像素级分类实现对图像内容的理解。传统分割模型如U-Net需要针对特定任务进行训练,而Segment Anything Model(SAM)采用提示驱动的通用分割范式,大幅提升了模型泛化能力。基于Transformer架构的SAM模型包含图像编码器、提示编码器和掩码解码器三阶段设计,支持点、框、掩码等多种交互方式。在国产AI框架MindSpore上部署SAM模型时,可利用其动态图/静态图混合特性实现高效推理,配合Ascend硬件加速可获得显著性能提升。本文以实际工程

cuhongjiao7003的博客 289

昇思MindSpore大模型预训练实战:流程、并行与调优全解析

大模型预训练是构建AI能力的核心环节,涉及数据管线、并行策略、混合精度等关键技术。在国产算力场景下,昇思MindSpore提供了独特的自动并行与动静统一机制,助力开发者高效完成从PyTorch迁移的预训练任务。本文基于工程实践,系统梳理了昇思上大模型预训练的完整流程,涵盖数据流式加载、模型定义、并行配置、断点续训与推理部署等环节,并总结了常见问题与调优经验,为相关团队提供可落地的参考。

weixin_34268843的博客 329

MindSpore+昇腾NPU性能调优实战:图模式、Layout与混合精度深度解析

深度学习推理与训练的性能瓶颈,往往不在算法本身,而在于框架与硬件协同效率。MindSpore作为国产全栈AI框架,其静态图编译机制专为昇腾NPU的Cube/Vector异构计算单元和HBM2e高带宽内存设计;理解图模式(GRAPH_MODE)切换原理、张量Layout(如NHWC→FRACTAL_Z)对访存局部性的影响,以及FP16/INT8混合精度在CANN驱动层的量化实现,是释放昇腾910B算力的关键路径。这些技术共同支撑视频审核、OCR等低延迟、高吞吐AI服务的端到端落地,也是从‘能跑’迈向‘稳快准’

weixin_29988907的博客 351

昇腾AI全栈平台解析:从NPU硬件到CANN软件栈的实战指南

AI计算的核心在于高效处理神经网络中的张量运算,其原理是通过专用硬件架构对矩阵乘加、卷积等算子进行加速。随着大模型时代的到来,对算力性能和能效提出了更高要求,专用AI处理器(NPU)的价值日益凸显。昇腾AI计算平台作为软硬件协同优化的全栈解决方案,通过CANN异构计算架构和MindSpore框架,实现了从云端训练到边缘推理的全场景覆盖。在应用层面,开发者可基于昇腾硬件进行大模型部署与性能调优,例如通过AOE图编译和MindIE推理引擎优化LLM推理流程。本文聚焦昇腾平台,深入探讨其硬件选型、软件栈协同及模型

chikuai9995的博客 439

昇腾910B AI芯片架构解析与MindSpore实战:从达芬奇核心到分布式训练

AI芯片是专为人工智能计算设计的处理器,其核心原理在于通过专用架构(如矩阵计算单元)高效执行张量运算,以突破通用处理器在AI负载下的能效瓶颈。这一技术价值在于为大规模模型训练与推理提供强大的算力底座,并推动计算架构的多元化发展。在实际应用中,AI芯片与配套软件栈(如深度学习框架、算子库)协同工作,支撑从云端训练到边缘部署的全场景AI任务。本文聚焦于昇腾910B芯片及其达芬奇架构,深入探讨其高带宽内存、高速互联特性,并结合MindSpore框架的自动并行、动静统一等特性,解析其在解决大模型训练中的内存墙、通信

ctk87443的博客 409

OMNET++ INET框架学习教程(一)

在自组网学习的道路上摸石头过河,帮你快速入门OIMNET++平台下的INET框架。

NLDwangzhe的博客 6565

USRP X410 MPM版本与主机UHD版本不匹配问题记录与解决

至此大功告成!之前安装软件的坑算是填起来了,再次记录一下,希望能帮到有同样问题的小伙伴~

yanzuwu233的博客 1437

使用 CFD 仿真进行阀门性能分析:第一部分

了解如何使用 Ansys Discovery 评估阀门性能,使工程师能够设计出更好的产品。

jkh920184196的博客 3149

RK356X linux系统移植RTL8723BU模块遇到的坑

RK356X linux系统移植RTL8723BU模块遇到的坑

目前从事linux驱动开发,多交流多学习吧 955

关闭搜狗输入法右下角广告的解决方案

本文主要介绍了关闭搜狗输入法右下角广告的解决方案,希望能对使用搜狗输入法的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案

weixin_43178406的博客 1万+

Matlab安装硬件支持包、simulink离线安装硬件支持包安装,离线安装ESP32、stm32等安装包,Are you up-to-date on SoftWare Maintenance?

注意:如果提示出现“没有可从此位置安装的兼容支持包后,这个问题,请查看步骤5,是不是没有按照步骤5进行操作.一般情况下出现“没有可从此位置安装的兼容支持包”后,重新安装选择了默认路径就可以成功。如果不是很清楚,直接安装在默认的文件夹下面,即使这个文件夹下没有matlab相关的文件夹,也要这么下载,没有为什么,切记尽量按默认路径安装,更改下载的路径不成功,别怪我没提醒。:下载到哪里非常重要,如果下载的不是默认的路径下,就需要将其中这个的是这个archives文件夹,连同其他文件一并要复制出来,拷贝到。

pvmsmfchcs的博客 1746

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

上一篇: 尝试恢复Qualcomm Robotics RB3
下一篇: 昇腾CANN自定义算子分类与关系
UnseenMe
博客等级 码龄20年 193粉丝 35原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值