编译 MXNet 模型

win10,VS2013下MXnet编译和安装 下载MXnet 软件要求 第三方依赖库 C11特性支持 编译MXnet代码 Python环境安装 python要求 安装 检查是否安装成功 部分第三方依赖下载MXnetMXnet的GitHub地址 官方安装文档 Ubuntu安装文档软件要求 VS2013 Cmake 第三方依赖库CUDA 版本要求 CUDA Toolkit >= v7.0 CuDNN 版本要求 >=V4(截至在 阅读详情

本篇文章译自英文文档 Compile MXNet Models。

作者是 Joshua Z. Zhang,Kazutaka Morita。

更多 TVM 中文文档可访问 →TVM 中文站。

本文将介绍如何用 Relay 部署 MXNet 模型。

首先安装 mxnet 模块,可通过 pip 快速安装:

pip install mxnet --user

或参考官方安装指南:https://mxnet.apache.org/versions/master/install/index.html

# 一些标准的导包
import mxnet as mx
import tvm
import tvm.relay as relay
import numpy as np

从 Gluon Model Zoo 下载 Resnet18 模型

本节会下载预训练的 imagenet 模型,并对图像进行分类。

from tvm.contrib.download import download_testdata
from mxnet.gluon.model_zoo.vision import get_model
from PIL import Image
from matplotlib import pyplot as plt

block = get_model("resnet18_v1", pretrained=True)
img_url = "https://github.com/dmlc/mxnet.js/blob/main/data/cat.png?raw=true"
img_name = "cat.png"
synset_url = "".join(
    [
        "https://gist.githubusercontent.com/zhreshold/",
        "4d0b62f3d01426887599d4f7ede23ee5/raw/",
        "596b27d23537e5a1b5751d2b0481ef172f58b539/",
        "imagenet1000_clsid_to_human.txt",
    ]
)
synset_name = "imagenet1000_clsid_to_human.txt"
img_path = download_testdata(img_url, "cat.png", module="data")
synset_path = download_testdata(synset_url, synset_name, module="data")
with open(synset_path) as f:
    synset = eval(f.read())
image = Image.open(img_path).resize((224, 224))
plt.imshow(image)
plt.show()

def transform_image(image):
    image = np.array(image) - np.array([123.0, 117.0, 104.0])
    image /= np.array([58.395, 57.12, 57.375])
    image = image.transpose((2, 0, 1))
    image = image[np.newaxis, :]
    return image

x = transform_image(image)
print("x", x.shape)

在这里插入图片描述
输出结果:

Downloading /workspace/.mxnet/models/resnet18_v1-a0666292.zip08d19deb-ddbf-4120-9643-fcfab19e7541 from https://apache-mxnet.s3-accelerate.dualstack.amazonaws.com/gluon/models/resnet18_v1-a0666292.zip...
x (1, 3, 224, 224)

编译计算图

只需几行代码,即可将 Gluon 模型移植到可移植计算图上。mxnet.gluon 支持 MXNet 静态图(符号)和 HybridBlock。

shape_dict = {"data": x.shape}
mod, params = relay.frontend.from_mxnet(block, shape_dict)
## 添加 softmax 算子来提高概率
func = mod["main"]
func = relay.Function(func.params, relay.nn.softmax(func.body), None, func.type_params, func.attrs)

接下来编译计算图:

target = "cuda"
with tvm.transform.PassContext(opt_level=3):
    lib = relay.build(func, target, params=params)

输出结果:

/workspace/python/tvm/driver/build_module.py:268: UserWarning: target_host parameter is going to be deprecated. Please pass in tvm.target.Target(target, host=target_host) instead.
  "target_host parameter is going to be deprecated. "

在 TVM 上执行可移植计算图

接下来用 TVM 重现相同的前向计算:

from tvm.contrib import graph_executor

dev = tvm.cuda(0)
dtype = "float32"
m = graph_executor.GraphModule(lib["default"](dev))
# 设置输入
m.set_input("data", tvm.nd.array(x.astype(dtype)))
# 执行
m.run()
# 得到输出
tvm_output = m.get_output(0)
top1 = np.argmax(tvm_output.numpy()[0])
print("TVM prediction top-1:", top1, synset[top1])

输出结果:

TVM prediction top-1: 282 tiger cat

使用带有预训练权重的 MXNet 符号

MXNet 常用 arg_params 和 aux_params 分别存储网络参数,下面将展示如何在现有 API 中使用这些权重:

def block2symbol(block):
    data = mx.sym.Variable("data")
    sym = block(data)
    args = {}
    auxs = {}
    for k, v in block.collect_params().items():
        args[k] = mx.nd.array(v.data().asnumpy())
    return sym, args, auxs

mx_sym, args, auxs = block2symbol(block)
# 通常将其保存/加载为检查点
mx.model.save_checkpoint("resnet18_v1", 0, mx_sym, args, auxs)
# 磁盘上有 "resnet18_v1-0000.params" 和 "resnet18_v1-symbol.json"

对于一般性 MXNet 模型:

mx_sym, args, auxs = mx.model.load_checkpoint("resnet18_v1", 0)
# 用相同的 API 来获取 Relay 计算图
mod, relay_params = relay.frontend.from_mxnet(mx_sym, shape_dict, arg_params=args, aux_params=auxs)
# 重复相同的步骤,用 TVM 运行这个模型

下载 Python 源代码:from_mxnet.py

下载 Jupyter Notebook:from_mxnet.ipynb

Windows下mxnet的编译与安装 本文将给出两种方式来实现windows下mxnet的安装: -下载Github上的mxnet代码来编译并安装 -下载Github上的prebuilt package快速安装 运行环境: Windows 8.1-64 bit Python 3.5.2-64 bit Visual Studio 2013 Ultimate 一、mxnet编译并安装 1. 获取 阅读详情

相关推荐

Ubuntu20编译mxnet源码

按照mxnet网站编译,还是挺顺利的。 1. 用命令 git clone --recursive https://github.com/apache/incubator-mxnet mxnet 下载源码 2. 安装依赖 sudo apt-get update sudo apt-get install -y build-essential git ninja-build ccache libopenblas-dev libopencv-dev cmake 3. 进入mxnet目录,用cmake配置编

数字人生 1073

c++ 用vs2019编译mxnet1.9.0

一、编译环境之windows10(编译出动态库libmxnet.dll、libmxnet.lib、mxnet_70.lib及include头文件)。 一)环境及依赖 1. Windows10 2. Cuda11.1 3. Cudnn8.1.0.77 4. Cmake 3.18.0 5. Opencv4.5.3 6. MKL-2022.1(当前最新版,强烈建议用这个而不是用OpenBLAS,OpenBLAS本身编译麻烦不说,在使用OpenBLAS编译mxnet时老是报找不到相关符号,不知道是不是OpenB

qq_25921073的博客 4606

TVM编译MXNet模型

编译MXNet模型从Gluon Model Zoo下载Resnet18模型编译图在TVM上执行可移植图形使用具有预训练权重的MXNet符号 本文是介绍如何使用Relay部署mxnet模型的入门教程。 首先,需要安装mxnet模块。 一个快速的解决方案是 pip install mxnet --user 或请参阅官方安装指南。 https://mxnet.apache.org/versions/master/install/index.html import mxnet as mx import tvm i

qq_33287871的博客 380

mxnet编译(ubuntu20.04+cuda11)(血泪篇)

写在前面的话,小半周时间都为了搞这个,真的头疼,没有问题的人可以执行得非常顺利,一旦有问题,就怎么执行都不对,希望大家不要灰心,坚持到底!(另,我的ubuntu所有环境安装详细记录:https://blog.youkuaiyun.com/m0_37738114/article/details/119322839) 由于显卡的硬性要求,我要安装mxnet-cu111,但目前官网并没有发布,只能自己编译。 环境:ubuntu20.04+cuda11.1+显卡是RTX3060 试错一:官网参考:https://mxne

我有明珠一颗的博客 3824

ncnn编译及mxnet转ncnn模型

一、下载ncnn 下载链接https://codeload.github.com/Tencent/ncnn/zip/20200226 二、ncnn编译 1、protobuf下载及编译我使用的3.4.0版本 2、opencv下载及编译我使用的是opencv3.4.0版本 3、cmake配置 opencv目录和protobuf相关配置要设置上 4、生成vs工程 编译及install ...

kupePoem的专栏 1396

可编译的mxnet代码

2. 安装依赖 sudo apt-get update sudo apt-get install -y build-essential git ninja-build ccache libopenblas-dev libopencv-dev cmake 3. 进入mxnet目录,用cmake配置编译环境并编译 cd mxnet cp config/linux.cmake config.cmake mkdir build; cd build cmake .. cmake --build . 4. 安装mxnet python语言绑定 python3 -m pip install --use

linux下mxnet编译和基于ssd的模型训练

linux下mxnet的gpu版本编译和基于ssd的模型训练写在前面mxnet的gpu版本编译ssd算法训练实现 写在前面 最近做了一些基于mxnet框架和ssd算法做图像识别的工作,从编译到最终训练,走了不少弯路,写在这里,希望对学习这方面知识的盆友有所帮助。 mxnet的gpu版本编译 下载mxnet并编译,我当时这一步做了好久,因为要安装mxnet的电脑没联网…… ssd算法训练实现 参考S...

meng_uv的博客 686

全球第一开源云ERP Odoo操作手册 模块安装和界面汉化指南

Odoo 的功能包含在不同的模块中, 刚创建的数据库除 Odoo 的核心模块外, 其它模块并没有被安装到系统中,你可以根据需要安装它们。本节将介绍安装模块和界面汉化的相关知识。

weixin_44793763的博客 2078

c++ 编译添加dll_windows下编译深度学习框架mxnet并使用C++训练模型

原文:windows下编译mxnet并使用C++训练模型 - 优快云博客大多数情况下,mxnet都使用python接口进行深度学习程序的编写,方便快捷,但是有的时候,需要把机器学习训练和识别的程序部署到生产版的程序中去,比如游戏或者云服务,此时采用C++等高级语言去编写才能提高性能,本文介绍了如何在windows系统下从源码编译mxnet,安装python版的包,并使用C++原生接口创建示例程序...

weixin_39967120的博客 385

三大主流交易接口实战指南:XTP、CTP与数字货币API的实盘接入解析

本文深入解析了量化交易系统实现实盘交易的关键环节,聚焦于三大主流交易接口的实战接入。详细介绍了证券领域的XTP、期货领域的CTP以及数字货币交易所API的核心特性、代码封装要点与风控实践,并提供了多市场接口整合的统一架构方案,为开发者打通量化交易的“最后一公里”提供了一份接地气的实战指南。

win55的博客 1381

分子模拟入门教程 | 低调使用 建议收藏

该方法只需要原子的核电荷和少数模拟的环境参数作为输入,所有的性质都是通过求解薛定谔方程得到的,不需要使用任何经验参数。经典的原子水平的分子模拟已经成为提高我们对材料科学和生命系统中分子过程理解的最流行的方法之一。全原子模拟是一种非常强大的以原子分辨率呈现信息的方法,因为在原子模拟中,一个粒子代表一个特定的原子。随着计算机硬件和模拟技术的快速发展,分子模拟不仅可以解决基本的、常规的化学问题,还可以应用于各种复杂体系。然而,由于问题的复杂性以及严重依赖于现象的现实情况,最好是逐案确定合适的模拟方法。

pysonger的博客 786

linux string头文件_linux下编译深度学习框架mxnet并使用C++训练模型

原文 : linux下编译深度学习框架mxnet并使用C++训练模型 - 优快云博客mxnet是最近流行的深度学习框架之一,使用起来体验不错,不过平常都是用python接口写程序,本文介绍如何在linux下从源码编译mxnet并使用其C++接口编程。本文所使用的环境是ubunt14.04,g++4.8,如果是其他类unix发行版(fedora,mac os)同理。目标编译出libmxnet.a,...

weixin_39885166的博客 283

MMCV安装后报错‘from mmcv import Config’?别慌,这是MMCV 2.0的锅!快速降级回退MMCV 1.x全指南

本文详细解析了MMCV 2.0版本升级导致的‘from mmcv import Config’报错问题,提供了从诊断到降级回退MMCV 1.x的完整解决方案。通过pip和OpenMIM工具链的实操指南,帮助开发者快速解决版本冲突,确保项目稳定运行。

weixin_29102619的博客 263

linux下编译深度学习框架mxnet并使用C++训练模型

mxnet是最近流行的深度学习框架之一,使用起来体验不错,不过平常都是用python接口写程序,本文介绍如何在linux下从源码编译mxnet并使用其C++接口编程。 本文所使用的环境是ubunt14.04,g++4.8,如果是其他类unix发行版(fedora,mac os)同理。 目标 编译出libmxnet.a,libmxnet.so,本文只编译cpu版 链接共享库,调用C++接口 ...

踏莎行的博客 8590

Android Studio中把llama.cpp编译Android .so

本文介绍了一个在Android Studio中集成llama.cpp的最小Demo实现方案,通过JNI将llama.cpp编译为Android.so库,实现本地加载GGUF模型进行文本生成。文章详细说明了项目结构配置(SDK≥30,NDK≥28)、CMake编译设置、Kotlin-JNI-C++的完整调用链实现,以及模型文件部署方式。该Demo采用每次请求新建上下文的简化设计,包含加载模型、生成文本、资源释放等核心功能,并提供了错误排查建议。项目舍弃了上下文保持等复杂功能以确保稳定性,适合作为端侧大语言模型

Zhang Phil 527

《驾驭你的AI同事:WorkBuddy深度精通》027:11.1 私有知识库接入

11.1 私有知识库接入 —— 《驾驭你的AI同事:WorkBuddy深度精通》系列图文教程,配图已统一为规范示意图。

LuckyHanMo的博客 142

在树莓派上使用 MXNet 实现实时目标检测并接入 AWS IoT:从模型编译到云端告警的完整实践

本教程面向 Raspberry Pi 等基于 ARM 的嵌入式设备开发者,讲解如何为树莓派编译 MXNet、加载 ImageNet 预训练模型进行图片推理,并通过 PiCamera 构建实时视频分析应用,最后借助 AWS IoT 将检测结果推送至云端,实现"检测到指定物体即自动告警"的端到端方案。读完本文你将掌握:ARM 设备上的 MXNet 构建与 Python 绑定、Inception-BN

gitblog_00887的博客 5

【深度学习|地学应用】MODIS AOD产品和HYSPLIT模型的局限性和不确定性?

【深度学习|地学应用】MODIS AOD产品和HYSPLIT模型的局限性和不确定性?

985小水博的摸鱼日常 464

windows下编译深度学习框架mxnet并使用C++训练模型

大多数情况下,mxnet都使用python接口进行深度学习程序的编写,方便快捷,但是有的时候,需要把机器学习训练和识别的程序部署到生产版的程序中去,比如游戏或者云服务,此时采用C++等高级语言去编写才能提高性能,本文介绍了如何在windows系统下从源码编译mxnet,安装python版的包,并使用C++原生接口创建示例程序。 目标 编译出libmxnet.lib和libmxnet...

踏莎行的博客 1万+

【SI案例分享】1000 BASE-T1共模终端的分析与评估

以太网的MDI接口应用中,共模端接网络的应用广泛,并且,其电路参数从100 BASE-T1到1000 BASE-T1保持了相同的参数定义,这就不得不引起使用者的怀疑,毕竟百兆和千兆以太网的工作频段差异巨大,这样的设计真的可以做到上下兼容吗?本文针对此问题,进行了深入的探讨。

一只豌豆象的博客 1367

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

MXNET保存模型结构(.json文件)

今天被这个问题搞得焦头烂额,因为要把mxnet的模型转成caffe必须要有结构文件。 方法就是先要把普通的Block变成HybridBlock,也就是静态化,改写的方法看官方文档:HybridBlocks. 注意,forward(self, x)函数要改写成hybrid_forward(self, F, x),这个F是什么意思呢? The hybrid_forward function takes an additional input, F, which stands for a backend. Th

学渣集散地 1080

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

Mxnet模型转化为ncnn模型,并验证转化正确性

一、背景 同时已经训练好一个基于Mxnet的人脸属性检测模型,为了适应项目需要要将Mxnet转为ncnn模型。 Mxnet模型格式如下: 二、预期目标 利用上述模型,可以实现人脸属性的检测。检测准确性如下: ('acc_gender: ', 0.9220647773279352) ('acc_glass: ', 0.9949392712550608) ('acc_age: ',...

xiaohuaibao的博客 3157

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

linux mxnet 编译,源码编译安装mxnet

ubuntu16.04 cuda8.0源码编译安装mxnethttps://blog.youkuaiyun.com/qq_35457560/article/details/80487642?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.control&depth_1-utm_sour...

weixin_39602615的博客 306

深度学习(五十八)caffe移植至mxnet

1、模型转换2、外部引用set(USE_CUDA OFF) set(USE_CUDNN OFF) add_subdirectory("./3dparty/mxnet/") target_link_libraries(faceattribute ${OpenCV_LIBS} mxnet)#链接mxnet库

hjimce的专栏 4454

Mxnet编译记

在公司想要在windows下使用c++调用深度学习模型的时候,最初是尝试编译tensorflow形成dll用于调用,但是编译的时候各种出问题,没办法,因为工程要进行,所以在编译不成功的时候,也在尝试其它框架。 最终发现,mxnet是windows下比较合适的框架,至少它写起来gluon的码层的方式和keras挺像,基本没有太大的难度过渡。于是就看能否编译通过mxnet.结果,按照随便找了一遍博客...

detaswc的博客 713

MxNet使用总览

写这篇博文的初衷是希望能整理下自己在使用MxNet过程中对这个框架的理解。详细的介绍都给出了链接,这篇相当于一个概括,希望能对这个框架有一个总的认识,内容会不断补充,有疑问的欢迎交流,谢谢。1、下载MxNet并编译 MxNet的官方网址:http://mxnet.io/get_started/install.html 我这里选择如下安装方式:然后按照 Build the MXNet core s

AI之路 1万+
上一篇: 科罗拉多州立大学发布CSU-MLP模型,用随机森林预测中期恶劣天气
下一篇: 编译 TFLite 模型
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值