48.现有移动端开源框架及其特点—MDL（mobile-deep-learning）

已于 2023-04-13 14:23:22 修改
阅读量523 收藏
点赞数
分类专栏： 深度学习 文章标签： 开源
于 2023-04-13 14:19:40 首次发布
@大勇若怯任卷舒
本文链接：https://blog.youkuaiyun.com/m0_47454596/article/details/130129557
版权
本文详细介绍了移动端开源框架MDL的功能特点，包括一键部署、GPU支持和模型量化。MDL框架结构包含模型转换、加载、网络管理和矩阵运算模块，提供了高效的JNI接口。在性能上，MDL在iOS GPU上运行速度快，体积小巧，并在Android和iOS平台上具有良好的兼容性。与其他CNN框架对比，MDL展现出更快的速度和稳定性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

48.1 功能特点

  • 一键部署，脚本参数就可以切换ios或者android
  • 支持iOS gpu运行MobileNet、squeezenet模型
  • 已经测试过可以稳定运行MobileNet、GoogLeNet v1、squeezenet、ResNet-50模型
  • 体积极小，无任何第三方依赖。纯手工打造。
  • 提供量化函数，对32位float转8位uint直接支持，模型体积量化后4M上下
  • 与ARM相关算法团队线上线下多次沟通，针对ARM平台会持续优化
  • NEON使用涵盖了卷积、归一化、池化所有方面的操作
  • 汇编优化，针对寄存器汇编操作具体优化
  • loop unrolling 循环展开，为提升性能减少不必要的CPU消耗，全部展开判断操作
  • 将大量繁重的计算任务前置到overhead过程

48.2 框架结构

  • MDL 框架主要包括：
    • 模型转换模块（MDL Converter）
    • 模型加载模块（Loader）
    • 网络管理模块（Net）
了解本专栏 订阅专栏 解锁全文 超级会员免费看
5.深度学习之正向传播和反向传播
大勇若怯任卷舒
03-17 1287
5.1 正向传播 正向传播是指对神经网络沿着从输入层到输出层的顺序，依次计算并存储模型的中间变量（包括输出）。 根据L2范数正则化的定义，给定超参数λ，正则化项即 最终，模型在给定的数据样本上带正则化的损失为 正向传播的计算图 5.2 反向传播 反向传播指的是计算神经网络参数梯度的方法。 反向传播依据微积分中的链式法则，沿着从输出层到输入层的顺序，依次计算并存储目标函数有关神经网络各层的中间变量以及参数的梯度。 5.3 Batch_Size 为什么需要？ Batch的选择
53.MDL、NCNN和 TFLite比较
大勇若怯任卷舒
05-09 1020
大数据视频推荐： 网易云课堂 优快云 人工智能算法竞赛实战 AIops智能运维机器学习算法实战 ELK7 stack开发运维实战 PySpark机器学习从入门到精通 AIOps智能运维实战 腾讯课堂 大数据语音推荐： ELK7 stack开发运维 企业级大数据技术应用 大数据机器学习案例之推荐系统 自然语言处理 大数据基础 人工智能：深度学习入门到精通
百度开源移动端深度学习框架mobile-deep-learning（MDL）
weixin_34344677的博客
09-25 620
作者｜李永会编辑｜Natalie2017 年 9 月 25 日，百度在 GitHub 开源了移动端深度学习框架 mobile-deep-learning（MDL）的全部代码以及脚本，希望这个项目在社区的带动下能够更好地发展。写在前面 深度学习技术已经在互联网的诸多方向产生影响，每天科技新闻中关于深度学习和神经网络的讨论越来越多。深度学习技术在近两年飞速发展，各种互联网产品都争相应用深度学习技术，产...
百度开源移动端深度学习框架mobile-deep-learning
修行2017
09-26 6413
2017 年 9 月 25 日，百度在 GitHub 开源了移动端深度学习框架 mobile-deep-learning（MDL）的全部代码以及脚本，希望这个项目在社区的带动下能够更好地发展。 写在前面 深度学习技术已经在互联网的诸多方向产生影响，每天科技新闻中关于深度学习和神经网络的讨论越来越多。深度学习技术在近两年飞速发展，各种互联网产品都争相应用深度学习技术，产品对深度学习的
mobile-deep-learning（MDL）百度 移动端深度学习框架
明月的博客
09-28 1325
2017 年 9 月 25 日，百度在 GitHub 开源了移动端深度学习框架 mobile-deep-learning（MDL）的全部代码以及脚本，希望这个项目在社区的带动下能够更好地发展。 GitHub 地址：https://github.com/baidu/mobile-deep-learning 移动端应用深度学习的难点 一直以来由于技术门槛和硬件条件的限制，在移
mobile-deep-learning
06-17 170
　　现代框架移植到移动端问题不大，caffe2在支持facebook应用需要的layer以及全protobuf情况下小于1MB，核心大概在100多kb，看起来和mdl一致。 　　移动端最重要问题是如何优化。绝大多数数学库优化是针对server或者GPU来做的，移动端可以跑但是跑不快。 　　需要着重考虑的点： 　　1、是否有CPU优化？是否使用NEON？是否有为mobile设计的th...
移动深度学习 Mobile-deep-learning（MDL）
TensorFlowNews
09-25 1438
Free and open source mobile deep learning framework, deploying by Baidu.This research aims at simply deploying CNN on mobile devices, with low complexity and high speed. It supports calculation on iOS
Mobile-deep-learning（MDL）
人工智能
09-25 1186
Mobile-deep-learning（MDL）   Free and open source mobile deep learning framework, deploying by Baidu. This research aims at simply deploying CNN on mobile devices, with low complexity and hi
百度开源移动端深度学习框架 MDL
zchang81的博客
09-25 3927
百度今天 (2017 / 9 / 25 ) 开源了移动端深度学习框架 MDL (mobile-deep-learning) 。
百度移动深度学习 Mobile-deep-learning（MDL）
weixin_30421525的博客
09-25 101
Free and open source mobile deep learning framework, deploying by Baidu. This research aims at simply deploying CNN on mobile devices, with low complexity and high speed. It supports calculation on iO...
移动端深度学习开源框架及部署
凌逆战的博客
06-02 982
TensorFlow Lite 开源企业：谷歌　　　 GitHub地址：https://github.com/tensorflow/tflite-micro 　　TensorFlow Lite for Microcontrollers是TensorFlow Lite的实验端口，旨在在只有千字节内存的微控制器和其他设备上运行机器学习模型。它不需要操作系统支持，任何标准C或C ++库或动态内存分配...
Paddle-Lite：多平台高性能深度学习推理引擎（『飞桨』多平台高级深度学习预测引擎）
02-04
Paddle Lite是一个高效，轻量级，增强强且易于扩展的深度学习推理框架，定位支持包括移动端，嵌入式以及服务器端内部的多硬件平台。 当前Pad Lite不仅在百度内部业务中得到全面应用，也成功支持了众多外部用户和...
In-Prestissimo：针对移动平台进行了优化的非常快速的神经网络计算框架。QQ群：676883532【验证信息输入：绝影】
02-04
ios，android上的速度均快于目前的开源框架（ncnn，mdl等等）。 功能概述 基础功能 支持卷积神经网络，支持多输入和多分支结构 精炼简洁的API设计，使用方便 提供调试接口，支持打印各个层的数据以及耗时 不依赖任何...
模型压缩与加速技术用于轻量化部署，提高模型效率，适用于移动端和嵌入式设备等资源受限环境
最新发布
03-28
#### 17.10 现有移动端开源框架及其特点 - **NCNN**：轻量级的深度学习框架，专为移动设备设计。 - **QNNPACK**：高性能的量化神经网络库。 - **Prestissimo**：专注于快速推理的模型压缩工具。 - **MDL（mobile-...
30.深度学习模型压缩方法-4
大勇若怯任卷舒
12-23 972
大数据视频推荐： 网易云课堂 优快云 人工智能算法竞赛实战 AIops智能运维机器学习算法实战 ELK7 stack开发运维实战 PySpark机器学习从入门到精通 AIOps智能运维实战 腾讯课堂 大数据语音推荐： ELK7 stack开发运维 企业级大数据技术应用 大数据机器学习案例之推荐系统 自然语言处理 大数据基础 人工智能：深度学习入门到精通
64.合理使用预训练网络-3
大勇若怯任卷舒
07-18 928
大数据视频推荐： 网易云课堂 优快云 人工智能算法竞赛实战 AIops智能运维机器学习算法实战 ELK7 stack开发运维实战 PySpark机器学习从入门到精通 AIOps智能运维实战 腾讯课堂 大数据语音推荐： ELK7 stack开发运维 企业级大数据技术应用 大数据机器学习案例之推荐系统 自然语言处理 大数据基础 人工智能：深度学习入门到精通
59.网络训练中的超参调整策略—学习率调整1
大勇若怯任卷舒
05-29 777
此外，需要注意的是参数cycle，cycle对应的是一种周期循环调整的方式。这种cycle策略主要目的在后期防止在一个局部极小值震荡，若跳出该区域或许能得到更有的结果。这里说明cycle的方式不止可以在多项式中应用，可配合类似的周期函数进行衰减，如下图。有别于上述两种，多项式衰减则是在每一步迭代上都会调整学习率。主要看Power参数，若Power为1，则是下图中的红色直线；若power小于1，则是开1/power次方，为蓝色线；分段设置学习率法，跟指数型类似，区别在于每个阶段的衰减并不是按指数调整。
60.网络训练中的超参调整策略—学习率调整2
大勇若怯任卷舒
05-30 764
余弦衰减，即余弦版本的cycle策略，作用与多项式衰减中的cycle相同。区别在于余弦重启衰减会重新回到初始学习率，拉长周期，而多项式版本则会逐周期衰减。噪声线性余弦衰减，即在线性余弦衰减中加入随机噪声，增大寻优的随机性。余弦衰减，即按余弦函数的方式衰减学习率，如图。逆时衰减，这种方式和指数型类似。线性余弦衰减，主要应用于增强学习领域。
32.深度学习模型优化加速方法-1
大勇若怯任卷舒
01-06 708
大数据视频推荐： 网易云课堂 优快云 人工智能算法竞赛实战 AIops智能运维机器学习算法实战 ELK7 stack开发运维实战 PySpark机器学习从入门到精通 AIOps智能运维实战 腾讯课堂 大数据语音推荐： ELK7 stack开发运维 企业级大数据技术应用 大数据机器学习案例之推荐系统 自然语言处理 大数据基础 人工智能：深度学习入门到精通
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值