
深度学习框架
文章平均质量分 59
NineDays66
email:547691062@qq.com
展开
-
mmdetection 常用命令
mmdetection 使用原创 2023-02-09 09:11:33 · 1592 阅读 · 0 评论 -
mmdetection 增加训练字段score
mmdetection 添加数据字段 并训练流程原创 2023-02-08 19:22:43 · 546 阅读 · 0 评论 -
caffe模型 转 pytorch 模型
最近基于 caff2onnx 做了部分修改,完成了caffe 转 pytorch的模型代码,主代码 , 需要自己构建 pytorch 的Net 架构, 同时 net各层的名字要与 caffe的各层对应。 graph, params = LoadCaffeModel(caffe_graph_path,caffe_params_path) #print(graph) net_pytorch = NET() net_pytorch.eval() pr..原创 2021-03-18 17:50:25 · 922 阅读 · 2 评论 -
keras 训练使用tfrecord.
1.写入tfrecordimport tensorflow as tfimport osimport numpy as npimport PIL.Image as Imagedef _get_path_label(image_dir): image_dir = os.path.expanduser(image_dir) ford_list = [] for ford in os.listdir(image_dir): for sub_ford in原创 2020-08-27 17:18:49 · 1077 阅读 · 0 评论 -
快速在安卓端验证深度学习算法模型
原https://zhuanlan.zhihu.com/p/76909819https://zhuanlan.zhihu.com/p/769098191、背景 前段时间在知乎上溜达,看到糖心他爸大神的专栏-实战嵌入端的AI算法,进去一看,不得了,发现新大陆了,深度学习模型还能在安卓端这么玩的吗? 一般对我们这种初级炼丹师,要验证算法在端上的能力以及实测效果...原创 2019-12-12 16:33:17 · 878 阅读 · 0 评论 -
整合Pytorch和MNN的嵌入式部署流程
https://zhuanlan.zhihu.com/p/76605363https://zhuanlan.zhihu.com/p/76605363https://zhuanlan.zhihu.com/p/76605363工程的完整链接可以参考Github链接。Pytorch以其动态图的调用方式,深得许多科研人员的喜爱,是许多人进行科研研究、算法预研的不二之选。本文我们跟大家讨论一...原创 2019-12-05 11:27:37 · 2918 阅读 · 0 评论 -
EfficientNet论文解读
https://zhuanlan.zhihu.com/p/70369784https://zhuanlan.zhihu.com/p/70369784https://zhuanlan.zhihu.com/p/70369784论文链接:EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks代...原创 2019-11-26 16:37:48 · 867 阅读 · 0 评论 -
Pytorch中的学习率衰减方法
Pytorch 中的学习率调整方法Pytorch中的学习率调整有两种方式:直接修改optimizer中的lr参数; 利用lr_scheduler()提供的几种衰减函数1. 修改optimizer中的lr:import torchimport matplotlib.pyplot as plt%matplotlib inlinefrom torch.optim import *...原创 2019-10-14 15:26:26 · 1326 阅读 · 0 评论 -
Pytorch的C++使用
利用Pytorch的C++前端(libtorch)读取预训练权重并进行预测https://blog.youkuaiyun.com/iamoldpan/article/details/85057238https://blog.youkuaiyun.com/a819411321/article/details/97372177pytorch 参数写入二进制文件 data = [] ...原创 2019-10-09 15:13:22 · 436 阅读 · 0 评论 -
Pytorch python 安装过程
https://pytorch.org/该查看自己安装需要的 版本pip3 install https://download.pytorch.org/whl/cu100/torch-1.1.0-cp35-cp35m-win_amd64.whlpip3 install https://download.pytorch.org/whl/cu100/torchvision-0.3.0-cp35-...原创 2019-07-17 16:26:21 · 2277 阅读 · 0 评论 -
让深度学习进入移动端,蘑菇街在移动端的深度学习优化实践
http://777n.com/keji/50566.htmlhttp://777n.com/keji/50566.htmlhttp://777n.com/keji/50566.html深度学习是机器学习中一种基于对数据进行表征学习的方法,与传统靠手工设计特征的机器学习算法不同,深度学习能根据不同任务自动学习数据的特征。目前深度学习在语音、图像、视频处理上已经取得了令人印象深刻的进...原创 2019-08-01 09:32:20 · 1077 阅读 · 0 评论 -
移动端深度学习框架小结
---------------- 2018.12.07 分割线 ----------------各大公司开源了自己的移动端深度学习框架,其中包括TensorFlow Lite、Caffe2、MACE、paddle-mobile(MDL)、FeatherCNN、NCNN等。我们参考开源的测试结果,结合自己整理的数据,针对主流的异动单深度学习框架进行简单对比及介绍。框架 机构 支持...转载 2019-03-05 14:57:39 · 1757 阅读 · 0 评论 -
NCNN简单入门及安装
1.概述ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖,跨平台,手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn,开发者能够将深度学习算法轻松移植到手机端高效执行,开发出人工智能 APP,将 AI 带到你的指尖。ncnn 目前已在腾讯多款应用中使用,如QQ,Qzone,微信,天天P图等。 2.功能...原创 2019-02-13 14:24:30 · 6020 阅读 · 1 评论 -
数据科学家必须知道的 10 个深度学习架构
近年来,深度学习的发展势头迅猛,要跟上深度学习的进步速度变得越来越困难了。几乎每一天都有关于深度学习的创新,而大部分的深度学习创新都隐藏在那些发表于ArXiv和Spinger等研究论文中。本文介绍了部分近期深度学习的进展和创新,以及Keras库中的执行代码,本文还提供了原论文的链接。简洁起见,本文中只介绍了计算机视觉领域内比较成功的深度学习架构。另外,文章基于已经掌握了神经网络的知...转载 2018-06-01 18:38:06 · 749 阅读 · 0 评论 -
从VGG到ResNet,你想要的MXNet预训练模型轻松学
本文介绍了如何利用 Apache MXNet 预训练出的多个模型。每个模型在特定图像上的表现略有不同,训练多个模型旨在找出更适合特定任务的模型。在这篇博文中,你将会了解如何使用 Apache MXNet 预训练出的多个模型。为什么要尝试多个模型呢?为什么不直接选择准确率最高的呢?稍后我们会在文章中看到,尽管这些模型是在相同的数据集上训练的,并且都针对最大准确率进行了优化,但它们在特定图像上...翻译 2018-05-21 10:24:33 · 3235 阅读 · 0 评论 -
caffe 训练
1. train.bat..\caffe-windows-master\bin\caffe.exe //安装配置时生成的caffe.exe路径 train //表示训练过程 --solver=.\model\solver.prototxt //参数设置文件 --weights=.\mod...原创 2018-05-22 09:07:23 · 260 阅读 · 0 评论 -
Caffe 各层
slice:在某一个维度,按照给定的下标,blob拆分成几块。比如要拆分channel,总数50,下标为10,20,30,40,那就是分成5份,每份10个channel,输出5个layer。concat:在某个维度,将输入的layer组合起来,是slice的逆过程。split:将blob复制几份,分别给不同的layer,这些上层layer共享这个blob。tile:将blob的某个维度...原创 2018-05-16 15:37:45 · 1240 阅读 · 0 评论 -
L2 Normalization Layer in Caffe
有的时候我们需要在Caffe中添加新的Layer,现在在做的项目中,需要有一个L2 Normalization Layer,Caffe中居然没有,所以要自己添加。所以最重要的是如何实现forward_cpu(forward_gpu), backward_cpu(backward_gpu). 1. L2 Normalization Forward Pass(向前传导)1.1 Form...原创 2018-05-23 14:33:20 · 2718 阅读 · 1 评论 -
hdf5 文件生成 C++
使用 hdf5 配置1. 包含目录E:\WorkSpace\SoftWare\hdf5\include2.库目录E:\WorkSpace\SoftWare\hdf5\lib\3.链接器 -输入hdf5.libhdf5_cpp.lib4. C/C++ -预处理器定义H5_BUILT_AS_DYNAMIC_LIB;注意 使用 hdf5 用于 训练 过程...原创 2018-05-30 09:37:08 · 4619 阅读 · 1 评论 -
添加新Layer -caffe (绝对值损失,SmoothL1损失)
1.RoiPoolingLayer 2.SmoothL1LossLayercaffe 的 Fast_Rcnn 实现, 里面包含 RoiPoolingLayer 和 SmoothL1LossLayerhttps://github.com/rbgirshick/caffe-fast-rcnn/注意: 把编译改成 61 否者 cu文件无法编译成功 想要在现有的caffe版本...原创 2018-06-21 13:21:09 · 894 阅读 · 0 评论 -
caffe finetune
propagate_down具体使用方法及决定是否反传的各个参数的区别假设我们有4个卷积层A->B->C->Dpropagate_down (如果没效果就使用方法2 每一层含有参数的设置r_mult=0)我们希望C层的参数不改变,以及C前面的A、B层的参数也不改变,这种情况也就是D层的梯度不往前反向传播到D层的输入blob(也就是C层的输出blob 没有得到梯...原创 2018-05-31 14:37:11 · 387 阅读 · 0 评论 -
caffe softmax_loss layer 解析
按理说每一层应该都要求一层梯度,其中包括对权值,对输入数据,对偏置分别求取梯度。但是在softmax with loss layer这一层求取梯度的一些过程被省去了,首先这一次只是一个激活函数层,没有权值和偏置参数,然后我们只需要对输入数据求取梯度,softmax with loss layer的输入数据其实表示的是原始输入数据相对于各个标签的打分,而对于代价函数对这个输入的梯度已经有专门的迭代算...原创 2018-06-22 10:20:18 · 813 阅读 · 0 评论 -
Deep Hyperspherical Learning
Hyperspherical Convolutional 超球面卷积随着CNN网络的加深,参数增多,网络会变得越来越难训练(过拟合,梯度消失/梯度爆炸),对于参数的初始化也会变的更加敏感。为了优化这个问题,作者采用了一种新奇的方法即超球面卷积(SphereConv) 代替原来的内积计算。这种网络结构(SphereNet)会更容易优化,收敛更快,同时在一些分类任务上也表现的比普通的卷积网络更好。实验...原创 2018-06-15 11:15:13 · 859 阅读 · 0 评论 -
Intel发布神经网络压缩库Distiller:快速利用前沿算法压缩PyTorch模型
近日,Intel 开源了一个用于神经网络压缩的开源 Python 软件包 Distiller,它可以减少深度神经网络的内存占用、加快推断速度及节省能耗。Distiller 为 PyTorch 环境提供原型和分析压缩算法,例如产生稀疏性张量的方法和低精度运算等。项目地址:https://github.com/NervanaSystems/distiller/文档地址:https://nervanas...翻译 2018-06-24 13:27:52 · 4458 阅读 · 0 评论 -
Normalization caffe layer
有的时候我们需要在Caffe中添加新的Layer,现在在做的项目中,需要有一个L2 Normalization Layer,Caffe中居然没有,所以要自己添加。添加方法作者已经在Caffe的wiki上写出来了,Link How To Implement New Layers in Caffe所以最重要的是如何实现forward_cpu(forward_gpu), backward_cpu(b...转载 2018-07-09 18:26:02 · 412 阅读 · 0 评论 -
caffe 读取caffemodel的参数 C++
1.配置 protobuf 的 include 目录2.配置 protobuf的库目录3.拷贝 caffe 源码生成的 caffe.pb.cc 和caffe.pb.h 文件到 当前工程目录。 (注意 protobuf 库 跟caffe 版本要匹配)4.读取代码#include "caffe.pb.h"#include <fstream>int getParame...原创 2018-07-04 09:10:39 · 2577 阅读 · 2 评论 -
当前训练神经网络最快的方式:AdamW优化算法+超级收敛
最优化方法一直是机器学习中非常重要的部分,也是学习过程的核心算法。而 Adam 自 14 年提出以来就受到广泛关注,目前该论文的引用量已经达到了 10047。不过自去年以来,很多研究者发现 Adam 优化算法的收敛性得不到保证,ICLR 2017 的最佳论文也重点关注它的收敛性。在本文中,作者发现大多数深度学习库的 Adam 实现都有一些问题,并在 fastai 库中实现了一种新型 AdamW ...转载 2018-07-06 15:25:39 · 15809 阅读 · 0 评论 -
四天速成!香港科技大学 PyTorch 课件分享
前天,香港科技大学计算机系教授 Sung Kim 在 Google Drive 分享了一个 3 天速成的TensorFlow 极简入门教程;接着,他在 GitHub 上又分享了一个 3 至 4 日的速成教程,教大家如何使用 PyTorch 进行机器学习/深度学习。Sung Kim 共享了该教程的代码和 PPT 资源,机器之心对其做了扼要介绍。资源链接请见文中。 代码:http...转载 2018-05-13 15:49:41 · 518 阅读 · 0 评论