
深度学习
吴春旭呀
为天地立心,为生民立命,为往圣继绝学,为万世开太平
展开
-
AlexNet 和 VGG-Net的区别
原文:http://www.ithao123.cn/content-8359874.html摘要-今年的 CVPR 非常的火爆,总共有2800多人参与,相比去年增加了700多人,这与deep learning的异军突起是不无关系的。CVPR 2015 基本是 “the year of deep learning”,有大概70%的文章是关于deep learning的。今年的 CVPR 非常的火爆,...转载 2018-04-18 20:01:06 · 3341 阅读 · 0 评论 -
深度学习在处理视频上几种主要技术方法
深度学习在视频内容表达上主要的几种技术方法。参考:https://yq.aliyun.com/articles/39134这里只做简要总结,具体请参考原文章1. 基于单帧的识别方法一种最直接的方法就是将视频进行截帧,然后基于图像粒度(单帧)的进行deep learninig 表达,视频的某一帧通过网络获得一个识别结果。然而一张图相对整个视频是很小的一部分,特别当这帧图没有那么的具有...转载 2018-07-30 21:57:33 · 7331 阅读 · 0 评论 -
机器学习中数据集的拆分
转自:https://feisky.xyz/machine-learning/basic/datasets.html通常将数据集分为三类,分为俩类的是留出法。在机器学习中,通常将所有的数据划分为三份:训练数据集、验证数据集和测试数据集。它们的功能分别为训练数据集(train dataset):用来构建机器学习模型 验证数据集(validation dataset):辅助构建模型,用于...转载 2018-09-12 10:19:10 · 10329 阅读 · 0 评论 -
图解softmax
转自:https://blog.youkuaiyun.com/xbcReal/article/details/53081234在读深度学习相关论文的时候经常看到softmax layer这个鬼东西,一直很懵逼,直到我看到了这张图23333转载 2018-09-12 11:17:42 · 647 阅读 · 0 评论 -
SVM与SoftMax分类器
出处:http://blog.youkuaiyun.com/han_xiaoyang/article/details/49999299 声明:版权所有,转载请注明出处,谢谢。转给自己1. 线性分类器在深度学习与计算机视觉系列(2)我们提到了图像识别的问题,同时提出了一种简单的解决方法——KNN。然后我们也看到了KNN在解决这个问题的时候,虽然实现起来非常简单,但是有很大的弊端:分类器必须记住...转载 2018-09-17 18:38:34 · 893 阅读 · 0 评论 -
CNN卷积神经网络:权值更新公式推导
版权声明:本文为博主原创文章,转载请注明出处。https://blog.youkuaiyun.com/happyer88/article/details/46772347 在上篇《CNN卷积神经网络学习笔记2:网络结构》中,已经介绍了CNN的网络结构的详细构成,我们已经可以初始化一个自己的CNN网络了,接下来就是要用训练得到一个确定的CNN的模型,也就是确定CNN的参数。 CNN本...转载 2018-09-15 10:29:50 · 7840 阅读 · 0 评论 -
多层感知机详解
Principles of training multi-layer neural network using backpropagation The project describes teaching process of multi-layer neural network employing backpropagation algorithm. To illustrate th...转载 2018-10-23 15:20:43 · 1277 阅读 · 0 评论 -
深度强化学习
(这是写给自己看的,大佬请忽略) 深度学习和其他机器学习算法最大的不同在于如何找到特征,而特征的抽取过程就是一个抽象的全过程。以往机器学习算法的特征抽取都是对一类问题有解,比如K-means等聚类。深度学习抽象模拟了人类神经元传递和连接方式,理论上可以解决多种分类问题和预测问题,甚至研究未知领域。(深度学习优化 第十章 深度强化学习)深度强化学习将深度学习的感知能力和强化学习的...原创 2018-10-29 11:29:44 · 1476 阅读 · 0 评论 -
深度学习中各激活函数的优缺点
转自:https://blog.youkuaiyun.com/NOT_GUY/article/details/78749509在深度学习中,信号从一个神经元传入到下一层神经元之前是通过线性叠加来计算的,而进入下一层神经元需要经过非线性的激活函数,继续往下传递,如此循环下去。由于这些非线性函数的反复叠加,才使得神经网络有足够的capacity来抓取复杂的特征。为什么要使用非线性激活函数?答:如果不使...转载 2019-03-20 09:09:29 · 3000 阅读 · 0 评论 -
迁移学习综述
转自:https://www.jiqizhixin.com/articles/2018-09-15-4综述论文:四大类深度迁移学习本文是清华大学智能技术与系统国家重点实验室近期发表的深度迁移学习综述,首次定义了深度迁移学习的四个分类,包括基于实例、映射、网络和对抗的迁移学习方法,并在每个方向上都给出了丰富的参考文献。机器之心对该综述进行了全文编译。论文:A Survey on De...转载 2019-03-20 11:03:59 · 2336 阅读 · 0 评论 -
onnx模型转tensorflow模型
ONNX是开源神经网络交换平台,有了它基本上不用纠结用什么深度学习框架的问题了。我现在记录一下怎么将onnx模型转换成tensorflow模型。1、安装tensorflow和onnx我是通过Anaconda安装的。【详情】这个博客记载了安装Anaconda和onnx的详情,安装好Anaconda后,至于安装tensorflow只需要输入【conda install tensorflow】就...原创 2019-03-20 21:30:47 · 11324 阅读 · 23 评论 -
安装onnx
1、安装pip【https://blog.youkuaiyun.com/quantum7/article/details/83543591】sudo apt-get install python-pip #python2sudo apt-get install python3-pip #python32、caffe安装(ubantu>=17)【http://caff...原创 2019-03-12 20:27:36 · 18435 阅读 · 0 评论 -
树莓派使用神经计算棒1代的准备(Tensorflow)
硬件:树莓派3B+、神经计算棒1代步骤:1、ncsdk的安装在树莓派连网的情况下,在终端输入git clone http://github.com/Movidius/ncsdk && cd ncsdk && make install##这个不加-b ncsdk安装的是一代产品默认安装了caffe,这时可以运行caffe模型了,如需运行te...原创 2019-03-26 15:10:07 · 1841 阅读 · 0 评论 -
数据增强:数据有限时如何使用深度学习 ?
转自:https://www.leiphone.com/news/201805/avOH5g1ZX3lAbmjp.html这篇文章是对深度学习数据增强技术的全面回顾,具体到图像领域。这是《在有限的数据下如何使用深度学习》的第2部分。点击这里查看第1部分《NanoNets :数据有限时如何应用深度学习?》。这些情况我们都经历过。你精通机器学习的相关概念,并能将其应用于机器学习模型。打开浏...转载 2019-03-22 10:07:42 · 814 阅读 · 0 评论 -
增强学习、增量学习、迁移学习——概念性认知
转自:https://blog.youkuaiyun.com/zyazky/article/details/51942135一、增强学习/强化学习(Reinforcement Learning )我们总是给定一个样本x,然后给或者不给label y。之后对样本进行拟合、分类、聚类或者降维等操作。然而对于很多序列决策或者控制问题,很难有这么规则的样本。比如,四足机器人的控制问题,刚开始都...转载 2019-04-16 09:57:12 · 1122 阅读 · 0 评论 -
基于深度学习的视频预测研究综述
原址:http://html.rhhz.net/tis/html/201707032.htm(收集材料ing,为论文做准备)[综述性文章,,,可以做背景资料] 莫凌飞, 蒋红亮, 李煊鹏 摘要:近年来,深度学习算法在众多有监督学习问题上取得了卓越的成果,其在精度、效率和智能化等方面的性能远超传统机器学习算法,部分甚至超越了人类水平。当前,深度学习研究者的研究兴趣逐渐从监督学习...转载 2018-07-30 16:07:38 · 19386 阅读 · 0 评论 -
深度学习(Deep Learning):循环神经网络一(RNN)
原址:https://blog.youkuaiyun.com/fangqingan_java/article/details/53014085概述循环神经网络(RNN-Recurrent Neural Network)是神经网络家族中的一员,擅长于解决序列化相关问题。包括不限于序列化标注问题、NER、POS、语音识别等。RNN内容比较多,分成三个小节进行介绍,内容包括RNN基础以及求解算法、LSTM以...转载 2018-07-26 22:03:51 · 3287 阅读 · 0 评论 -
目标检测——从RCNN到Faster RCNN 串烧
目标检测——从RCNN到Faster RCNN 串烧 https://blog.youkuaiyun.com/xyy19920105/article/details/50817725 本人小硕一枚,方向是深度学习的目标检测,故想把从RCNN到Faster RCNN整个线串一下,理清里面的整个设...转载 2018-04-13 16:48:52 · 215 阅读 · 0 评论 -
论文阅读:SSD: Single Shot MultiBox Detector
原址:https://blog.youkuaiyun.com/u010167269/article/details/52563573 Preface这是今年 ECCV 2016 的一篇文章,是 UNC Chapel Hill(北卡罗来纳大学教堂山分校) 的 Wei Liu 大神的新作,论文代码:https://github.com/weiliu89/caffe/tree/ssd 有几点更新: 1. 看到一篇...转载 2018-04-13 09:52:23 · 217 阅读 · 0 评论 -
Visualizing and Understanding Convolutional Networks
原文地址:http://blog.youkuaiyun.com/hjimce/article/details/50544370一、相关理论本篇博文主要讲解2014年ECCV上的一篇经典文献:《Visualizing and Understanding Convolutional Networks》,可以说是CNN领域可视化理解的开山之作,这篇文献告诉我们CNN的每一层到底学习到了什么特征,然后作者通过可视化进...转载 2018-03-28 20:17:48 · 177 阅读 · 0 评论 -
GoogLeNet系列解读
原 https://blog.youkuaiyun.com/shuzfan/article/details/50738394 本文介绍的是著名的网络结构GoogLeNet及其延伸版本,目的是试图领会其中的思想而不是单纯关注结构。GoogLeNet Incepetion V1Motivation Architectural DetailsG...转载 2018-05-21 14:04:39 · 458 阅读 · 0 评论 -
关于 epoch、 iteration和batchsize的区别
https://blog.youkuaiyun.com/sinat_30071459/article/details/50721565深度学习中经常看到epoch、 iteration和batchsize,下面按自己的理解说说这三个的区别:(1)batchsize:批大小。在深度学习中,一般采用SGD训练,即每次训练在训练集中取batchsize个样本训练;(2)iteration:1个iteration等于...转载 2018-05-23 11:02:49 · 442 阅读 · 0 评论 -
图像语义分割的前世今生
原址:https://www.cnblogs.com/ariel-dreamland/p/8028492.html 1998年以来,人工神经网络识别技术已经引起了广泛的关注,并且应用于图像分割。基于神经网络的分割方法的基本思想是通过训练多层感知机来得到线性决策函数,然后用决策函数对像素进行分类来达到分割的目的。这种方法需要大量的训练数据。神经网络存在巨量的连接,容易引入空间信息,能较好地解决...转载 2018-06-11 13:24:12 · 789 阅读 · 0 评论 -
GoogLeNet学习
转自:http://blog.youkuaiyun.com/liumaolincycle/article/details/50471289#t0综述:http://blog.youkuaiyun.com/sunbaigui/article/details/50807362googlenet和vgg是2014年imagenet竞赛的双雄,这两类模型结构有一个共同特点是go deeper。跟vgg不同的是,googlenet...转载 2018-05-30 09:26:52 · 485 阅读 · 0 评论 -
深度学习笔记1
自学笔记第1章 引言 人工智能真正的挑战在于解决那些对人类来说容易执行、但很难形式化描述的任务。如何将非形式化的知识传给计算机呢?AI深度学习可以让计算机从经验中学习,并根据层次化的概念体系来理解世界。一些人工智能项目力求将关于世界的知识用形式化的语言进行编码(hard-code),使计算机可以使用逻辑推理规则来自动地理解这些形式化语言中的声明。人们设法设计足够复杂的形式化规则来准确...原创 2018-06-20 21:27:57 · 484 阅读 · 0 评论 -
机器学习基础自学笔记2
以前看视频看博客学习深度学习,总感觉心里慌慌的,找不到重点,感觉不是很系统。现在虽然学的也很渣,不过感觉没那么慌了。教训是要多看书,自己思考,思考不明白再查博客大牛怎么讲的。希望我的感觉是对的吧。1.1学习算法 机器学习算法是一种能够从数据中学习的算法。Mitchell提供一个简洁的定义:对于某类任务和性能度量P,一个计算机程序被认为可以从经验E中学习是指,通过经验E...原创 2018-06-29 21:28:01 · 197 阅读 · 0 评论 -
神经网络与深度学习笔记
1、神经网络 感知机就是一个人工神经元,是最简单的神经网络,可以用来解决简单“与”和“或”分类问题,但是无法解决“异或”逻辑分类问题这一基础功能。这也导致了神经网络研究陷入低谷。 为解决XOR问题,1974年哈佛大学的一片博士论文证明在神经网络多加一层,并利用“反向传播”学习方法,可以解决XOR问题。这就是多层神经网络也叫前馈神经网络。2、深度学习 深度神经网...原创 2018-07-08 21:53:20 · 454 阅读 · 0 评论 -
深度学习和强化学习的关系
强化学习是一个连续决策的过程,传统的机器学习中的有监督学习是给定一些标注数据,学习一个好的函数,对未知数据做出很好的决策。但有时候,并不知道标注是什么,即一开始不知道什么是“好”的结果,所以RL不是给定标注,而是给一个回报函数,这个回报函数决定当前状态得到什么样的结果(“好”还是“坏”),其数学实质是一个马尔可夫决策过程。最终的目的是决策过程中整体回报函数期望最优。 ...原创 2018-07-18 21:44:04 · 8529 阅读 · 0 评论 -
深度学习常用方法
Deep Learning的常用模型或者方法 1、AutoEncoder自动编码器 Deep Learning最简单的一种方法是利用人工神经网络的特点,人工神经网络(ANN)本身就是具有层次结构的系统,如果给定一个神经网络,我们假设其输出与输入是相同的,然后训练调整其参数,得到每一层中的权重。自然地,我们就得到了输入I的几种不同表示(每一层代表一种表示),这些表示就是特征。...转载 2018-07-18 21:53:57 · 6172 阅读 · 0 评论 -
AlphaGo的原理
转载申明:最近在看AlphaGo的原理,刚好在https://blog.youkuaiyun.com/a1805180411/article/details/51155164发现了这篇文章,感觉写的非常好,好东西就要分享,所以转载过来供大家学习。以下是转载全文。 导读:关于Alfa Go的评论文章很多,但真正能够与开发团队交流的却不多,感谢Alfa Go开发团队DeepMind的朋友对我这...转载 2018-07-18 22:07:10 · 3604 阅读 · 0 评论 -
一张图解AlphaGo原理及弱点
声明:本文转载自(微信公众号:CKDD),作者郑宇 张钧波,仅作学习收录之用,不做商业目的。近期AlphaGo在人机围棋比赛中连胜李世石3局,体现了人工智能在围棋领域的突破,作为人工智能领域的工作者,我们深感欣慰。其实质是深度学习网络(CNN)跟蒙特卡罗搜索树(MCTS)结合的胜利,是人类智慧的进步。不少所谓的“砖”家开始鼓吹机器战胜人类、甚至人类将被机器统治等无知言论,让人实在看不下去。作为...转载 2018-07-18 22:12:44 · 32239 阅读 · 0 评论 -
斯坦福大学深度学习视频(CS231n课程)
Youtube视频地址(要翻墙): https://www.youtube.com/results?search_query=deep+learning+stanford原创 2018-07-06 13:13:49 · 3240 阅读 · 0 评论 -
pycharm运行完第一个程序,怎么运行第二个程序
献给和我一样的pycharm小白刚用pycharm,我感觉,pycharm比spyder好用一点,有树结构,有变量目录问题描述如下:我运行完第一个程序后,再选中第二个程序点击运行,运行的还是第一个程序的结果,很奇怪,在spyder上不这样呀。网上也没有搜明白,就自己瞎倒腾了一下。解决过程如下:过程如下,我的理解是要切换控制台,我原来运行的print1,现在切运行8.1.py...原创 2018-07-19 22:45:23 · 13273 阅读 · 8 评论 -
python PIL 打开\显示\保存图像
转自:https://www.cnblogs.com/denny402/p/5096001.html使用python进行数字图片处理,还得安装Pillow包。虽然python里面自带一个PIL(python images library), 但这个库现在已经停止更新了,所以使用Pillow, 它是由PIL发展而来的。pip install Pillow一、图片的打开与显示fro...转载 2019-05-12 18:55:02 · 42770 阅读 · 2 评论