
深度学习
海鸥-号
这个作者很懒,什么都没留下…
展开
-
完全图解RNN、RNN变体、Seq2Seq、Attention机制
一、从单层网络谈起在学习RNN之前,首先要了解一下最基本的单层网络,它的结构如图:输入是x,经过变换Wx+b和激活函数f得到输出y。相信大家对这个已经非常熟悉了。二、经典的RNN结构(N vs N)在实际应用中,我们还会遇到很多序列形的数据:如:自然语言处理问题。x1可以看做是第一个单词,x2可以看做是第二个单词,依次类推。 语音处理。此时,x1、x2...转载 2019-03-19 13:37:22 · 167 阅读 · 0 评论 -
LBP(Local Binary Pattern,局部二值模式)
LBP(Local Binary Pattern,局部二值模式)是一种用来描述图像局部纹理特征的算子;它具有旋转不变性和灰度不变性等显著的优点。它是首先由T. Ojala, M.Pietikäinen,和D. Harwood在1994年提出,用于纹理特征提取。而且,提取的特征是图像的局部的纹理特征;1、LBP特征的描述 原始的LBP算子定义为在3*3的窗口内,以窗口中...转载 2019-04-30 09:51:00 · 3675 阅读 · 1 评论 -
cv2.inRange函数
函数很简单,参数有三个第一个参数:hsv指的是原图第二个参数:lower_red指的是图像中低于这个lower_red的值,图像值变为0第三个参数:upper_red指的是图像中高于这个upper_red的值,图像值变为0而在lower_red~upper_red之间的值变成255 img_cv2 = cv2.imread(img_file) hsv = cv2.cv...原创 2019-04-24 22:08:23 · 29779 阅读 · 2 评论 -
直接使用训练好的VGG16测试
实验环境:1、下载用VGG16在ImageNet数据集上训练好的权重数据 vgg16.npy 链接:https://pan.baidu.com/s/1gg9jLw3 密码:umce2、下载imagenet_classes.py (1000个类别,tf.argmax 返回值就是imagenet_classes中行号对应的类别),下载地址:http://www.cs.toronto.e...原创 2019-05-02 16:33:52 · 2963 阅读 · 2 评论 -
梯度消失与梯度膨胀,以及6种解决措施
1.梯度消失根据链式法则,如果每一层神经元对上一层的输出的偏导乘上权重结果都小于1的话,那么即使这个结果是0.99,在经过足够多层传播之后,误差对输入层的偏导会趋于0。这种情况会导致靠近输入层的隐含层神经元调整极小。2.梯度膨胀根据链式法则,如果每一层神经元对上一层的输出的偏导乘上权重结果都大于1的话,在经过足够多层传播之后,误差对输入层的偏导会趋于无穷大。这种情况又会导致靠近...转载 2019-04-08 21:26:53 · 2468 阅读 · 0 评论 -
利用RNN(lstm)生成文本
转载:https://www.jianshu.com/p/1a4f7f5b05ae致谢以及参考最近在做序列化标注项目,试着理解rnn的设计结构以及tensorflow中的具体实现方法。在知乎中找到这篇文章,具有很大的帮助作用,感谢作者为分享知识做出的努力。学习目标定位我主要重点在于理解文中连接所提供的在github上的project代码,一句句理解数据的预处理过程以及rnn网络搭建...转载 2019-03-26 21:31:56 · 1234 阅读 · 0 评论 -
keras系列︱Sequential与Model模型、keras基本结构功能(一)
keras系列︱Sequential与Model模型、keras基本结构功能(一)来源“素质云博客”, https://blog.youkuaiyun.com/sinat_26917383/article/details/72857454不得不说,这深度学习框架更新太快了尤其到了Keras2.0版本,快到Keras中文版好多都是错的,快到官方文档也有旧的没更新,前路坑太多。到发文为止,已经有th...转载 2019-03-23 15:20:59 · 763 阅读 · 0 评论 -
一文读懂AI网络结构:LeNet-5 AlexNet VGG Inception ResNet MobileNet
1 引言当前深度学习十分火热,深度学习网络模型对于降低错误率的重要作用不言而喻。深度学习应用场景主要分为三类:物体识别与分类,物体检测,自然语言处理。在物体识别与分类领域,随着AlexNet在2012年一炮走红,深度学习重新燃起了一片热情。从Lenet5第一次使用卷积开始,经历了AlexNet VGG Inception ResNet等各种模型,错误率也一再降低。ResNet-152 top-...转载 2019-03-19 14:07:46 · 953 阅读 · 0 评论 -
RNN和LSTM
RNN中文分词、词性标注、命名实体识别、机器翻译、语音识别都属于序列挖掘的范畴。序列挖掘的特点就是某一步的输出不仅依赖于这一步的输入,还依赖于其他步的输入或输出。在序列挖掘领域传统的机器学习方法有HMM(Hidden Markov Model,隐马尔可夫模型)和CRF(Conditional Random Field,条件随机场),近年来又开始流行深度学习算法RNN(Recurrent Ne...转载 2019-03-19 14:03:43 · 315 阅读 · 0 评论 -
目标检测之选择性搜索-Selective Search
在基于深度学习的目标检测算法的综述那一节中我们提到基于区域提名的目标检测中广泛使用的选择性搜索算法。并且该算法后来被应用到了R-CNN,SPP-Net,Fast R-CNN中。因此我认为还是有研究的必要。传统的目标检测算法大多数以图像识别为基础。一般可以在图片上使用穷举法或者滑动窗口选出所有物体可能出现的区域框,对这些区域框提取特征并进行使用图像识别分类方法,得到所有分类成功的区域后,通过非...转载 2019-04-30 10:20:02 · 687 阅读 · 0 评论