Raoodududu的博客

一、迁移学习1.def       所谓迁移学习就是将一个问题上训练好的模型通过简单的调整使其适用于一个新的问题。2.特征提取       将新的图像通过训练好的卷积神经网络直到瓶颈层（倒数第二层全连接层）的过程。二、tensorflow实现迁移学习  ...

 

一、引入1.论文AlexNet (https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf), 2. 特点（1）针对网络架构: 使用ReLU作为CNN激活函数：验证其效果在较深的网络要优于Sigmoid；非饱和非线性函数训练速度快...

一、认知概念https://blog.youkuaiyun.com/Raoodududu/article/details/82287099二、 常用结构的tensorflow运用1. 卷积层'''通过tf.get_variable的方式创建过滤器的权重变量和偏置变量。'''#权重变量：前两个维度过滤器尺寸，第三个维度当前层的深度，第四个维度表示过滤器的深度filter_weight = ...

  

   

一、MNIST认知(def)（1） MNIST数据集中的每一张图片都代表了0~9中的一个数，即10类。（2）图片大小都是28×28=784（3）下载地址：http://yann.lecun.com/exdb/mnist（4）MNIST数据集划分为train(55000)、validation(5000)、test(10000)三个数据集二、tensorflow实现及详细分析理解...

对CNN的认知1.def          卷积神经网络（CNN）是一种特殊的对图像识别的方式，属于带有前向反馈的网络，可用来合理有效的减少神经网络的参数个数。其特点是经过多次特征提取，关联型、序列型或结构化等类型的特征被提取，主要来识别二维图形。2.工作原理（1）输入层：代表一张图的像素矩阵；如32×32×3。特征提取：（2）卷积层：深入分析得到抽象程度更高的特征；经...

一、设置学习率     通过指数衰减的方法设置梯度下降算法中的学习率。既可以让模型在训练的前期快速接近较优解，又可以模型在后期波动不大。1.实现功能随着迭代轮数增加一次，学习率降低一次。decayed_learning_rate = learning_rate * decay_rate ^ (global_step / decay_steps)'''decayed_learn...

一、深度学习与深层神经网络        深度学习有两个非常重要的特性——多层和非线性1.非线性变换a = tf.nn.relu(tf.matmul(x,w1)+biases1)  非线性与线性的区别：每个节点的输出在加权和的基础上还做了非线性变化f(x).2.多层变换加入隐藏层，组合特征提取功能，解决不易提取特征向量的问题（比如图片识别、语音识别）。二、神经网络优化...

一、神经网络的思想构架：1.用神经网络解决分类问题的思想构架1°提取问题中实体的特征向量作为神经网络的输入；2°定义神经网络的结构，并定义如何从神经网络的输入得到输出；（即前向传播算法）3°通过训练数据来调整神经网络中参数的取值，这就是训练神经网络的过程；4°使用训练好的神经网络来预测未知的数据。（类似步骤2°）2.训练神经网络的思想构架1°定义神经网络的结构和前向传播...

                                                  整体思想框架1.工作机制：       （1）构建阶段：首先定义计算图中所有的计算，即创建一个个节点，这些节点构成以图的结构相互作用；       （2）执行阶段：建立好的“图”就像一个空壳，你需要启动会话（Session）才能运行这些节点，这就像往这个空壳里边注入血液，让它们循环活动起...

1.python官网-->download-->windows-->x86-64 executable installer(1)必须装3.5版本  否则tensorflow库装不上！！！会遇到  No matching distribution found for tensorflow问题(2) 2.安装(1) (2)(3) (...

一、引入1.发展2.特点 （1）全部使用3×3的卷积核，步长1；和2×2的池化核，步长2；通过不断加深网络结构提升性能。（2）两个3×3卷积层串联优于一个7×7卷积层，使得CNN对特征学习能力更强。（3）不用LRN层；越深层网络效果越好。二、tensorflow实现 1.实现计算前向预测和反向测评时间（1）导入from datetime import da...