wgj99991111的博客

本文档主要记录本人在cnn学习过程中对一些概念的理解，想法，经验等。泛化能力：概括地说，泛化能力（generalization ability）是指机器学习算法对新鲜样本的适应能力。学习的目的是学到隐含在数据对背后的规律，对具有同一规律的学习集以外的数据，经过训练的网络也能给出合适的输出，该能力称为泛化能力。Batch Normalization：即BN算法，用以加快神经网络的训练速度，并...

一、安装Anaconda3我们从官网下载(https://www.anaconda.com/download/#windows)下载anaconda3，509M下载要一会。

理解这个方法之前，先要理解卷积的概念。卷积，通俗的讲就是加权叠加，就相当于把输入信号的各个时间点的单位响应 加权叠加，就直接得到了输出信号。在数字图像处理中，卷积的物理含义是：**把一个点的像素值用它周围的点的像素值的加权平均代替。**通常应用于图像滤波。方法定义tf.nn.conv2d (input, filter, strides, padding, use_cudnn_on_gp...

一、池化操作1、池化的目的：对输入的特征图进行压缩，一方面使特征图变小，简化网络计算复杂度；一方面进行特征压缩，提取主要特征。2、对池化的理解：池化可以理解为一种采样，获取图像的概要统计特征。就好像在太空上俯瞰地球，看到的只有山脊和雪峰。这即是对特征进行宏观上的进一步抽象。 经过池化后，得到的是 概要统计特征 。它们不仅 具有低得多的维度 (相比使用所有提取得到的特征)，同时还会 改善结果...

Softmax的含义：Softmax简单的说就是把一个N*1的向量归一化为（0，1）之间的值，由于其中采用指数运算，使得向量中数值较大的量特征更加明显。如图所示，在等号左边部分就是全连接层做的事。W是全连接层的参数，我们也称为权值；W是全连接层的参数，是个T*N的矩阵，这个N和X的N对应，T表示类别数，比如你进行手写数字识别，就是10个分类，那么T就是7。X是全连接层的输入，也就是特征。...

深度学习中的反向传播训练过程，是优化权值矩阵的关键过程，下面记录自己学习体会。卷积神经网络经过前面的运算之后，在训练的过程中，由于我们知道每一个样本的正确结果，所以可以得到一个损失函数。这个损失函数很关键，反向传播的训练过程就是通过他来实现的。得到损失函数之后，我们就希望损失函数的值越小越好。这就转化成一个微积分中的优化问题，即，要求在什么情况下损失函数的值最小，也就是要求损失函数的最小值。我...

使用tensorflow进行机器学习的一般流程构建模型构建预测模型构建优化模型使用 TensorFlow 实现模型使用 TensorFlow 训练模型使用 TensorFlow 进行实际预测功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚...

tensorflow运行过程的可视化有助于我们对网络进行调优。比如迭代的过程中每一层参数是如何变化与分布的，比如每次循环参数更新后模型在训练集上的准确率是如何的，比如损失值的变化情况，等等。tensorflow提供了可视化工具Tensorboard，今天把学习该工具的过程记录如下：一、Tensorboard的配置与初步使用在tensorflow构建图的过程中放入记录变量在使用tensorf...