viafcccy的博客

我个人理解的信息熵就是信息的复杂程度（这个信息是多样的 同时具有不确定的属性）也就是信息越复杂信息嫡越高同时不确定性也就越高，因此在决策树中通过不断的降低信息熵就可以将事件化简也就是让事件随之确定下来。这其实也印证了信息熵的定义公式（概率*每种事件包含的信息量）。假设有个考试作弊团伙，需要连续不断地向外传递4选1单选题的答案。直接传递ABCD的ascii码的话，每个答案需要8个bit的二进制编...

MNIST 数据集可在http://yann.lecun.com/exdb/mnist/获取, 它包含了四个部分:Training set images: train-images-idx3-ubyte.gz (9.9 MB, 解压后 47 MB, 包含 60,000 个样本) Training set labels: train-labels-idx1-ubyte.gz (29 KB...

Kaggle是由联合创始人、首席执行官安东尼·高德布卢姆（Anthony Goldbloom）2010年在墨尔本创立的，主要为开发商和数据科学家提供举办机器学习竞赛、托管数据库、编写和分享代码的平台。该平台已经吸引了80万名数据科学家的关注，这些用户资源或许正是吸引谷歌的主要因素。本代码实现的就是对于Kaggle著名比赛项目猫狗大战的实现，访问https://www.kaggle.com/c...

在前一篇中使用AlexNet模型训练了一个ckpt模型 但是在使用模型预测的时候又出现了问题 由于在生成过程中没有自定义名称导致不知道在使用的时候不知道变量名称关于上一篇博文得到的四个模型文件meta文件MyModel.meta文件保存的是图结构，meta文件是pb（protocol buffer）格式文件，包含变量、op、集合等。ckpt文件ckpt文件是二进制文件，...

本篇介绍在神经网络中的常见函数 和编程层面的常见问题一、placeholder和variable的区别在tf中除了数据常量和数据变量之外，还存着一种特殊的数据类型——占位符。由于tf的所有运算都是基于session上的一个graph，因此在将一个一个数据流入graph这个数据在编程过程中是不存在的需要一个占位符来代替数据的位置。因此通常使用字典的形式来对placeholder赋值。...

卷积神经网络可谓是现在深度学习领域中大红大紫的网络框架，尤其在计算机视觉领域更是一枝独秀。CNN从90年代的LeNet开始，21世纪初沉寂了10年，直到12年AlexNet开始又再焕发第二春，从ZF Net到VGG，GoogLeNet再到ResNet和最近的DenseNet，网络越来越深，架构越来越复杂，解决反向传播时梯度消失的方法也越来越巧妙。新年有假期，就好好总结一波CNN的各种经典架构吧，领...

本次我们将会使用直接使用tensorflow中自带的模型对cifar10数据集进行分类、识别，通过前面的代码书写，我们了解了怎样构架一个卷积神经网络，但是大多数情况都是可以直接使用模型，然后微调参数来实现的。下面我们通过cifar10来熟悉，正式训练一个神经网络的过程：cifar数据集下载地址http://www.cs.toronto.edu/~kriz/cifar.htmltf...

一、算法逻辑总结二、tf编程逻辑总结

LeNet-5出自论文Gradient-Based Learning Applied to Document Recognition，是一种用于手写体字符识别的非常高效的卷积神经网络。LeNet-5是一个较简单的卷积神经网络。下图显示了其结构：输入的二维图像，先经过两次卷积层到池化层，再经过全连接层，最后使用softmax分类作为输出层。 ...

通过前面的了解 了解到了 神经网络 卷积 与 池化 也基本了解了所有卷积神经网络的重要组成部分卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），也就是卷积神经网络是前面我们构架的神经网络加上卷积与池化构成的一类新的算法。卷积神经网络与普通神经网络的...

卷积寻找目标边缘下面我们使用卷积核对图像的边缘与特征进行检测与标记import tensorflow as tfimport cv2import numpy as npimg = cv2.imread("C:\\Users\\Administrator\\Desktop\\p\\lena.jpg")img = np.array(img , dtype = np.float32...

tensorflow游乐园 点开看看http://playground.tensorflow.org安装 tf对tensorflow进行测试import tensorflow as tfsess = tf.Session()a = tf.constant(1)b = tf.constant(1)print(sess.run(tf.add(a,b)))tens...

绪论根据上面介绍的神经网络，也许或=会感觉神经网络很简单，但是呢只是一个神经元的神经网络，同时省略了许多地方，下面来了解神经网络的更多内容。一、算法基础1.梯度下降法梯度下降法在第二篇中使用了梯度下降法，但是未能了解是什么，下面来体会它的作用与优缺点：关于梯度下降法更多的相关原理推导自行查找，这里给出一部分： ...

重要概念：一、基础概念张量：使用张量（tensor）表示数据，用“阶”表示张量的维度。关于这一点需要展开一下 0阶张量称为标量，表示单独的一个数 1阶张量称为向量， 表示一个一维数组 2阶张量称为矩阵，表示一个二维数组 ……数据流：数据流（data stream）是一组有序，有起点...

我们准备建立一个如下的一个含有一个隐藏层的神经网络去实现回归分析，这个网络应有输入层、输出层、和隐藏层。 最终实现一个一元回归的分析模型，也就会线性回归。我们会生成一个y = 4 * x + 1 的线性曲线，随机生成输入数（满足偏差为0.05的正态分布的噪声数）。import ten...

通过前面几篇建立的神经网络以上一层的输出作为下一层的输入。这种⽹络被称为前馈神经网络。这意味着网络中是没有回路的 —— 信息总是向前传播，从不反向回馈。如果确实有回路，我们最终会有这样的情况：σ 函数的输⼊依赖于输出。这将难于理解，所以我们不允许这样的环路。（前馈 指的是拓扑学上的向前单向传播）BP神经网络是一种多层的前馈神经网络，其主要的特点是：信号是前向传播的，而误差是反向传播的。BP神...

深度学习的模型训练过程往往需要大量的数据，而将这些数据一次性的读入和预处理需要大量的时间开销，所以通常采用队列与多线程的思想解决这个问题，而且TensorFlow为我们提供了完善的函数。TensorFlow提供了整套实现队列的函数和方法，在TensorFlow中，队列和变量类似，都是计算图上有状态的节点。操作队列的函数主要有： FIFOQueue()：创建一个先入先出（FIFO...

逗号分隔值（Comma-Separated Values，CSV，有时也称为字符分隔值，因为分隔字符也可以不是逗号），其文件以纯文本形式存储表格数据（数字和文本）。纯文本意味着该文件是一个字符序列，不含必须像二进制数字那样被解读的数据。CSV文件由任意数目的记录组成，记录间以某种换行符分隔；每条记录由字段组成，字段间的分隔符是其它字符或字符串，最常见的是逗号或制表符。通常，所有记录都有完全相同的...

初识在神经网络中，每一层的每个神经元都与下一层的每个神经元相连， 这种连接关系叫全连接（Full Connected）。 左图为全连接网络 右图为卷积神经网络左图：全连接神经网络（平面），组成：输入层、激活函数、全连接层右图：卷积神经...

下面将会使用VGG16为基础，来微调（Fine-tune）模型达到训练我们自己的数据的目的。这里将会分类一些地表的卫星图片来区分森林、水域、岩石、农田、冰川和城市区域。数据集已经上传至优快云：https://download.youkuaiyun.com/download/viafcccy/11791071一、数据集这里需要了解一下python在命令行下的参数解析1.from __...