Xuefen's happyland

老夫马上要回学校了，这几天先不更了。滑动平均：记录了一段时间内模型中所有参数w和b各自的平均值。利用滑动平均值可以增强模型的泛化能力。滑动平均值（影子）计算公式：影子 = 衰减率 * 影子 +（1 - 衰减率）* 参数其中，衰减率，影子初值=参数初值用Tesnsorflow函数表示为：ema =tf.train.ExponentialMovingAverage(MOVING...

卷积神经网络全连接 NN：每个神经元与前后相邻层的每一个神经元都有连接关系，输入是特征，输出为预测的结果。参数个数：（前层X后层+后层）  一张分辨率仅仅是28x28的黑白图像，就有近40万个待优化的参数。现实生活中高分辨率的彩色图像，像素点更多，且为红绿蓝三通道信息。待优化的参数过多，容易导致模型过拟合。为避免这种现象，实际应用中一般不会将原始图片直接喂入全连接网络。在实际应用中...

输入手写数字输出识别结果 本节目标：输入手写数字图片输出识别结果&制作数据集1、实现断点续训2、输入真实图片，输出预测结果3、制作数据集，实现特定应用 输入手写数字图片输出识别结果一、断点续训关键处理：加入ckpt操作：ckpt = tf.train.get_checkpoint_state(MODEL_SAVE_PATH)if ckpt andc...

本节目标：搭建神经网络，在 mnist 数据集上训练模型，输出手写数字识别准确率。（内心OS：太难了太难了！！！）——————————————————————————————————————————————不可视的境界线mnist 数据集：包含 7 万张黑底白字手写数字图片，其中 55000 张为训练集， 5000 张为验证集，10000 张为测试集。每张图片大小为 28*28 像素，...

  题主下学期大二了，暑假最后二十天准备玩一玩人工智能入门，由于我用的是Windows机器，然后根据教程，我选择的是虚拟机下的UBuntu系统，话不多说：1.首先我们需要下载VMware虚拟机，百度进入官网；2.在左侧的下载里面，选择Workstation Pro，点击进入下载，注册自己的VMware下载安装即可；3.在安装VMware的时候需要提供许可证，否则你得购买，这...

由之前的知识我们知道，前向传播主要负责搭建网络结构，反向传播负责训练网络参数。我们之前的基本神经元模型都是输入X和权重W相乘所得到的Sigma(XiWi)，而在1943年心理学家McCulloch和数学家Pitts的神经元模型中是f（(Sigma(XiWi))+bias），其中()为激活函数，bias为偏置项。而神经网络的基本单元就是神经元。常用激活函数如下：激活函数：引入非线性激活因...

首先，神经网络的实现过程：第一，   准备数据库，提取特征，作为输入为给神经网络（Neural Network，NN）第二，   搭建NN结构，从输入到输出（先搭建计算图，再用会话执行）（NN前向算法--->计算输出）第三，  大量特征数据喂给NN，迭代优化NN参数，直到模型达到要求（NN反向算法--->优化参数训练模型）第四， 使用训练好的模型完成预测和分类后面，...

关键词解释：tensorflow：python中和矩阵有关的一个模块NN：神经网络，neural network阶段目标：搭建第一个神经网络，总结搭建八股。一、基于Tensorflow的NN：用张量表示数据，用计算图搭建神经网络，用会话执行计算图，优化线上的权重（参数），得到模型。二、张量（tensor）：多维数组（列表）  阶：张量的维数维数          阶    ...

      Ubuntu的一些终端指令：桌面点击右键，选择Open Terminal pwd 打印当前所在哪个目录 ls列出当前路径下的文件和目录 mkdir 目录名，新建目录 cd 目录名，进入指定目录 python 运行python解释器 Do what you want to do  ScreenShot is showed below：            在Ubu...

pku教程的小结：什么是机器学习：机器学习是一种统计学方法，利用已有数据得到某种模型，再用模型预测结果。  特点：随数据增加，效果会变好比如：决策树模型 机器学习与传统计算机运算的区别：传统计算机是基于冯诺伊曼结构，指令预先存储。运行时，CPU从存储器里逐行读取指令，按部就班逐行执行预先安排好的指令。其特点是输出结果是确定的，因为先干什么吼干什么的指令都已经提前写好了，然后交...

笔者研读了矩阵分析和矩阵论，觉得要么没仔细讲要么没讲好，我们就举个例子来看看吧。关于Jordan标准型的定义，这个我们不过分介绍，直接举个例子。正规解法：但其实你可以根据Jordan标准型的形式直接构造，每一个Jordan块对角位置都是eigen value，而右上角有没有1是看此eigenvalue的几何重数。...