WUHU648的博客

这种解决办法也不是根本解决办法，虽然比较麻烦，但是还是能将项目跑起来，也是没有办法的办法，在此做一个笔记记录。

关于tensorboard --logdir=logs的报错解决办法记录

循环神经网络一、什么是循环神经网络：循环神经网络（Rerrent Neural Network, RNN），是神经网络的一种，类似的还有深度神经网络DNN，卷积神经网络CNN，生成对抗网络GAN。RNN的特点是对具有序列特性的数据非常有效，它能挖掘数据中的时序信息以及语义信息，利用了RNN的这种能力，使深度学习模型在解决语音识别、语言模型、机器翻译以及时序分析等NLP领域的问题时有所突破。对于序列特性，我个人理解，就是符合时间顺序，逻辑顺序，或者其他顺序就叫序列特性，举几个例子：拿人类的某句话来说

1、卷积神经网络发展史（convolutional neural networks,CNN)CNN是针对图像领域任务提出的神经网络，经历数代人的发展，在2012年之后大部分图像任务被CNN统治，例如图像分类，图像分割，目标检测，图像检索等CNN结构受视觉系统启发1962年，生物学家TorstenWiesel 和 David H.Hubel(1981年的诺贝尔医学奖)对猫的视觉系统进行研究,首次发现猫的视觉系统中存在层级机构,并且发现了两种重要的细胞simple cells和complexcells

1、人工神经元人类神经元中抽象出来的数学模型树突：input细胞核：处理操作+激活函数轴突末梢：输出f(∑i=1NIi⋅Wi\sum_{i=1}^{N} I_{i}\cdot W_{i}∑i=1N​Ii​⋅Wi​)=y人工神经网络：大量的神经元以某种连接方式构成的机器学习模型。第一个神经网络：1958年，计算机科学家Rosenblatt提出的Perceptron（感知机）o=σ\sigmaσ(（<w,x>+b）) b是指偏执项if x>0 σ\sigmaσ=1 .

一、卷积神经网络（CNN）定义卷积神经网络（convolutional neural network, CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。卷积网络是指那些至少在网络的一层中使用卷积运算来替代一般的矩阵乘法运算的神经网络。经典神经网络的结构：LeNet-5AlexNetVGG二、DNN与CNN的区别上图为DNN神经网络图，DNN内部的神经网络层可以分为三类，输入层，隐藏层和输出层，一般来说第一层是输出层，最后一层是输出层，而中间的层数都是隐藏层。上图为CN

各个知识点详解LeNet-5网络LetNet网络的的讲解主要参考1998年计算机科学家Yann LeCun发布的一篇论文《Gradient based learning applied to document-recognition》大家可以找到这篇论文结合学习，针对该网络，首先大家需要了解一下图像中的常用操作卷积，卷积这个词是信号处理领域的词，表示一个系统多数据处理的过程，在图像处理中的卷积，其实就是滤波器。下面先简要介绍一下卷积核的概念，这个不能细说，因为想要深入理解卷积需要很多知识，这里只给大家

ResNet残差网络问题提出：所谓深度学习，大部分人都会认为准确率会随着卷积层的增加而增加，但是随着技术的增加，有人开始尝试着用一个56层的卷积来代替20层的卷积，但是实验结果缺发现56层的卷积准确率还要低于20层的卷积，这样的实验结果让人们感到很不解，为什么层数的增加反正还会导致准确率降低呢？后来通过对深层的卷积研究发现，导致的原因有可能深层的卷积导致了数据过拟合的现象和梯度下降的后果，由于梯度下降导致有些卷积层的参数完全没有任何意义，那么这样的卷积就算是一个随机卷积层了，这样的卷积层效果肯定是很

卷积神经网络（三）三.目标检测3.1 目标定位对于分类定位问题，通常只有一个较大的物体在图片的中央，我们需要识别该物体的类别并标记物体的位置。而对象检测问题在一张图片中可能会有多个不同类别的对象，我们需要识别各个物体的类别并标记位置。具体如下图：对于目标定位问题，我们通常要输出该物体的类别以及物体中心点的坐标和宽高。该目标定位神经网络要输出8个值，分别是图中是否有目标对象（pc）、目标对象的坐标（bx、by）、目标对象的宽和高（bh、bw）和三种类别物体的可能性（c1、c2、c3）。当pc=1

卷积神经网络（二）二、经典神经网络的结构：LeNet-5AlexNetVGGResNet2.1 LeNet-52.2 AlexNet-5可以同时在两个GPU上运行2.3 VGG2.4 残差网络ResNet下图是一个残差块，输入a[l]会传送到l+2层的线性部分之后，这样它会直接参加非线性部分的计算。下图是一个残差神经网络的示例：对于一般的神经网络，当网络层数变多时，训练错误会先减少后增加，但是对于ResNet不会出现这种情况。2.5残差网络的作用残差网络起作用的主要

一.卷积神经网络（一）1.1 计算机视觉卷积神经网络一般应用于计算机视觉领域，由于有的时候图片的像素点很多，导致神经网络输入特征值的维数很多。1.2 边缘检测示例如下图所示，原图是一个661的矩阵，卷积核是一个331的矩阵，经过卷积后得到一个441的矩阵。计算过程如下：| 3 | 0 | 1 |… … … …| 1 | 0 | -1 || 1 | 5 | 8 |…*… . … .| 1 | 0 | -1 | =3+1+2-1-8-2=-5| 2 | 7 | 2 |… … … …|

多层感知器（MLP）问题引入：（1）根据检测数据x1、x2及其标签，判断x1=0.7、x2=0.6时所属类别如果采用逻辑回归，因为边界函数并不是单一的直线或圆之类的函数，所以这个逻辑回归边界函数不很好找到，如果初始数据属性有100项甚至更多项，那么形成的多项式数据量会非常庞大。（2）根据各个国家100项指标，判断其未来5年的发展潜力这样的数据有多个指标，那么其二次多项式个数就会更加多。（3）自动识别图片中的动物是猫还是狗。计算机对于图片看到的是一个二维数组的数值，其中有图像RGB值，灰度

深度学习之卷积神经网络图像卷积运算对图像矩阵与滤波器矩阵进行对应相乘再求和运算，转化得到新的矩阵。作用:快速定位图像中某些边缘特征英文: convolutionCNNA与B的卷积通常表示为:A*B或convolution(A,B)···· X11 X12 X13A= X21 X22 X23···· X31 X32 X33····F= W11 W12···· W21 W22包含竖向轮廓的区域非常亮(灰度值高)计算机根据样本图片，自动寻找合