神经网络精要解析-优快云博客

本文链接：https://blog.youkuaiyun.com/u013449590/article/details/105290190

神经网络学习笔记

神经网络概念
DNN （深度神经网络）
CNN（卷积神经网络）
RNN （递归神经网络）

神经网络概念

一、神经网络的种类：
基础神经网络：单层感知机，线程神经网络，bp神经网络，hopfield神经网络等
进阶神经网络：玻尔兹曼机，受限玻尔兹曼机，递归神经网络等
深度神经网络：深度置信网络，卷积神经网络，循环神经网络，lstm圣经网络等
一、感知机 svm
有n个输入数据，通过权重与各数据之间的计算和，w1x1+w2x2+w3*x3+…=y
比较激活函数结果，得出输出
应用：很容易解决与、或问题
感知机是解决分类问题
异或问题：相同为0，不同为1
如何解决:线性回归模型构造直线通过直线分解
在这里插入图片描述

单个感知机无法解决异或问题可以使用两个感知机解决。而神经网络就是基于感知机模型。
神经网络特点
神经网络的特点
输入向量的纬度和输入神经元的个数相同
每个连接都有神经元之间的连接
由输入层、隐层、输出层组成
第N与第N-1层的所有神经元连接，也叫全连接

DNN （深度神经网络）

CNN（卷积神经网络）

卷积层：

一、卷积层概念
定义过滤器（观察窗口）的大小，和移动的步长。
对于一张图片不去对整体像素值进行分析，而是通过部分像素点（叫做窗口）进行线程回归，然后通过向左和向下平移在去对其余的像素进行分析。
彩色图片卷积层窗口示意图
移动一次后
这里用三个权重矩阵来分别处理三个通道像素。
二、零填充
为了使卷积层输出结果的大小和原图大小相同。将原图使用0填充。当填充层数padding = 1 时填充结果图:

这样如果要想使卷积层输出和原图大小相同可以通过简单计算计算出padding 的层数。达到目的。