今天总结一下神经网络的一些理论知识,熟悉了最基本的概念,学习会更加容易~
目录
神经网络
1.概念
计算机中的神经网络是对人脑的抽象,模拟,对函数进行估计或者近似。
简单理解就是类似人大脑的神经系统,可以自己学习,来从数据中总结规律。
2.神经元
(1)神经网络中的基础单元,相互连接,组成神经网络。
(2)一个神经元的功能就是在求得输入向量与权向量的内积后,经一个非线性传递函数得到一个标量结果。
3.神经网络的结构(大致分为五类)
(1)前馈式网络:该网络结构是分层排列的,每一层的神经元输出只和下一层的神经元连接。
(2)输出反馈的前馈式网络: 存在一个输出层到输入层的反馈回路,其他与前馈式网络一样。
(3)前馈式内层互连网络:在该网络结构中,同一层的神经元之间相互关联,有相互制约的关系,但从层与层之间的关系看,它仍是前馈式的网络结构。
(4)反馈型全互联网络:在该网络结构中,每个神经元的输出都和其他神经元相连从而形成了动态的反馈关系,具有自寻优能力。
(5)反馈型局部互连网路:在该网络结构中,每个神经元只和其周围若干层的神经元发生互连关系,形成局部反馈,从整体上看是一种网状结构。
4.单层神经网络
是最基本的神经元网络形式,由有限个神经元构成,单层神经元的输出是一个向量。
5.感知机
是最为基础的模型,两层的神经网络,它可以简单理解为是一个二分类的模型,给定阈值,将训练的数据集完全分开,判断数据属于哪一部分。
除此之外,也有多层感知机(MLP),也叫前馈神经网络。
6.多层神经网络
多层神经网路包含输入层,输出层,隐层,全连接层......
大致可分为卷积神经网路(CNN),循环神经网路(RNN)等。
卷积神经网络:实在神经网路的基础上加入了卷积运算,从而提取其特征