5.4 人工神经网络ANN
XOR问题
5.4.1感知器

学习感知器模型
感知器训练阶段,就是不断调整权值参数使得输出和训练实例输出一致

算法第七步:权值更新公式
新权值等于旧权值加上一个正比于预测误差的项
线性可分:感知器学习算法保证收敛
线性不可分:算法不收敛
5.4.2 多层人工神经网络
复杂化感知器
(1)网络输入层和输出层之间包括多个中间层,即隐藏层,隐藏结点
前馈神经网络:每一层的结点仅和下一层结点连接< ---- > 递归神经网络
(2)其他激活函数
基于梯度下降的神经网络权值学习方法
1.学习ANN模型
ANN学习算法的目的是确定一组权值最小化误差的平方和:

梯度下降法使用的权值更新公式:

反向传播
2.ANN学习中的设计问题
(1)确定输入层的节点数目
(2)确定输出层的节点数目
(3)选择网络拓扑结构
(4)初始化权值和偏置
(5)去掉有遗漏值的训练样例
5.4.3 人工神经网络的特点

本文深入探讨了人工神经网络(ANN)的基本概念,包括感知器模型的学习与训练过程,多层神经网络的结构与激活函数的选择,以及基于梯度下降的权值学习方法。详细解析了感知器解决XOR问题的能力,多层神经网络的复杂化,以及ANN学习中的关键设计问题。
18万+

被折叠的 条评论
为什么被折叠?



