4.2.1 学习规则
学习规则:修改权值和偏置的方法和过程。大致分为三类:有监督学习,无监督学习,增强(或分级)学习。
1) 有监督的学习。一堆{输入, 期望输出} 序列来训练网络,调整权值和偏置,从而是实际输出与期望输出越来越接近。感知机的学习属于这种。
2) 增强学习。与1)类似,不过并不给出期望输出,而只给一个级别(或评分),这个级别是对网络在某些输入序列上的性能测度。除了控制系统应用领域外,比较少用。
3) 无监督的学习。仅根据输入调整网络,没有目标输出。大多数这种类型的算法都是要完成某种聚类操作,学会将输入模式分为有限的几种类型。特别适用于向量量化等问题。
4.2.2 感知机的结构
网络中的每个神经元将输入空间划分成两个区域。判定边界与权值向量W垂直,且W总是指向神经元输出为1的区域。
多神经元感知机可以将输入空间划分成2^S个区域,也就是将输入模式划分成2^S个类别。
4.2.3 感知机的学习规则
若网络无偏置,{Wnew = Wold + e*p, e=t-a}, 不断旋转纠正W的方向。将偏置看作恒定为p=1的输入,则偏置的学习规则 { bnew = bold + e }。
感知机规则:Wnew =Wold +e*p