神经网络学习笔记（二）线性神经网络

训练函数和学习函数的区别

  学习过程中突然产生了这个疑问，通过查询得到了以下解释： 训练函数和学习函数是两个不同的函数 ，网络设置中两个都有。简单的说，训练函数确定调整的大算法，是全局调整权值和阈值，考虑的是整体误差的最小； 学习函数决定调整量怎么确定，是局部调整权值和阈值，考虑的是单个神经元误差的最小。所以两者不冲突，可以一样也可以不同，就像你绕着楼跑步时，地球也在绕着太阳跑，是局部与整体的区别，既有联系又有区别，辩证统一。
训练函数是如何让误差最小的一些算法，如梯度下降，共轭梯度，这里强调算法。学习函数是指，权值和阈值的调整规则，或者称更新规则。训练函数求得权值或阈值之后，由学习函数进行调整，然后再由训练函数训练新的权值或阈值，然后再调整，反复下去。
 希望大家可以从中明确 训练函数和学习函数的区别。此解释转自知乎。

作者：黄柏月
链接：https://www.zhihu.com/question/36358823/answer/208105681
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

线性神经网络与感知器神经网络区别

    线性神经网络与感知器神经网络区别在于线性神经网络输出可以取任意值，而感知器神经网络只能取两种可能的值。只能解决线性可分的问题，可实现拟合和逼近。线性神经网络应用LMS算法得到的分类边界往往在两类模式的正中间，而感知学习算法在刚刚区分两类后就停止逼近，是我系统对误差更敏感。

线性神经网络结构图：

线性神经网络相关函数</