HPUZJH

感知机模型解决逻辑运算问题 神经网络雏形，明白一些怎么进行分类的了，这里的参数都是人工尝试的。 训练感知机模型时，数据一定要是线性可分的，否则使用梯度下降算法将无法收敛。 前馈神经网络（整个网络无反馈，可以使用有向无环图表示） 【个人想法】为什么选择sigmoid函数，而不继续使用sign函数1、选择连续函数可以进行求导 2、被选择的这些函数方便进行求导，比如1/（1+...

https://www.bilibili.com/video/av43533515 在使用均方差误差函数时，可能陷入梯度消失？能否选择交叉熵函数？有何影响？ 问题： 1、收敛太慢 2、由于参数量大容易过拟合 正则化项 Dropout 用于在神经网络中防止过拟合 激活函数 梯度消失：在迭代过程中梯度趋向于零，这就意味着参数将无法进行学...

https://www.bilibili.com/video/av43534076 Dropout原理 特点： 1、能够学习到更易泛化的特征 2、稀疏性