weixin_45652976的博客

(1)BP学习算法可分为前向传播预测与反向传播学习两个过程。要学习的各参数值一般先作随机初始化。取训练样本输入网络，逐层前向计算输出，在输出层得到预测值，此为前向传播预测过程。根据预测值与实际值的误差再从输出层开始逐层反向调节各层的参数，此为反向传播学习过程。经过多样本的多次前向传播预测和反向传播学习过程，最终得到网络各参数的最终值，这是BP神经网络训练模型中的核心部分。(2)保存神经网络效果差，原因是没对进行优化。对一个特征提取的程序优化特征，有助于提高判断准确率。

(1) 逻辑回归的目的是寻找一个非线性函数Signmoid的最佳拟合参数，求解过程可以由最优化算法来完成。在最优化算法中，最常用的是梯度上升算法，而梯度上升算法又可以简化为随机梯度上升算法。(2) 随机梯度上升算法与梯度上升算法的效果相当，但占用更少的计算机资源。此外，随机梯度上升算法是一个在线算法，它可以在新数据到来时完成参数更新，而不需要重新读取整个数据集来进行批处理运算。