FFTang的博客

因为 在 critical point （梯度接近0）处 一阶导 等于 0， 所以 只留下 含 Hessian 矩阵的二阶导数项。扩展： 现在有其他方法，无需计算 Hessian 矩阵 即可判断 critical point 是否为 鞍点。在考虑 并行运算时， 大的 Batch-size 在跑完一个epoch 时间比小的少。一个解释：开始 走小路， 让 分母的参数获得更多可靠的统计信息。Batch-size 小：不稳定， 时间短。Batch-size 大： 稳定，时间长。（但实际不一定，见下分析）

关于深度学习的流程，关于反向传播的过程。

关于机器学习误差的讨论（偏差和方差），关于梯度下降法的学习率，随机梯度下降和特征缩放的学习。

讨论了回归，找到一个函数 function ，通过输入特征 x，输出一个数值 Scalar。已经如何实现回归。

machine learning概念入门，为什么要学习机器学习