- https://blog.youkuaiyun.com/linolzhang/article/details/60151623(hession矩阵的相关信息)
- https://blog.youkuaiyun.com/lwzkiller/article/details/55050275(泰勒定理相关知识)
其中 J 定义为 雅克比矩阵,对应一阶偏导数。
H 为 Hessian矩阵,对应二阶偏导数。
但Hessian矩阵的引入增加了复杂性,特别是当:
▪ Hessian 矩阵非正定(非凸)导致无法收敛;
▪ Hessian 矩阵维度过大带来巨大的计算量。