BFGS算法
牛顿迭代算法
函数f(x) 的二阶泰勒展式
f(x)=f(x(k))+gTk(x−x(k))+12(x−x(k))THk(x−x(k))gk=f′(x(k))Hk=[∂2f∂xi∂xj]n∗n
BFGS算法是拟牛顿法的一种,通过模拟二阶海森矩阵进行函数极小值迭代。相对于牛顿迭代法,它避免了直接求解海森矩阵,降低了计算复杂性并确保迭代矩阵正定,适用于大规模优化问题。
函数f(x) 的二阶泰勒展式
3999

被折叠的 条评论
为什么被折叠?