CV老李的博客

Pascal三角方法和U'VU

日期：2020-5-8

共轭梯度法问题依旧是运用变分法求解线性方程组Ax=bAx = bAx=b与最速下降的区别共轭梯度与最速下降的区别在于共轭梯度在下降方向的选取上，要求下一次下降的方向与上一次的方向关于系数矩阵A是共轭的关系。为何要这样进行优化，是因为如果我们选择d为下降的初始方向，那么对于n维度正定实对称系数矩阵A来说，与d关于A共轭的方向最多只有n-1个，我们可以将之理解为另一种形式的正交。由此，我们...

最速下降我们讨论的依然是变分法求解Ax=bAx = bAx=b的问题对问题的描述已经在上一章完全叙述过了。传送门： [link]（https://blog.youkuaiyun.com/weixin_29732003/article/details/103310961）最速下降法算法在大多数数值分析的教程中会有详细的说明。我对这个方法的迭代过程做一个简洁的说明：我们做用迭代法解线性方程组的时候只关...

变分法求解线性方程组的可视化（1）问题本身讨论一个非常常见的问题求解线性方程组Ax=bAx = bAx=b我们使用变分的思想，如果A是一个对称正定的矩阵，我们可以把这个问题转化为求12xTAx−xTb\frac{1}{2}x^{T}Ax - x^{T}b21​xTAx−xTb的最小值的问题如果A是满秩但不是实对称的，我们把方程组转化为ATAx=ATbA^{T}Ax = A^{T}bA...