高翔【自动驾驶与机器人中的SLAM技术】学习笔记（四）高斯牛顿法详解

一、高斯牛顿法详解

 拓展阅读：高斯牛顿法详解_gauss-newton算法步骤-优快云博客

1、梯度下降法

​

​ 

​

无论一阶泰勒展开，还是二阶泰勒展开都是关于增量​的方程。 

---

---

2、牛顿法

​

 这个自变量增量都是可求的。但是二阶求解复杂。因此为了简化有了下面的高斯牛顿法。不过只适用于最小二乘法。

---

---

3、高斯牛顿法

​

最小二乘法展开的是后面的函数部分。将f(x)一阶泰勒展开（一阶就要带雅可比矩阵）。而非目标函数展开。

​

记住这个增量方程中的。这里后面代码要用到。

缺点：当近似求解的增量过大时，算法无法收敛，我理解到是不是通俗说的SLAM飞了。​

缺点：雅可比矩阵有时是奇异矩阵。 从而导致增量不稳定。

补充：来源《随手笔记——如何手写高斯牛顿法》

还是那句话：高斯牛顿法是对：最小二乘法展开的是后面的函数部分。将f(x)一阶泰勒展开（一阶就要带雅可比矩阵）。而非目标函数展开。是对小f(x)（每个样本即误差项）

下面这个图是讲最小二乘法的样式：

• 模型函数预测值与观察值（真实值）之间的偏差