Ceres Solver 官方教程学习笔记（七）——解析微分法Analytic Derivatives

最新推荐文章于 2023-11-25 10:06:16 发布
原创 最新推荐文章于 2023-11-25 10:06:16 发布 · 2.5k 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Ceres

本文介绍了在Ceres Solver中使用解析微分法解决复杂曲线拟合问题的案例，通过计算导数并优化表达式，提高了效率。讨论了何时应考虑使用analytical derivatives，包括表达式简单、可用计算机代数系统辅助以及特定代数结构能提升性能的情况。同时强调在决定采用这种方法前，需要评估计算成本，并提到了无法通过其他方式计算导数的特殊情况。

这篇文章翻译自官方教程Analytic Derivatives并且参考了少年的此间的博客文章Ceres-Solver学习笔记(5)

我们来思考一个相对复杂的曲线拟合问题。待确定参数方程如下：

y=b1(1+eb2−b3x)1/b4 y = b 1 ( 1 + e b 2 − b 3 x ) 1 / b 4

现在给定一系列的对应数据点 { xi,yi}, ∀i=1,...,n { x i , y i } ,   ∀ i = 1 , . . . , n 。我们面临的问题就是求解 b1,b2,b3,b4 b 1 , b 2 , b 3 , b 4 使下列表达式的取值最小：

E(b1,b2,b3,b4)=∑if2(b1,b2,b3,b4;x
最低0.47元/天 解锁文章
ceres解析微分方法示例
卫少东个人博客
06-17 514
slam中的同学都常用的库位g2o和ceres,在求导方面,g2o统一使用数值微分,但是我们是知道,如果有明确的雅克比,解析微分在速度,精度和防止发散方面有着不小的优势. 我们具体看一个ceres中使用已知的雅克比的示例: class Rat43Analytic : public SizedCostFunction<1,4> { public: Rat43Analytic(const double x, const double y) : x_(x), y_(y) {}
Ceres Solver 官方教程学习笔记（六）——关于微分计算On Derivatives
小政哥的私房博客
04-04 1830
本节主要根据也Ceres官方教程On Derivatives翻译而成 与所有基于梯度的优化算法一样，Ceres Solver也是基于评估域中任意点的目标函数及其导数。事实上，Ceres的核心就是确定目标函数机器雅可比行列式。雅可比行列式求解的正确性和效率是评判算法优劣的关键指标。用户可以灵活的从一下三种微分算法中选择： Analytic Derivatives 解析微分算法...
Ceres中Analytic Derivatives、 Numeric Derivatives、Automatic Derivatives区别
Keep Learning, Keep Growing, Keep Succeeding!
06-05 515
与所有基于梯度的优化算法一样，Ceres Solver依赖于能够在其域中的任意点评估目标函数及其导数。实际上，定义目标函数及其雅可比矩阵是用户在使用Ceres Solver求解优化问题时需要执行的主要任务。正确有效地计算雅可比矩阵是获得良好性能的关键。 Ceres Solver在用户如何为求解器提供导数方面提供了相当大的灵活性。可以用： Analytic Derivatives：用户自己手...
ceres Analytic Derivatives
weixin_43409270的博客
10-15 378
ceres Analytic Derivatives ceres是一个非线性最小二乘的库 其中主要求解方式有Analytic Derivatives，AutoDerivatives & Numeric Derivatives这三种。AutoDerivatives最常用也最方便使用，Analytic Derivatives在雅各比矩阵计算上可能会快于AutoDerivatives，所以在某些地方可以使用Analytic Derivatives来加速优化过程。 Analytic Derivatives需
Ceres Solver 官方教程学习笔记（八）——数值微分法Numeric derivatives
小政哥的私房博客
04-04 2412
这篇文章翻译自官方教程Numeric derivatives并且参考了少年的此间的博客文章Ceres-Solver学习笔记(5) 利用analytic derivatives的另一个极端形式是 numeric derivatives，即数值微分法。数值微分法的关键是，目标函数f(x)f(x)f(x)的微分方程可以被写成一个极限形式： Df(x)=limh→0f(x+h)−f(x)hD...
Ceres Solver 官方教程学习笔记（九）——自动微分法Automatic Derivatives
小政哥的私房博客
04-05 3212
这篇文章翻译自官方教程Automatic Derivatives并且参考了少年的此间的博客文章Ceres-Solver学习笔记(5) 现在我们将讨论自动微分算法。它是一种可以快速计算精确导数的算法，同时用户只要做与数值微分法类似的工作。下面的代码片段实现了对Rat43（见前两节）的CostFunction。 struct Rat43CostFunctor { Rat43Cost...
Ceres Solver 官方教程学习笔记（Ⅹ）——自动微分法接口Interfacing with Automatic Differentiation
小政哥的私房博客
04-05 1905
这篇文章翻译自官方教程Automatic Derivatives并且参考了少年的此间的博客文章Ceres-Solver学习笔记(5) 在成本函数的有一个显式表达式的情况下，自动微分算法很容易使用。但有时候这不太现实。通常程序都需要与外部的程序或数据进行交互。在这一章中，我们将考虑几种不同的方法来在这些特殊情况下使用自动微分法。 现在我们考虑一个优化问题。寻找参数θθ\theta和ttt...
Ceres Solver 官方教程学习笔记（三） ——鲍威尔方程Powell`s Function
小政哥的私房博客
03-26 4106
本节主要翻译自官方教程Powell’s Function（鲍威尔方程） 在这一节我们使用一个复杂一些的例子——求解鲍威尔方程的最小值。我们定义参数块x=[x1,x2,x3,x4]x=[x1,x2,x3,x4]x = \left[x_1, x_2, x_3, x_4 \right] 。以及代价函数如下： f1(x)f2(x)f3(x)f4(x)F(x)=x1+10x2=5–√(x3−...
Ceres优化库学习02----三种求导方式简单入门：自动求导、数值导数、解析求导
AI Chen的博客
09-13 1752
12(10−x)2.21​(10−x)2.这是一个很简单的问题，其最小值位于x=10x = 10x=10。第一步是编写一个代价函数（CostFunctor），这个代价函数必须是可以用来衡量12(10−x)221​(10−x)2大小的函数，我们选用其导数形式f(x)=10−xf(x)=10−x。
Ceres使用
qq_37746927的博客
11-25 1814
Ceres使用
Ceres 自动求导解析-从原理到实践
weixin_45860565的博客
04-01 2854
Ceres 有一个自动求导功能，只要你按照Ceres要求的格式写好目标函数，Ceres会自动帮你计算精确的导数（或者雅克比矩阵），这极大节约了算法开发者的时间，但是笔者在使用的时候一直觉得这是个黑盒子，特别是之前在做深度学习的时候，神经网络本事是一个很盒模型了，再加上pytorch的自动求导，简直是黑上加黑。现在转入视觉SLAM方向，又碰到了 Ceres 的自动求导，是时候揭开其真实的面纱了。知其然并知其所以然才是一名算法工程师应有的基本素养。
ceres 基本使用-自动求导、数值导数、解析导数-代码示例
weixin_45860565的博客
08-25 1666
使用Ceres Solver 求解非线性优化问题，本文章演示了基本使用，并通过一个实际问题，结合程序进行演示，展示了自动求导，解析求导，数值求导的区别以及具体的使用场景，帮助大家更好的理解和使用 Ceres Solver 这一强大的非线性优化库。...
Ceres简介及示例（2）helloworld 自动梯度求导、数值求导、解析法求导
热爱生活，忠于自己
03-14 621
比如在某些情况下，计算导数的时候，使用闭合解（closed form，也被称为解析解）会比使用自动微分算法中的链式法则（chain rule）更有效率。使用了仿函数，即在CostFunctor结构体内，对()操作符进行了重载，这样使该结构体的一个实例就能具有类似一个函数的性质，在代码编写过程中就能当做一个函数一样来使用。在这种情况下，由于残差函数是线性的，雅可比矩阵是常数。为此，定义一个CostFunction的子类，或者在编译时知道了参数的大小和残差，则可以定义SizedCostFunction的子类。
【SLAM】Ceres优化库超详细解析
热门推荐
Yngz_Miao的博客
07-10 3万+
Ceres是由Google开发的开源C++通用非线性优化库，与g2o并列为目前视觉SLAM中应用最广泛的优化算法库。 对于任何一个优化问题，我们首先需要对问题进行建模，之后采用合适的优化方法，进行求解。在求解的过程中，往往需要进行梯度下降求取最优，这里涉及了导数计算。所以在代码中使用Ceres进行优化时，需要包含基本内容：建模、优化、求导方法。 Ceres库简介 Ceres库主要用于求解无约束或者有界约束的最小二乘问题。其数学形式如下：
非线性优化Ceres手动求导数值求导解析求导使用示例
沧海一帆的专栏
12-18 4247
参考Ceres官方文档http://www.ceres-solver.org/nnls_tutorial.html#hello-world 实现手动求导进行非线性优化。 // Author: keir@google.com (Keir Mierle) // // A simple example of using the Ceres minimizer. // // Minimize 0.5 (1...
ceres解析导数（Analytic Derivatives）进阶
AI Chen的博客
09-15 971
ceres优化器中解析导数的使用。
Cerse入门(一)Helloword解析与自动求导
dushib的博客
01-24 1489
简介： Ceres是谷歌开发的广泛使用的最小二乘问题求解库。用户只需要按照一定的步骤定义待解的优化问题然后交给求解器计算。最小二乘问题一般格式如下： 使用Ceres求解非线性优化问题，一共分为三个部分： 1、 第一部分：构建cost fuction，即代价函数，也就是寻优的目标式。这个部分需要使用仿函数（functor）这一技巧来实现，做法是定义一个cost function的结构体，在结构体内重载（）运算符，具体实现方法后续介绍。 2、 第二部分：通过代价函数构建待求解的优化问题。 3、 第三部分
ceres solver之三种求导方式
weixin_44401286的博客
07-06 2756
非线性优化涉及到对目标函数进行求导，从而迭代优化。 Ceres Solver提供了三种求导方式：自动求导、数值求导和解析求导。 1. 自动求导 自动求导是通过定义一个仿函数，然后传给AutoDiffCostFunction，就可以让Ceres自己去求导。 1.1 定义仿函数 所谓仿函数，其实是一个类，只不过这个类的作用像函数，所以叫仿函数。原理就是类实现了operator()函数。 struct CostFunctor { template <typename T> bool ope
Ceres Solver 官方教程学习笔记（二）
小政哥的私房博客
03-26 5332
本节内容主要翻译自官方指南Derivatives部分 像大多数优化软件包一样，Ceres求解器的求解基于其能够在任意参数值下评估目标函数中每个项的值和导数。 正确而高效地做到这一点对于取得优秀的运算结果至关重要。Ceres提供了一系列解决方案，其中一个就是在Hello World中用到的Automatic Differentiation (自动微分算法)。这一部分我们将探讨另外两种可能性...
Ceres Solver 1.11版本配置教程
11. **社区和资源**：Ceres Solver的官方社区和相关资源对于学习和使用该库非常有帮助。开发者可以参考官方文档、教程、邮件列表和论坛来解决开发过程中遇到的问题。 最后，从标题中提到的“ceres-solver-1.11.0”...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值