数值优化
关注
分享
扫一扫
文章平均质量分 68
lucylove3943
我每天都在进步,尽管百般艰辛
展开
-
暴力拆解《Numerical Optimization》之线搜索
123123原创 2014-11-06 04:33:57 · 1174 阅读 · 1 评论 -
暴力拆解《Numerical Optimization》之器材准备
这将是一篇连载。我将在上面记录我原创 2014-11-06 03:04:34 · 1716 阅读 · 0 评论 -
暴力拆解《Numerical Optimization》之信任域方法（下）——柯西点
虽然《Numerical Optimization》这本书的作者认为，信任域方法和线搜索方法的主要区别在于：线搜索方法是先确定方向，后计算步长；信任域方法是先计算步长，后确认方向。但是我并不这样认为。由上面的介绍我们可以看出，信任域方法在确定好信任域大小后，也是要调整的长度的，所以我并不认为信任域方法是先计算步长，后确认方向。如有觉得上面有错误，或者有疑问，请评论，我们一起原创 2014-11-13 21:01:02 · 3304 阅读 · 1 评论 -
暴力拆解《Numerical Optimization》之信任域方法（上）
利用信任域方法来求解目标函数的极小值，也主要分为两步：1.确定信任域的大小2.计算原创 2014-11-10 21:21:55 · 2083 阅读 · 0 评论 -
暴力拆解《Numerical Optimization》之信任域方法（下）——Dogleg（狗腿方法）
这一节，我们来介绍一下DogLeg方法。还记得模型函数吗：在Dogleg方法中，要求模型函数中的B必须是正定矩阵。至于为什么，先卖个关子，学完之后你自然就明白了。现在我们正式开始学习吧~：由于B是正定矩阵，那么，有前面几篇博客的介绍可知，在无约束条件下，模型函数的极值在点取到。那么，1.，那么，由上面的讨论可知。2.那么，当&space;\bigtr原创 2014-11-29 01:55:24 · 4504 阅读 · 1 评论 -
暴力拆解《Numerical Optimization》之共轭方向法
共轭梯度法是用来解决当为对称正定阵时，的问题。由矩阵理论的知识，我们可知若为对称正定阵，那么就是一个正规阵，由正规阵的性质可知，可以写成这样的形式：其中为矩阵的特征值，为相应特征值所对应的特征向量所组成的矩阵（已施密特正交化）。记：由于中的列向量已经施密特正交化过，所以各列向量之间是线性无关的，并且我们有：也就是说，与共轭。原创 2015-01-19 20:45:44 · 1213 阅读 · 0 评论 -
暴力拆解《Numerical Optimization》之器材准备（数学知识补充）
1.Jacobian矩阵和Hessian矩阵Jacobian矩阵：假设有，，那么，定义Jacobian矩阵为y对x的导数，为：特别的，当m = 1时，我们所得到的Jacobian矩阵为梯度(gradient)：Hessian矩阵：Hessian矩阵为梯度对的二阶导，为：Hessian矩阵为对称矩阵。原创 2014-11-29 02:00:47 · 1904 阅读 · 2 评论