数值优化（Numerical Optimization）学习系列-02-信赖域方法

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 2.4w累计阅读 2.5w+平均单平台已同步平台优快云微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄18年

关注

原创 2026-10-07 17:41:23 2.4w 阅读 AI 写同款· GEO 优化 ›

数值优化专栏收录该内容

¥9.90 ¥99.00

17篇文章

订阅专栏

超级会员免费看

声明：以下内容是基于书籍学习整理得到，难免有错误，随时指正交流；转载请注明出处~

概述

线搜索与信任域都是「迭代着走」的框架，但两者的决策顺序正好相反：

线搜索：先定方向 $p_k$

了解本专栏

订阅专栏解锁全文

超级会员免费看

收录于

当前文章被以下社区和专栏收录：

标签

#数值优化 #信赖域 #TR

数值优化（二）：信赖域方法与二维空间法由于B正定因此可以进行正交分解,B=QΛQT；Λ=diag(λ1,λ2,...,λn)并且λ1≤λ2≤...≤λnB=QΛQT；Λ=diag(λ1,λ2,...,λn)并且λ1≤λ2≤...≤λn由于是正交分解因此通过该节需要了解1. 信赖域方法和线搜索方法的不同2. 信赖域方法的基本形式3. 信赖域方法的柯西点算法、DogLeg算法和最优解迭代算法4. 信赖域方法收敛。阅读详情

相关推荐

机器人中的数值优化（五）——信赖域方法

信赖域方法（Trust Region Methods）是一种用于非线性优化的数值优化方法，旨在寻找目标函数的最小值。信赖域算法是一种迭代算法，即从给定的初始解出发，通过逐步迭代，不断改进，直到获得满意的近似最优解为止。其基本思想是把最优化问题转化为一系列简单的局部寻优问题。

慕羽★的博客 4774

数值优化（Numerical Optimization）学习系列-目录

概述数值优化对于最优化问题提供了一种迭代算法思路，通过迭代逐渐接近最优解，分别对无约束最优化问题和带约束最优化问题进行求解。该系列教程可以参考的资料有 1. 《Numerical Optimization 2nd》–Jorge Nocedal Stephen J. Wright 2. 《凸优化》–Stephen Boyd 3. 《非线性最优化基础》–Masao Fukushima

互联网广告从业者，长期关注AI、计算广告以及搜广推相关技术，致力于广告投放、广告策略以及底层技术透明可视，太阳底下没有新鲜事，人人可懂可会 3万+

数值优化（Numerical Optimization）学习系列-概述

数值优化的学习过程是长期的、是枯燥的也是最有用的，一旦入门对机器学习者、算法工作者都会有很大的帮助。在此记录Numerical Optimization的学习、思考和实践。

数值优化（Numerical Optimization）学习系列-序列二次规划和内点法（SQP、Interior-Point）

概述对于非线性约束最优化问题，序列二次规划和内点法是两类非常重要的算法，也是大规模问题的利器。序列二次规划方法将原始问题分解为一系列二次规划问题逐步求解；内点法将将约束添加到目标函数中转换为一系列无约束问题逐步求解。两类算法共同思想将原始问题转换为可求解问题。 1. 序列二次规划概述 2. 内点法概述 3.总结序列二次规划(SQP)概述序列二次规划(Seque

互联网广告从业者，长期关注AI、计算广告以及搜广推相关技术，致力于广告投放、广告策略以及底层技术透明可视，太阳底下没有新鲜事，人人可懂可会 4万+

数值优化（Numerical Optimization）学习系列-非线性方程（Nonlinear Equation）

概述实际中很多应用不是寻找最优解，而是寻找一个根满足给定的约束条件，如果有n个非线性等式约束，就是本节介绍的非线性方程问题，本节主要介绍 1. 非线性方程的问题形式 2. 非线性方程的求解算法 3. 总结非线性方程的问题形式问题形式，寻找满足n个非线性等式的根，即r(x)=0r(x) = 0 其中r(x)=[r1(x),...rn(x)]Tr(x)=[r

互联网广告从业者，长期关注AI、计算广告以及搜广推相关技术，致力于广告投放、广告策略以及底层技术透明可视，太阳底下没有新鲜事，人人可懂可会 5291

数值优化（Numerical Optimization）学习系列-07-无梯度优化（Derivative-Free Optimization）

概述在实际应用中，有些目标函数的梯度不容易计算，即使使用有限差分等近似算法，也会因为噪声的存在导致结果不精确。无梯度优化算法（DFO-Derivative-Free Optimization）可以在不计算梯度的情况下进行问题的最优化，主要有两类思路，一是根据目标函数的样本进行拟合，对拟合函数进行最优化；二是用一些启发式算法。 1. 有限差分和误差 2. 基于模型近似的方法

互联网广告从业者，长期关注AI、计算广告以及搜广推相关技术，致力于广告投放、广告策略以及底层技术透明可视，太阳底下没有新鲜事，人人可懂可会 1万+

数值优化（Numerical Optimization）学习系列-最小二乘问题（Least-Squares）

概述最小二乘问题在实际应用中非常广泛，也是无约束最优化问题的重要应用之一，但是对于该问题还有一些特殊的求解思路，供参考。该小结主要介绍：问题定义线性最小二乘问题以及求解非线性最小二乘问题以及求解总结最小二乘问题描述最小二乘问题泛指具有如下形式的问题minf(x)=12∑j=1...mr2j(x)min f(x)=\frac12 \su

AXI总线的Burst Type以及地址计算 | WRAP到底是怎么一回事？

AXI总线的transaction是burst-based的，因此有必要好好研究一下不同burst type的工作原理。此处略过burst的定义以及burst size、burst length等信号的介绍。

qiuzhongyu123的博客 2万+

倍福Beckhoff运动控制功能块实战解析：从MC_ReadActualPosition到MC_GearInVelo

本文深入解析倍福（Beckhoff）TwinCAT运动控制功能块，从基础的MC_ReadActualPosition、MC_Power等轴状态读取与使能操作，到MC_MoveAbsolute、MC_MoveRelative等单轴定位指令，并重点剖析了用于动态速度同步的核心功能块MC_GearInVelo在飞锯等场景的应用。文章结合实战经验，详细介绍了齿轮耦合、电子凸轮（MC_CamIn）等高级同步功能的参数配置、调试技巧及常见问题，旨在帮助工程师快速掌握倍福运动控制工具箱，实现复杂的同步工艺。

transformer2023的博客 981

直流电动机的建模仿真（1）他励，串励和并励电动机建模仿真

本文根据不同励磁方式的直流电动机的接线原理图，建立了相应的数学模型，然后根据与数学模型对应的等效电路以及模拟机械运动方程的等效电路，用Matlab/simulink中的SpecializedPower system库中的电路元件，建立了他励，并励和串励直流电动机的全等效电路仿真模型，经过与Matlab自带的直流电动机仿真模型比较以及仿真实例验证，所建立的仿真模型时完全正确的。

weixin_45670943的博客 7516

利用GPAC生成MP4文件

GPAC主要针对学生和内容创作者，代表了一个跨平台的多媒体框架，开发人员可以使用它在 LGPL 许可下制作开源媒体。GPAC多媒体框架兼容范围广泛的流行文件类型，从常见格式(如 AVI、MPEG 和 MOV)到复杂格式(如 MPEG-4 系统或 VRML/X3D)和 360 电影。

深之JohnChen的专栏 1770

uniapp实战：mui-player插件如何完美适配m3u8/flv直播流（附完整代码）

本文详细介绍了如何在Uniapp中使用mui-player插件完美适配m3u8和flv直播流，提供从基础配置到高级优化的全流程解决方案。通过动态加载策略、响应式布局和内存管理，实现跨平台稳定播放，适用于企业级直播应用开发。

weixin_29001655的博客 234

Halcon深度学习实战：基于异常值检测的工业缺陷精准识别方案

本文详细介绍了Halcon深度学习中的异常值检测技术在工业缺陷识别中的应用。该方法仅需少量正常样本即可训练，能有效应对未知、多变的缺陷类型，显著降低项目启动门槛。文章提供了从数据准备、模型训练、参数调优到产线部署的完整实战指南，并分享了关键的性能优化与避坑经验。

weixin_29042035的博客 242

5G初始注册流程详解（2）-Registration Request

1:了解注册的本质，5G终端为什么要注册？ 2:SUCI，SUPI,5G-GUTI的区别？ 3:为什么会有COMPLETE REGISTRATION REQUEST呢？

weixin_53220301的博客 3794

【数据集介绍】MVTec 3D AD数据集介绍

MVTec AD（MVTec Anomaly Detection）数据集是用于异常检测的计算机视觉数据集。该数据集包含来自工业生产中不同材料和产品的图像，包括玻璃、塑料、纺织品等。每个类别都包含正常样本和异常样本。这些异常样本包括各种常见的生产缺陷，如划痕、裂纹、凹陷等。MVTec AD数据集旨在帮助研究人员和从业者开发和评估用于检测工业制造中物体缺陷的算法和系统。

原来也有北瓜 7748

锂电池充电器电路设计里面有电路

锂电池充电器电路设计里面有电路 3.7V升压到5V电路设计。

霍尼韦尔SoftMaster使用说明

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

上一篇：数值优化（Numerical Optimization）学习系列-01-线搜索方法（LineSearch）

下一篇：数值优化（Numerical Optimization）学习系列-03-共轭梯度方法（Conjugate Gradient）

机器人中的数值优化（五）——信赖域方法

慕羽★的博客

09-02

4774