《机器人中的数值优化》|数值优化之高阶函数性质

原创 已于 2023-02-09 20:28:14 修改 · 226 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

于 2023-01-13 20:03:05 首次发布
文章探讨了光滑函数的高阶信息，特别是Hessian矩阵的对称性及其在泰勒展开中的应用。此外，还介绍了矩阵和向量的微分规则，包括Jacobian矩阵的概念，这些是多变量微积分中的核心内容。
机器人中的数值优化（八）——拟牛顿方法（上）
慕羽★的博客
09-04 2009
本系列文章主要是我在学习《数值优化》过程中的一些笔记和相关思考，主要的学习资料是深蓝学院的课程《机器人中的数值优化》和高立编著的《数值最优化方法》等，本系列文章篇数较多，不定期更新，上半部分介绍无约束优化，下半部分介绍带约束的优化，中间会穿插一些路径规划方面的应用实例
数值优化 | 非线性最小二乘优化器Ceres安装教程与应用案例
FRIGIDWINTER的博客
11-25 4488
Ceres是一个开源的 C++ 库，用于求解大规模非线性最小二乘问题。本文提供了简便的Ceres一键安装脚本，介绍了Ceres库的基本概念：非线性最小二乘、残差块、代价函数等，并给出Powell函数优化和非线性曲线拟合的案例，加深对Ceres库的应用理解，为后续基于非线性最小二乘的轨迹优化打下基础
机器人中的数值优化之BFGS（nonconvex and smooth）
weixin_65089713的博客
01-31 1150
这是cautious update，一般在。当我们需要搜索方向是下降方向时，一定要让。，这就需要满足wolfe条件。首先需要满足充分下降条件，，当离最优解很近时没必要。
AI 人工智能学习之泰勒公式与拉格朗日乘数法
无为 的专栏
10-05 733
泰勒公式，麦克劳林公式，拉格朗日乘子法
数值优化之基本概念
vcvvcvx的博客
01-02 408
数值优化的基本概念——目标函数的基本范式与默认假设
机器人中的数值优化之函数高阶信息
weixin_65089713的博客
01-01 498
hessian矩阵是对称矩阵，最后一个公式是函数关于0的泰勒展开 负梯度是函数下降的最快方向注意区分Hessian矩阵与Jacobian矩阵，Hessian矩阵对应的函数是向量映射到标量，矩阵元素是二阶信息，而Jacobian矩阵对应的函数是向量映射到向量，矩阵元素是一阶信息。 上述几种不同的高阶信息是由于函数映射中X、Y的不同类型导致导数的形式不同Matrix calculus - HandWiki用两种方法计算梯度，一种是元素法，一种是向量法
机器人中的数值优化|【一】数值优化基础
qq_43443531的博客
01-03 1570
本文通过探讨机器人中的数值优化方法，研究包含各种凸优化的理论和数值优化方法。 令X是线性空间。如果对于X的子集S中的所有x和y，并且在区间 [0,1]中的所有t，点(1−t)x+ty也属于S，则S称为凸集。
机器人学中的数值优化基础
BigDavid123的博客
02-11 1811
本章详细介绍了深蓝学院数值优化课第一章的内容 - 数值优化基础
机器人中的数值优化之凸函数
weixin_65089713的博客
01-01 1757
条件数：存在hessian矩阵的函数，作奇异值分解，最大的奇异值除最小的奇异值就是条件数，可导但没有二阶信息的函数，通过利普希茨常数与强凸函数的常数的比值得到条件数，对于一般的不可微的函数，构造等高线，长轴与短轴之比为条件数。条件数决定了我们需不需要在优化算法中利用函数的高阶信息
数值优化 | 详解拟牛顿法之SR1、DFP、BFGS、L-BFGS(附案例分析与Python实现)
FRIGIDWINTER的博客
12-09 4261
为了克服牛顿法计算复杂度高的缺陷，引入拟牛顿法框架对二阶海森矩阵进行近似求解。本文串讲拟牛顿法的经典算法SR1、DFP、BFGS以及L-BFGS，并给出Python实现和案例分析加深理解
数值优化 | 图解梯度下降法与共轭梯度下降法(附案例分析与Python实现)
FRIGIDWINTER的博客
10-21 5453
在复杂环境中，机器人需要寻找从起始点到目标点的最优路径。通过将路径表示为一个代价函数，梯度下降法可以用于最小化该代价，从而找到最符合期望的路径。本节从数值优化的层面介绍梯度下降法和共轭梯度法的原理、共同点和不同点，并给出基于python的案例实现加深理解
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习与集成方法：组合多个学习器来提高整体性能
hiliang521的博客
12-02 812
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 948
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
minhuan的专栏
12-03 1072
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
人工智能的基石之三：硬件
最新发布
最简单的方法，解决最实际的问题。
12-05 455
高性能硬件是人工智能的基石，尤其是在机器学习和深度学习领域，海量数据是常态。从充当计算机大脑的中央处理器 (CPU) 到加速计算的图形处理器 (GPU)，硬件的作用是提供处理和运行复杂数据算法所需的原始能力。
AI泡沫什么时候破？
脑极体
12-04 301
而AI企业面对的短期形势，可能更为严峻。而AI公司和技术服务商，为了迎合决策者或拿下B端大项目，往往不计成本的低价竞标，无视人工成本的驻场开发，技术价值让位于领导偏好，企业自身也深陷人效黑洞，沦为挣辛苦钱的技术外包。To B/G不赚钱，To C也卖不上价，所以目前AI领域唯一清晰的商业模式，就是类似英伟达的“卖铲人”模式，卖加速卡和算力的企业成了这一轮AI浪潮的最大受益人。去伪存真之后，资本会冷却，叙事会修正，共识会重新凝聚，而那些持续追问“AI如何创造真实价值”的人，会与行业一同穿越周期，走向成熟。
昇腾平台 vLLM 部署与性能优化实战：高吞吐推理落地指南
热门推荐
二哈喇子！
12-01 1万+
昇腾平台vLLM部署与性能优化实战摘要
DL00596：基于Transformer的SDN环境流量异常检测
2504_94303570的博客
12-01 340
经过实测，在万兆链路上用64长度窗口，处理延迟能压在15ms以内，基本不影响正常业务。流量异常检测在SDN（软件定义网络）里是个刺激的活儿。传统方法面对动态变化的网络拓扑就像拿渔网抓蚊子，Transformer这种能捕捉长距离依赖的模型倒是很对路子。咱们今天不整虚的，直接上代码看看怎么用PyTorch搞个能跑起来的检测器。我的土办法是每6小时重新做一次归一化参数校准，同时维护一个动态阈值：取最近1小时误差的95分位数作为报警线。这里有个坑：不同维度的特征数值差异太大，持续时间可能几百秒，包数直接上万。
【AI是否能替代IT从业者？】
博文致力于人工智能算法的探索研究；前后端分离项目的技术分享交流；专升本计算机基础课程内容讲解；各种中间件技术分享
12-03 1023
2025年IT行业面临AI深度重构：基础开发、测试、运维岗位替代率超60%，但AI相关新兴岗位激增380%。人类在复杂系统设计、伦理决策和跨界融合领域仍具不可替代性。微软等企业实践显示，人机协作可使效率提升40%。从业者需转型高价值领域（如Agent开发、大模型工程），掌握"技术+领域"双轨能力。AI本质是职业生态重构器，持续学习者的薪资溢价可达150%。建议立即评估岗位AI暴露指数，优先学习分布式架构优化、多智能体开发等技能。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

汽水啤酒花

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值