- 博客(7)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 优化小知识：梯度方向垂直于函数等值线的方向的证明
梯度方向垂直于函数等值线的方向小唠嗑证明：梯度方向垂直于函数等值线的方向结尾小独白小唠嗑上一周整个人状态不太对劲，可能是碰到了很多杂七杂八的事情，人在矛盾当中就会陷入更深的矛盾，一直想一直想不到结果，得尝试做，所以所有的出路都不是想出来的，都是做出来的。我发现自己忘知识的速度也太快了，很多知识刚看懂没一会就忘记了，还是得记录一下。今天来聊聊梯度方向为什么垂直于函数等值线的方向。话不多说，Let’s begin !证明：梯度方向垂直于函数等值线的方向证明：设等值线的方程为：f(x)=cf(x)=
2021-04-12 16:05:46
3324
3
原创 优化问题之二次函数的等值线与其二次型矩阵的那些事
二次函数等值线椭圆的轴沿着其二次型矩阵对应特征向量方向小唠嗑一、从特例二维空间中的标准椭圆的情况窥探结论二、以一个例子说明结尾小独白小唠嗑在考虑二次函数优化问题时（我们考虑其二次型矩阵是对称的情况）此时二次函数等值线是椭圆，显然如果我们想快速收敛到精确解，我们就需要沿着椭圆的轴的方向去搜索，那么椭圆的轴的方向我们需要怎么获得呢？和我们的二次型矩阵又有什么关系呢？这篇文章就通俗的聊一下。话不多说！Let 's begin！一、从特例二维空间中的标准椭圆的情况窥探二维空间中的椭圆的标准方程式为：
2021-04-04 22:46:34
2056
2
原创 优化算法之最速下降法迭代方向的那些事
碎片化知识点3小唠嗑为什么最速下降法每次迭代方向都垂直？结尾小独白小唠嗑今天是假期第二天，白天到后海逛了一下吃了很多小吃，顺便还体验了一下老北京铜锅是啥感觉，原来就是开水加枸杞红枣锅底涮肉哈哈哈，对于湖南人的我来说简直太清淡了。不过保留了食材最鲜的味道，而且对于减脂的小伙伴来说如果不加麻酱简直不要太合适。晚上回来还是准备把昨天没发出来的几个小碎片化知识发出来。今天来聊一下最速下降法每次迭代方向之间的关系。话不多说！Let 's begin ！为什么最速下降法每次迭代方向都垂直？首先我们来看一
2021-04-04 20:25:30
1562
2
原创 实对称矩阵不同特征值对应的特征向量都正交
谈谈特征向量的正交性小唠嗑一、定理：实对称矩阵不同特征值对应的特征向量都正交二、证明思路总结结尾小独白小唠嗑很多时候自己学一些新知识的时候，总是会用到之前学过的知识点，但是由于有些点比较零散，不太能串成一条线。所以目前的我就准备遇到一个知识点便写出来回顾一下，积累多了再找个时间再汇个总，梳理一下给它串起来。话不多说！今天就谈谈特征向量的正交性吧！Let 's begin！一、定理：实对称矩阵不同特征值对应的特征向量都正交证明：设λ1\lambda_1λ1,λ2\lambda_2λ2是AA
2021-04-03 22:32:32
17952
7
原创 墨菲定律和最速下降法之精确线搜索——blog3
墨菲定律+精确线搜索一：立flag就是为了打脸——墨菲定律墨菲定律为啥这么神奇？墨菲定律在奏效还是我们的思想被转移？墨菲定律在奏效还是我们的在逃避责任？换个角度想想墨菲定律二：啥是一维精确性搜索？三：python代码实现四：实现结果一：立flag就是为了打脸——墨菲定律上周还没开始之前自己就立下flag：更新两篇博客。但是由于临近开学聚会难免多了一点，就哐哐打脸。现在特流行一句话：人类的本质是真香，也就是打脸定律。你仔细瞅瞅有没有觉得类似于神奇的墨菲定律呢？墨菲定律为啥这么神奇？墨菲定律的起源也不
2021-03-27 16:28:11
1156
5
原创 矩阵可对角化的那些事——blog2
对角化的两个小定理小唠嗑定理1:矩阵AAA可对角化的充要条件是AAA有nnn个线性无关的特征向量小定理1:矩阵AAA可对角化等价于矩阵AAA与一个对角矩阵相似定理2:任意nnn级实对称矩阵AAA都正交相似于一个对角矩阵小定理：任意实对称矩阵AAA的特征值都是实数结尾小独白小唠嗑昨天在看Numerical opimization 中证明Kantorovich不等式时需要用到高等代数中矩阵可对角化的一些知识，但是自己似乎对于它的记忆有些模糊了，所以重新回顾了一下。怕自己今后忘记，又到处费劲找资料，便打算写
2021-03-19 11:09:25
2812
9
原创 python实现无约束问题最速下降法——blog1
简单实现最速下降法代码小白的第一篇博客一点心里话：最速下降法（无约束）实现的原理证明−∇f(xk)-\nabla f(x_k)−∇f(xk)是函数值下降最快的方向最速下降法（无约束）实现的具体算法python实现最速下降法（无约束）一个例子程序结果对于scalingscalingscaling问题的一点分析遗留的问题结尾独白代码小白的第一篇博客一点心里话：作为人生前20年都没有任何编程经历的我来说，头脑一热的在研究生阶段选择数学与信息技术这样一个交叉学科，第一学期忙忙碌碌又不清楚忙碌了什么，可能就
2021-03-13 21:19:03
1662
2
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人