Sherman–Morrison–Woodbury formula

最新推荐文章于 2024-08-08 03:30:41 发布
原创 最新推荐文章于 2024-08-08 03:30:41 发布 · 9.5k 阅读 · 19 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#矩阵计算 #支持向量机

本文深入探讨了Sherman–Morrison–Woodbury公式(SMW公式)的数学原理及其证明过程，该公式在矩阵运算中有着广泛应用。

Sherman–Morrison–Woodbury formula （SMW formula）:

证明：

更一般的Sherman–Morrison–Woodbury formula:

证明：


Sherman-Morrison-Woodbury，SMW恒等式
走走走走走走你
08-31 4170
SMW恒等式常被用在矩阵运算中的一些恒等替换以便简化计算或得到所需形式。 证明： 对于一个矩阵分别进行LDU和UDL分解： 分解的本质是对矩阵初等变换成对角形式，然后移到等式右边；也可以直接根据矩阵的乘法和分解格式进行求解，不再赘述，可直接搜索LDU分解。 两边同时取逆： 对应项相等有： 【参考】《机器人学中的状态估计》@深蓝学院 ...
Sherman-Morrison-Woodburg 定理
Liang_Ling的博客
04-10 4912
接触到这个定理的缘由是碰到矩阵秩一校正的问题，下面给出定理的内容。 定理 设AA是n×nn\times n非奇异矩阵，UU是n×mn\times m矩阵，CC是m×mm\times m非奇异矩阵，VV是m×nm\times n矩阵，如果C−1+UA−1VC^{-1}+UA^{-1}V非奇异，那么A+UCVA+UCV也是非奇异的，且 (A+UCV)−1=A−1−A−1U(C−1+UA−1V)−1
An extension of the ShermanMorrisonWoodburyformula
09-04
Sherman-Morrison-Woodbury formula
Sherman-Morrison-Woodbury formula 证明
scar2016的博客
05-08 2428
MI−uvT⇒M−1I1−vTuuvT​1)E​IvT​​u1​​D1−vTu2)E−1vT​I−vT​​01​​E​I0​​uD​​3)E−1​I0​​uD​​−1​I−vT​​01​​​IuD−1vT−D−1vT​​−uD−1D−1​​4)u​I0​​−u1。
Sherman-Morrison-Woodbury公式的证明
qq_35455503的博客
09-17 1万+
首先证明Sherman-Morrison公式： (A+uvT)−1=A−1−A−1u(1+vTA−1u)−1vTA−1 (1) 其中，A∈Rn×n非奇异，即A-1存在，u∈R...
精选资源
Preconditioning Toeplitz-plus-diagonal linear systems using the Sherman-Morrison-Woodbury formula
02-21
本文主要探讨了在图像恢复领域中出现的Toeplitz加对角线线性系统的预处理技术，特别是基于Sherman–Morrison–Woodbury公式的稀疏近似逆预处理器的构建和应用。文中首先介绍了Toeplitz矩阵的基本概念以及在图像处理...
精选资源
An explicit formula for the inverse of a pentadiagonal Toeplitz matrix
02-22
For that purpose, we first factorize the modified form of a pentadiagonal Toeplitz matrix by two tridiagonal Toeplitz matrices, and then use the.Sherman–Morrison–Woodbury inversion formula....
Woodbury矩阵恒等式介绍
观则明的博客
05-18 3603
本文介绍了Woodbury矩阵恒等式 主要参考维基百科Woodbury matrix identity
三对角方程与循环三对角方程数值解(附完整代码)
Marc Pony
07-06 3683
文章目录一、三对角方程数值解(Thomas algorithm或称“追赶法”)二、循环三对角方程数值解(Sherman-Morrison formula)三、参考文献 一、三对角方程数值解(Thomas algorithm或称“追赶法”) %{ Function: solve_tridiagonal_matrix_equation Description: 求解三对角矩阵方程A(a, b, c) * x = d Input: 三对角线向量a，b，c, 向量d，向量维数n Output: 三对角矩阵方程的
伍德伯里矩阵恒等式（Woodbury matrix identity）
热门推荐
Louis___Zhang的博客
12-10 1万+
宜言饮酒，与子偕老。琴瑟在御，莫不静好。 更多精彩内容请关注微信公众号 “优化与算法” 在数学（特别是线性代数）中，Woodbury矩阵恒等式是以Max A.Woodbury命名的，它 可以通过对原矩阵的逆进行秩k校正来计算某个矩阵的秩k校正的逆。这个公式的另一个名字是矩阵逆引理，谢尔曼-莫里森-伍德伯里（Sherman–Morrison–Woodbury formula）公式或只是伍德伯里公式...
Sherman–Morrison formula和Woodbury matrix identity
思维缜密的博客
02-10 1134
引理 X∈Rm×n,Y∈Rn×m\mathbf{X}\in\mathbb{R}^{m\times n},\mathbf{Y}\in\mathbb{R}^{n\times m}X∈Rm×n,Y∈Rn×m,则XY,YX\mathbf{XY},\mathbf{YX}XY,YX具有相同的非零特征值（重数也一样） 证明： (ImX0In)−1(XY0Y0)(ImX0In)=(00YYX) \begin{pmatrix} \mathbf{I}_m &\mathbf{X}\\ 0&\mathbf{I}_n
Shermann-morrison-Woodbury公式证明推导
filwzxy的博客
12-07 1057
Shermann-Morrison-Woodbury公式证明
Woodbury恒等式
m0_51200050的博客
07-11 1764
Woodbury恒等式，又称为Woodbury矩阵恒等式或Sherman-Morrison-Woodbury公式，是线性代数中的一个重要结果。它提供了一种高效计算矩阵逆的方法，特别是在处理矩阵加上低秩更新的情况下。该恒等式在数值分析、统计学和机器学习中有广泛应用。Woodbury恒等式在处理矩阵加上低秩更新的逆运算时，非常高效且实用。它在许多应用场景中发挥了重要作用，如数值优化、机器学习中的高斯过程、贝叶斯统计等。
Morison-Woodbury formula使用案例
DeniuHe的博客
03-03 466
Sherman-Morrison公式及其应用
weixin_34358365的博客
05-09 807
Sherman-Morrison公式   Sherman-Morrison公式以 Jack Sherman 和 Winifred J. Morrison命名，在线性代数中，是求解逆矩阵的一种方法。本篇博客将介绍该公式及其应用，首先我们来看一下该公式的内容及其证明。  (Sherman-Morrison公式)假设$A\in\mathbb{R...
一些公式/定理积累
Bear_Kai的专栏
06-16 2629
积累一些可能会用的数学公式，有时可以作为简化计算、提升效率的小技巧。1. Woodbury Formula不想敲代码，直接截个wiki的图过来： 上面已经提到了这个公式的几种特殊情形，这里我们关注更简单的一种。当A是n阶单位阵，C是k阶单位阵时，有： (In+UV)−1=In−U(Ik+VU)−1V (I_n + UV)^{-1} = I_n - U(I_k + VU)^{-1}V 然后呢，
机器学习和AI: 数学编程基础篇
06-30
学习人工智能，机器学习都离不开数学基础和编程知识。无论你是数据科学的初学者还是已经从事人工智能开发的有经验人员，这门课都适合于你。为什么这么说？首先人工智能和机器学习本质上就是算法，而算法就是数学及统计学以及编程的结合。当前市场上有许多开源的软件包如SKLEARN确实可以帮助没经验的或缺乏数学或算法基础的人实现机器学习模型及预测，但这些工具无法使你真正懂得算法的本质或来源，或者无法使你在不同场合下灵活运用及改进算法。记住，在实际工作中找到适合应用场景的解决方案是最难但是最重要的。但这离不开数学基础和算法理解。比如，线性回归是一类普遍的机器学习算法，所有的机器学习软件都有现成的方法实现模型，但如果在训练数据中加入几条新数据，那么新建立的模型和原来的模型有和联系或不同？再比如，为什么深度神经网络中的Sigmoid函数一般只用到输出层？神经网络的向后传播理论如何与泰勒展开和复合函数的偏导数联系在一起？人工智能中推荐系统和文字向量如何与矩阵的奇异分解以及特征向量联系？模型中对标签进行数据变换如何影响预测值？所有这些问题的答案，你都可以从本课中找到线索。本课系统地讲述了有关人工智能，机器学习背后的数学知识。特别指出，微积分和代数知识是本课的核心。统计学基础被安排在另外的课程中。除此之外，我在每一章节或主要知识点后都安排了各类程序以解释和回顾所学到的东西。最后要提到的是，这不是一门工程项目实践课。但我会另外专门安排有关人工智能，机器学习的实践课程
Sherman-Morrison-Woodbury(SMW)的应用案例
DeniuHe的博客
07-17 1283
【线性代数】【二】2.8 向量正交与正交补空间
liuyider的博客
08-08 4198
本文将介绍向量的正交，以及正交补空间的定义。从而进一步加深对向量空间的理解本文介绍了向量正交的概念，并由此拓展出正交子空间以及正交补空间的概念。这些概念均与之前学习过的零空间等息息相关。
Sherman - Morrison - Woodbury 公式在哪些领域有应用？
最新发布
10-03
Sherman - Morrison - Woodbury 公式在多个领域都有重要应用，以下是一些主要的应用领域： #### 数值线性代数 在矩阵计算中，当需要频繁更新矩阵并求逆时，该公式可以避免直接对更新后的矩阵进行求逆运算，从而显著提高计算效率。例如在迭代算法中，每次迭代可能会对矩阵进行一个低秩修正，使用 Sherman - Morrison - Woodbury 公式可以快速计算修正后矩阵的逆，而不需要重新计算整个矩阵的逆，减少了计算复杂度。 #### 统计学与机器学习 - **线性回归**：在最小二乘法求解线性回归问题时，如果数据矩阵发生微小变化（例如新增了少量数据），可以使用该公式快速更新系数的估计值，避免重新求解整个线性方程组。 - **岭回归**：当调整正则化参数时，相当于对协方差矩阵进行了低秩修正，使用该公式可以高效地计算新的回归系数。 - **卡尔曼滤波**：在状态估计问题中，卡尔曼滤波需要不断更新协方差矩阵的逆。当系统模型发生变化时，使用 Sherman - Morrison - Woodbury 公式可以快速更新协方差矩阵的逆，提高滤波效率。 #### 信号处理 - **自适应滤波**：在自适应滤波算法中，如最小均方误差（LMS）算法和递归最小二乘（RLS）算法，需要不断更新滤波器的权值。当输入信号发生变化时，相关矩阵也会随之更新，使用该公式可以快速计算更新后相关矩阵的逆，从而提高滤波性能。 - **波束形成**：在阵列信号处理中，波束形成需要计算信号的协方差矩阵的逆。当信号环境发生变化时，使用该公式可以快速更新协方差矩阵的逆，实现自适应波束形成。 #### 金融领域 - **投资组合优化**：在马科维茨的投资组合理论中，需要计算资产收益率的协方差矩阵的逆。当市场情况发生变化，新的资产数据加入时，使用该公式可以快速更新协方差矩阵的逆，从而调整投资组合的权重。 - **风险评估**：在风险评估中，需要计算风险因子的协方差矩阵的逆。当风险因子发生变化时，使用该公式可以快速更新协方差矩阵的逆，评估新的风险水平。 以下是一个简单的 Python 代码示例，展示如何使用 Sherman - Morrison 公式（Sherman - Morrison - Woodbury 公式的特殊情况）计算矩阵的逆： ```python import numpy as np # 定义矩阵 A A = np.array([[1, 2], [3, 4]]) # 定义向量 u 和 v u = np.array([[1], [0]]) v = np.array([[0], [1]]) # 计算 A 的逆 A_inv = np.linalg.inv(A) # 计算 1 + v^T A^-1 u denominator = 1 + np.dot(v.T, np.dot(A_inv, u)) # 使用 Sherman - Morrison 公式计算 (A + uv^T)^-1 result = A_inv - np.dot(A_inv, np.dot(u, np.dot(v.T, A_inv))) / denominator # 直接计算 (A + uv^T)^-1 A_plus_uvT = A + np.dot(u, v.T) direct_result = np.linalg.inv(A_plus_uvT) # 验证结果 print("Sherman - Morrison 公式计算结果：") print(result) print("直接计算结果：") print(direct_result) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值