凸优化有关的数值线性代数知识一：矩阵结构与算法复杂性

最新推荐文章于 2025-01-07 10:34:03 发布

使君杭千秋

最新推荐文章于 2025-01-07 10:34:03 发布

阅读量1.1k

点赞数 1

分类专栏：凸优化

原文链接：https://blog.youkuaiyun.com/wangchy29/article/details/87902460

版权

凸优化专栏收录该内容

62 篇文章

订阅专栏

一、矩阵结构与算法复杂性

基于浮点运算次数的复杂性分析
基本的矩阵-向量运算成本

求解线性方程组 $Ax=b,A\in R^{m\times n},b \in R^n$ ，A为系数矩阵，b为右边项。求解该方程组的一般性彼岸准方法所需要的计算量大约和 n^3 成比例。但如果A具有特殊的结构，比如对称矩阵，对角矩阵，系数矩阵等，可以大大减少计算量。

基于浮点运算次数的复杂性分析

数值线性代数算法的成本经常表示为完成算法所需要的浮点运算次数关于各种问题维数的函数。

浮点运算次数是对算法复杂度的较粗略的估计，但是也很有用。

基本的矩阵-向量运算成本

向量运算

考虑n维向量，内积运算需要n次乘法运算，n-1次加法运算共为2n-1次运算，只保留主导项，，则内积需要2n次运算，更近似地说需要次数为n的浮点运算。

矩阵-向量运算

y=Ax， $A \in R^{m\times n}$ ，运算成本：m个n维向量的内积，共m(2n-1)次运算,如果n很大，则可记成2mn。

如果A是稀疏矩阵，仅有N个非零项，此时只需要2N次浮点运算即可。

如果将A分解成A=UV， $U\in R^{m\times p},V \in R^{p\times n}$ ，y=Ax=UVx=U(Vx)，(Vx)需要p(2n-1)，U(Vx)需要m(2p-1)，共需要2p(m+n)-p-m。

矩阵-矩阵相乘

C=AB， $A\in R^{m \times n},B \in R^{n \times p}$ ，C=AB相当于计算p次 $R^{m\times n}\times R^n$ ，故需要计算pm(2n-1)，如果n很大，则记为2mnp。

如果A和B是稀疏矩阵则需要的计算量更小。

如果m=p，且已知C是对称的，只需要计算下三角的 $\frac{1}{2}m(m+1)$ 个元素，于是需要 $\frac{1}{2}m(m+1)(2n-1)$

来源：https://blog.youkuaiyun.com/wangchy29/article/details/87902460

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。