Robust Covariance (Minimum Covariance Determinant) 稳健协方差（最小协方差行列式）

最新推荐文章于 2025-09-16 19:06:03 发布
原创 最新推荐文章于 2025-09-16 19:06:03 发布 · 2.3k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #python #人工智能

Robust Covariance (Minimum Covariance Determinant) 是sklearn提供的求离群点数据的例子中出现过。

目的是在于通过

EllipticEnvelope(contamination=0.25)

求给定数据集的协方差矩阵。

经验协方差

有时候由于种种原因，并不使用全部的样本数据计算协方差矩阵，而是利用部分样本数据计算，这时候就要考虑利用部分样本计算得到的协方差矩阵是否和真实的协方差矩阵相同或者近似。

当提供的样本数目相对于特征数足够多时，利用最大似然估计（或者称为经验协方差）计算的结果，可以认为是协方差矩阵的几个近似结果。这种情况下，会假设数据的分布符合一个多元正太分布，数据的概率密度函数中是包含协方差矩阵的，利用最大似然函数，对其进行估计。

收缩协方差

在矩阵的求逆过程中， 最大似然估计不是协方差矩阵的特征值的一个很好的估计， 所以从反演得到的精度矩阵是不准确的。 有时，甚至出现因矩阵元素地特性,经验协方差矩阵不能求逆。 为了避免这样的反演问题，引入了经验协方差矩阵的一种变换方式，收缩协方差。

异常检测算法（三）：稳健协方差（Robust Covariance）【基于协方差的稳健估计，假设数据是高斯分布的，那么在这样的案例中执行效果将优于One-Class SVM】
u013250861的博客
04-23 1533
Robust Covariance (Minimum Covariance Determinant) 是 sklearn 提供的求离群点数据的例子中出现过。 目的是在于通过 EllipticEnvelope(contamination=0.25) 求给定数据集的协方差矩阵。 经验协方差 有时候由于种种原因，并不使用全部的样本数据计算协方差矩阵，而是利用部分样本数据计算，这时候就要考虑利用部分样本计算得到的协方差矩阵是否和真实的协方差矩阵相同或者近似。 当提供的样本数目相对于特征数足够多时，利用最大似然估计（
【Python实例第25讲】稳健的 vs 经验的协方差估计
wong2016的博客
12-16 2019
机器学习训练营——机器学习爱好者的自由交流空间（qq 群号：696721295） 通常的协方差最大似然估计对数据集里的异常点(outliers)是非常敏感的。在这样的情况下，使用稳健的协方差估计，保证对即使数据集存在错误的观测，估计量也是一致的。 极小极大协方差行列式估计 极小极大协方差行列式估计量(Minimum Covariance Determinant Estimator, MCDE)...
协方差——————
your_father_zyz的博客
09-16 989
概念公式含义总体协方差1N∑xi−μxyi−μyN1​∑xi​−μx​yi​−μy​衡量总体中两个变量的协同变化。样本协方差1n−1∑xi−xˉyi−yˉn−11​∑xi​−xˉyi​−yˉ​基于样本数据，估计总体协方差。符号意义正 / 负表示协同变化的方向（正相关/负相关）。数值局限大小无标准意义数值受变量单位影响，无法直接比较强度。与相关系数关系rCovs。
【Scikit-Learn 中文文档】协方差估计 / 经验协方差 / 收敛协方差 / 稀疏逆协方差 / Robust 协方差估计 - 无监督学习 - 用户指南 | ApacheCN
妳那伊抹微笑的专栏
11-23 1657
2.6. 协方差估计 许多统计问题在某一时刻需要估计一个总体的协方差矩阵，这可以看作是对数据集散点图形状的估计。 大多数情况下，基于样本的估计（基于其属性，如尺寸，结构，均匀性）， 对估计质量有很大影响。 sklearn.covariance 方法的目的是 提供一个能在各种设置下准确估计总体协方差矩阵的工具。 我们假设观察是独立的，相同分布的 (i.i.d.)。 2.7. 经验协方差 已知数据集的协方差矩阵与经典 maximum likelihood estimator(最大似然估计) （或 “经验协方差
最小协方差行列式（Minimum Covariance Determinant）的原理及代码
qq_45377180的博客
11-20 5510
最小协方差行列式（Minimum Covariance Determinant）前言一、利用马氏距离探测离群点的原理二、最小协方差行列式的由来三、最小协方差行列式探测离群点的原理四、最小协方差行列式探测离群点的代码总结 本文是引用《多元数据离群点探测的倾斜重加权方法》 ，作者为张若璇和田茂再。 前言 多元数据集存在偏离正常范围的“离群点”。一般在预处理数据环节，需检测出离群点，再进行处理。 离群点产生的原因可能是由数据中存在某些点来自于与总体分布不同的其它分布。具体而言，假设多元数据集大多数样本服从
Python机器学习笔记——One Class SVM
weixin_30861797的博客
05-11 3622
前言 　　最近老板有一个需求，做单样本检测，也就是说只有一个类别的数据集与标签，因为在工厂设备中，控制系统的任务是判断是是否有意外情况出现，例如产品质量过低，机器产生奇怪的震动或者机器零件脱落等。相对来说容易得到正常场景下的训练数据，但故障系统状态的收集示例数据可能相当昂贵，或者根本不可能。如果可以模拟一个错误的系统状态，问题就好解决多了，但无法保证所有的错误状态都被模拟到，所以只能寻找单样本检...
R语言用于线性回归的稳健方差估计
大数据部落
09-04 4404
原文链接：http://tecdat.cn/?p=6274 在这篇文章中，我们将看看如何在实践中使用R 。为了说明，我们首先从线性回归模型中模拟一些简单数据，其中残差方差随着协变量的增加而急剧增加： n < - 100 x < - rnorm（n） residual_sd < - exp（x） y < - 2 * x + residual_sd ......
稳健因子分析（先计算协方差矩阵的稳健估计，然后基于稳健的协方差矩阵进行因子分析）r语言
05-12
`covMcd()` 是一种基于最小协方差行列式（Minimum Covariance Determinant, MCD）的方法，能够有效抵抗异常值的影响。它返回一个稳健的协方差矩阵及其对应的中心位置估计。 ```r library(robustbase) # 假设 data ...
代码出现下列报错 D:\LenovoSoftstore\lib\site-packages\sklearn\covariance\_robust_covariance.py:185: RuntimeWarning: Determinant has increased; this should not happen: log(det) > log(previous_det) (-160.227678758583238 > -271.715832392078482). You may want to try with a higher value of support_fraction (current value: 0.500). warnings.warn(
05-31
support_fraction决定了用于估计协方差的数据点的比例，如果设置得太低，可能不足以准确估计协方差矩阵，导致行列式计算出现问题。而assume_centered参数如果设置为False，模型会先对数据进行中心化处理，这可能在...
MATLAB稳健统计工具包：强大的统计学计算资源
- **MCD（Minimum Covariance Determinant，最小协方差决定量）：** MCD是一种估计数据集位置和尺度参数的稳健估计方法，特别适用于数据中有异常值的情况。它通过寻找数据子集使得协方差矩阵的行列式最小，以此来...
MWCDcode:最小协方差加权估计器的计算
04-17
MWCD代码版本1.0 最小加权协方差行列式（MWCD）估计量的计算 Matlab中的代码允许计算Roelant（2009）提出的最小加权协方差决定子（MWCD）估计量。 这是具有（可能）高故障点的多元数据集参数的可靠估计。 随时使用或修改代码。 要求 您需要文件fastlts.m来运行完整的代码，该代码将MWCD与最小协方差决定因素（MCD）估计量进行比较。 可在 用法 mainMwcd.m读取外部数据文件的主文件，运行经典估计（即高斯数据的最大似然）的估计，MCD和MWCD估计器，并显示其结果。 它还以图形方式显示了所得的MWCD估计量。 mwcdCheck.m用于为给定数据集计算MWCD估计量的函数。 作者 JanTichavský，捷克科学院计算机科学研究所 Jan Kalina，捷克科学院计算机科学研究所 接触 请随时与我们联系（ ）或写问题。 如何引用 请考虑引用以下内
最大方差和最小协方差解释（线性代数看PCA）
weixin_30929295的博客
12-17 684
PCA降维 ——最大方差和最小协方差联合解释（线性代数看PCA） 注：根据网上资料整理而得，欢迎讨论 机器学习算法的复杂度和数据的维数有着密切关系，甚至与维数呈指数级关联。因此我们必须对数据进行降维。 降维当然意味着信息的丢失，不过鉴于实际数据本身常常存在的相关性，我们可以想办法在降维的同时将信息的损失尽量降低。...
协方差矩阵（转）
tkzc_csk的博客
06-11 367
https://blog.youkuaiyun.com/shenziheng1/article/details/52955687
MADlib —— 基于 SQL 的数据挖掘解决方案（18）—— 回归之稳健方差
wzy0623的专栏
02-07 1686
稳健线性回归训练函数、稳健逻辑回归训练函数、稳健多类逻辑回归函数、Cox 比例风险稳健方差函数、示例、技术背景
python实现基于SVD矩阵分解的电影推荐系统设计
qq_45856698的博客
06-29 3219
本期利用抓取IMDB的英文网站上的电影相关数据，实现基于SVD矩阵分解的电影推荐系统设计。
机器学习day14——异常检测
ting的博客
10-26 602
异常检测 给定无标签的数据集，根据该数据集建模即p(x)，也就是说我们对x的分布概率建模，其中x是一些特征变量，之后对测试数据xtest预测得到概率P(xtest)，若该概率低于阈值ε，将其标记为异常。 异常检测算法是一个非监督学习算法。 上图中，在蓝色圈内的数据属于该组数据的可能性较高，而越是偏远的数据，其属于该组数据的可能性就越低。 这种方法称为密度估计，表达如下： 异常检测常用于欺诈检测。 欺诈检测：????(????) = 用户的第 ????个活动特征 通过模型????(????) < ??
MCD异常检测算法
mnwl12_0的博客
08-09 671
最小协方差行列式算法。
机器学习应用 | 使用 MATLAB 进行异常检测（下）
r1832644594的博客
12-07 2491
马氏距离可以理解为是对欧式距离的一种修正，假设，下图中蓝色点和黄色点离样本均值的欧式距离相近，但是由于样本整体分布沿 f(x)=x 的方向分布（变量之间具有相关性），蓝色点更有可能是数据集中的点，对应的马氏距离更小，而黄色点更有可能是离群值，对应马氏距离也更大。综上，各个方法的适用范围不一，或是有特定的使用条件，在使用时需要多加留意，例如马氏距离适合符合正态分布假设的数据集，孤立森林适用于处理正常样本和异常样本差异较大的情况，各个算法计算复杂度有些许区别，可以根据实际情况选择合适的方法。
矩阵行列式
最新发布
11-29
<think> 首先，用户的问题是关于矩阵行列式的定义、计算方法和应用。我需要根据系统级指令来构建我的回答。 系统级指令： - 所有行内数学表达式必须使用 $...$ 格式。 - 独立公式必须使用 $$...$$ 格式并单独成段。 - LaTeX语法正确。 - 使用中文回答。 - 生成相关问题。 - 回答中引用的段落末尾自然地添加引用标识，例如 [^1]。 - 在用户可见层，回答要结构清晰，帮助用户逐步解决问题，保证回答真实可靠。 在参考内容中，提到了“矩阵行列式引理（Matrix Determinant Lemma）”，但我需要专注于用户查询的核心：矩阵行列式的定义、计算方法及应用。参考内容不是用户真正的需求，所以我应该基于标准知识来回答。 结构化回答： 1. **定义**：解释什么是矩阵行列式。 2. **计算方法**：描述如何计算行列式，包括小矩阵的公式和一般方法。 3. **应用**：列出一些应用场景。 4. **生成相关问题**：在最后添加相关问题部分。 使用中文回答。 确保数学表达式正确： - 行内：例如，行列式定义为 $det(A)$ 或 $\det(A)$。 - 独立公式：例如，对于2x2矩阵的行列式公式，使用 $$...$$。 真实可靠的内容：基于线性代数知识。 大纲回答： - **定义部分**：矩阵行列式是一个标量值，表示矩阵的某些性质，如可逆性。例如，对于一个方阵 $A$，其行列式记作 $\det(A)$ 或 $|A|$。 - **计算方法**： - 对于2x2矩阵：如果 $A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}$，则 $\det(A) = ad - bc$。 - 对于3x3矩阵：有公式，但更复杂。 - 一般方法：使用余子式、拉普拉斯展开，或使用行简化到上三角矩阵。 - **应用**： - 判断矩阵是否可逆：如果 $\det(A) \neq 0$，则 $A$ 可逆。 - 求解线性方程组（克莱姆法则）。 - 在几何中，表示面积或体积的缩放因子。 - 在特征值和特征向量计算中。 生成相关问题： - 基于内容，添加3-4个相关问题，如： 1. 矩阵行列式引理是什么？ 2. 如何快速计算大型矩阵的行列式？ 3. 行列式在机器学习中的应用有哪些？ 引用：在回答中，如果引用参考内容，添加 [^1]。但参考内容是关于矩阵行列式引理的，可能不直接相关。我应该只在必要时引用。既然用户提供引用，我可以自然地融入。 用户查询是“矩阵行列式的定义、计算方法及应用”，参考提到“矩阵行列式引理”，所以我可以在计算方法的优化部分提到它。 最终结构： 1. 定义 2. 计算方法 - 基本方法 - 优化方法（如行列式引理） 3. 应用 4. 相关问题 确保回答清晰、逐步。 </think>### 矩阵行列式的定义、计算方法及应用 矩阵行列式是线性代数中的一个核心概念，它为一个方阵（即行数和列数相等的矩阵）分配一个标量值，用于描述矩阵的几何和代数性质，如可逆性、体积缩放因子等。以下我将逐步解释其定义、计算方法和应用，确保内容真实可靠，基于标准数学知识。 #### 1. **矩阵行列式的定义** 矩阵行列式定义为方阵的一个标量函数，记作 $\det(A)$ 或 $|A|$。对于一个 $n \times n$ 矩阵 $A = [a_{ij}]$，其行列式可通过排列的符号和乘积来形式化定义： $$ \det(A) = \sum_{\sigma \in S_n} \text{sgn}(\sigma) \cdot a_{1\sigma(1)} a_{2\sigma(2)} \cdots a_{n\sigma(n)} $$ 其中： - $S_n$ 是所有 $n$ 个元素的排列集合； - $\text{sgn}(\sigma)$ 是排列 $\sigma$ 的符号（+1 为偶排列，-1 为奇排列）； - $a_{i\sigma(i)}$ 是矩阵元素。 几何上，行列式表示矩阵变换对空间的缩放因子。例如，2D 矩阵的行列式等于它表示的线性变换对面积的缩放比例；3D 矩阵则对应体积缩放。如果 $\det(A) = 0$，表示矩阵是奇异的（不可逆），变换会将空间“压缩”到更低维度[^1]。 #### 2. **矩阵行列式的计算方法** 计算行列式的方法取决于矩阵大小和结构。以下是常用方法，从简单到复杂逐步说明： - **小矩阵的直接公式**： - **2×2 矩阵**：如果 $A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}$，则： $$ \det(A) = ad - bc $$ 例如，$A = \begin{pmatrix} 2 & 3 \\ 1 & 4 \end{pmatrix}$，有 $\det(A) = 2 \cdot 4 - 3 \cdot 1 = 5$。 - **3×3 矩阵**：如果 $A = \begin{pmatrix} a & b & c \\ d & e & f \\ g & h & i \end{pmatrix}$，则： $$ \det(A) = a(ei - fh) - b(di - fg) + c(dh - eg) $$ 这称为“萨鲁斯规则”（Sarrus' rule），便于手算。 - **一般矩阵的递归方法（余子式展开）**： 对于 $n \times n$ 矩阵，使用拉普拉斯展开。选择任意行或列（通常选零元素多的行），例如第 $i$ 行： $$ \det(A) = \sum_{j=1}^{n} (-1)^{i+j} a_{ij} \cdot M_{ij} $$ 其中 $M_{ij}$ 是元素 $a_{ij}$ 的余子式（即删除第 $i$ 行和第 $j$ 列后的子矩阵的行列式）。这适合小规模矩阵或符号计算。 - **基于行变换的方法**： 通过行初等变换（行交换、行倍乘、行加法）将矩阵化为上三角矩阵 $U$。上三角矩阵的行列式等于对角元素乘积，即： $$ \det(A) = \prod_{i=1}^{n} u_{ii} $$ 但需注意：行交换会改变符号，行倍乘需乘以倍数。例如，若 $A$ 经行交换变为 $U$，则 $\det(A) = (-1)^k \det(U)$，其中 $k$ 是交换次数。 - **优化方法：矩阵行列式引理（Matrix Determinant Lemma）**： 对于大型矩阵，直接计算效率低。矩阵行列式引理提供高效方式，特别当矩阵是低秩更新时。引理表述为： $$ \det(A + VW^T) = \det(I_m + W^T A^{-1} V) \cdot \det(A) $$ 其中 $A$ 是 $n \times n$ 可逆矩阵，$V$ 和 $W$ 是 $n \times m$ 矩阵，$I_m$ 是 $m \times m$ 单位矩阵。这减少了计算复杂度，从 $O(n^3)$ 降到 $O(m^3)$，适用于如Sherman-Morrison公式的优化[^1]。 实际计算中，可结合软件工具（如Python的NumPy库）： ```python import numpy as np # 示例：计算3x3矩阵行列式 A = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]]) det = np.linalg.det(A) print(det) # 输出：0（因为该矩阵奇异） ``` #### 3. **矩阵行列式的应用** 行列式在数学、物理和工程中广泛应用： - **判断矩阵可逆性**：如果 $\det(A) \neq 0$，则 $A$ 可逆，否则奇异。这在求解线性方程组时至关重要。 - **求解线性方程组**：克莱姆法则（Cramer's Rule）使用行列式直接求解 $Ax = b$。例如，解 $x_j = \det(A_j) / \det(A)$，其中 $A_j$ 是 $A$ 的第 $j$ 列替换为 $b$。 - **几何变换**：在计算机图形学中，行列式表示变换的缩放因子。例如，2D旋转矩阵的行列式为1，表示面积不变。 - **特征值计算**：特征多项式 $\det(A - \lambda I) = 0$ 的根是特征值，用于动力系统和机器学习。 - **优化和统计**：在多元微积分中，Jacobian行列式用于坐标变换；在统计学中，协方差矩阵的行列式表示数据的“散布”程度。 矩阵行列式引理等优化方法，在数值线性代数和机器学习（如高斯过程）中提升效率[^1]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值