因变量 方差膨胀系数_如何理解方差膨胀因子（Variance Inflation Factor，VIF）？

最新推荐文章于 2025-03-26 10:19:35 发布
最新推荐文章于 2025-03-26 10:19:35 发布
阅读量6.7k 收藏 2
点赞数
文章标签： 因变量 方差膨胀系数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_34211615/article/details/112892893
版权
方差膨胀因子(VIF)是衡量多元线性回归中多重共线性的指标，它与皮尔逊相关系数矩阵有关。VIF可以通过计算相关系数矩阵的行列式来确定，与每个变量的复相关系数有关。高VIF值表明变量间存在高度相关性，可能影响回归模型的稳定性。证明过程涉及最小二乘解、残差平方和与相关系数矩阵的关系。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

OLS方差膨胀因子的标准定义为：

，

其中，

为第i个变量

与其他全部变量

(

)的复相关系数，所谓复相关系数即可决系数

的算术平方根，也即拟合优度的算术平方根。不过这个可决系数

是指用

做因变量，对其他全部

(

)做一个新的回归以后得到的可决系数。

当然这些都是网上随便搜就有的结果，本不值得我重新再写一边。但是经过本人推导，方差膨胀因子确实跟皮尔逊相关系数(矩阵)有关系。

首先什么是皮尔逊相关系数矩阵？

大家对这个东西估计是不陌生，这本身就是一个矩阵，不过这是下三角矩阵。把下三角矩阵填满，形成一个对

最低0.47元/天 解锁文章
通天晓鹿
关注
ML之FE：VIF(方差膨胀系数)指标的简介、计算逻辑、判断标准、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-18 3420
ML之FE：VIF(方差膨胀系数)指标的简介、计算逻辑、判断标准、案例应用之详细攻略目录VIF(方差膨胀系数)指标的简介(1)、VIF(方差膨胀系数)指标的计算逻辑(2)、VIF(方差膨胀系数)指标的一般判断标准(3)、VIF(方差膨胀系数)与容忍度的关系(4)、VIF(方差膨胀系数)的使用方法VIF(方差膨胀检验)指标的案例应用1、VIF计算代码实现 方差膨胀系数(variance inflation factor，VIF)，它是衡量多元线性回归模型中复/多重共线性严重程度的一种度量。它表示
R语言中方差膨胀因子（Variance Inflation Factor，简称VIF）是用于评估多重共线性（multicollinearity）的一种统计指标
2301_79331421的博客
08-24 2371
共线性指的是在多元线性回归模型中，自变量之间存在高度相关性的情况。当自变量之间存在共线性时，会影响模型的稳定性和可靠性，使得回归系数的估计变得不准确。因此，共线性是一个需要关注和处理的重要问题。
Variance Inflation Factor (VIF) 方差膨胀因子解释_附python脚本
weixin_30357231的博客
05-19 3870
python信用评分卡（附代码，博主录制） https://study.163.com/course/introduction.htm?courseId=1005214003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share https://etav.github.i...
更加好理解的线性代数理论
myjs999的博客
10-26 497
重新定义一下上篇文章所述的矩阵的三相性。 一个矩阵是零矩阵，当其元素都是000。一个矩阵AAA是非零矩阵，当Ax→=0→⇒x→=0→A\overrightarrow{x}=\overrightarrow{0}\Rightarrow\overrightarrow{x}=\overrightarrow{0}Ax=0⇒x=0。其它矩阵称为临界矩阵。 它们的乘法规律可由下述三相乘法表描述。 非零 临界 零 非零 非零 临界 零 临界 临界 临界/零 零 零 零 零 零 非零的方阵可逆。
【漫话机器学习系列】163.方差膨胀因子（Variance Inflation Factor, VIF）
最新发布
IT古董
03-26 1431
方差膨胀因子（Variance Inflation Factor, VIF）是一种用于衡量回归分析中多重共线性（Multicollinearity）程度的指标。多重共线性指的是自变量（特征）之间存在较强的相关性，会导致模型参数估计的不稳定性，影响模型的解释能力和预测能力。当回归模型中的一个或多个自变量彼此高度相关时，它们会导致回归系数的不稳定，使得估计的标准误增大，从而影响统计推断的准确性。VIF 用于量化这种膨胀效应，帮助我们识别和处理多重共线性问题。
多重共线性检验之方差膨胀因子VIF
热门推荐
qq_29983883的博客
05-03 1万+
过程 1、构造每一个自变量与其余自变量的线性回归模型，例如，数 据集中含有p个自变量，则第一个自变量与其余自变量的线性组合可以 表示为 2、根据如上线性回归模型得到相应的判决系数R2R^2R2，进而计算第 一个自变量的方差膨胀因子VIF： import pandas as pd import numpy as np from sklearn import model_selection import statsmodels.api as sn from statsmodels.stats.outlier
多重共线性检测—相关性系数矩阵和方差膨胀系数(VIF)分析学习
zfyyzhys的博客
09-04 6503
多重共线性（Multicollinearity） 是在多元线性回归分析中经常遇到的一个问题，它发生在当两个或更多的预测变量（自变量）在统计模型中高度相关。
python计算方差膨胀因子_Variance Inflation Factor (VIF) 方差膨胀因子解释_附python脚本...
weixin_39607937的博客
12-04 1896
python信用评分卡(附代码，博主录制)Colinearity is the state where two variables are highly correlated and contain similiar information about the variance within a given dataset. To detect colinearity among variable...
因变量 方差膨胀系数_请问如何计算潜变量的方差膨胀因子（VIF）?
weixin_39645165的博客
12-23 2426
这里提供一个 Python 实现的方法和原理趣分析方差膨胀因子是非常经典缓解多元共线性的方法，原理简单，实现优雅，效果拔群。源代码源数据可私聊俺获取，每天固定时间查看和回复。原理趣析多重线性回归模型的主要假设之一是我们的预测变量(自变量)彼此不相关。我们希望预测变量与反应变量(因变量)相关，而不是彼此之间具有相关性。如言情剧中的 A 喜欢B，B 却喜欢 C，结果发现 C 其实喜欢 A；而 B 的一...
因变量 方差膨胀系数_SPSS技术：多重线性回归模型；极端值与多重共线性
weixin_33454551的博客
12-23 5874
原标题：SPSS技术：多重线性回归模型；极端值与多重共线性欢迎关注天善智能微信公众号，我们是专注于商业智能BI，大数据，数据分析领域的垂直社区。 对商业智能BI、大数据分析挖掘、机器学习，python，R等数据领域感兴趣的同学加微信：tstoutiao，邀请你进入头条数据爱好者交流群，数据爱好者们都在这儿。基础准备前面我们介绍了多重线性回归模型的基础内容及SPSS软件的操作过程，同时也介绍了如何通...
python计算方差膨胀因子_Python计算方差膨胀因子VIF
weixin_39836943的博客
12-04 1952
方差扩大因子(variance inflation factor)简称VIF，是表征自变量观察值之间复共线性程度的数值。线性回归分析中，回归系数βj的估计量的方差为σ2Cjj，其中Cjj=(1-Rj)-1，称Cjj为βj的方差扩大因子，这里Rj为xj对其余p-1个自变量的复相关系数的平方，显然Cjj≥1，它的大小可以反映出自变量的观察值之间是否存在复共线性以及其程度如何，Cjj越大，复共线性越严重...
方差膨胀因子的介绍及python实现
XIAOFEI@IDO
01-06 6674
一、概要 在机器学习中，多重共线性在一定程度上是不影响模型的预测能力，但是肯定会影响模型的可解释性。尤其是在获取构建模型时的特征重要性（或者对特征进行排名）时，多重共线性会严重影响其解释性。 二、方差膨胀因子 方差膨胀因子(Variance Inflation Factor，以下简称VIF)，是指解释变量之间存在多重共线性时的方差与不存在多重共线性时的方差之比。 上图公式可以看出在方差膨胀因子的检测中： 每个自变量都会有一个膨胀因子值 VIFiVIF_iVIFi​，最后根据值的大小来选择是否删减 Ri
“傻瓜”学计量——OLS2（多重共线性：方差膨胀系数VIF、容忍度）
nnpersistent的博客
02-27 2851
“傻瓜”学计量——OLS2（多重共线性）
多元共线性检测 -- 方差膨胀因子(Python 实现)
阅读从未停止，输出从未开始
05-24 1万+
十分经典，原理简单，实现优雅，效果拔群。
多重共线性检验-方差膨胀系数（VIF）-相关系数（机器学习）sklearn
优快云 精品推荐
02-11 1万+
文章目录多重共线性检验-方差膨胀系数（VIF）1、原理：2、多重共线性：3、检验方法：方差膨胀系数（VIF）：相关性检验：4、代码测试4.1 导入相关库4.2准备数据4.3计算膨胀因子4.4计算相关系数4.5分割测试集4.6模型选择4.7AUC值4.8模型调整4.8.1删除 账户资金4.8.2删除 累计交易佣金5、总结 多重共线性检验-方差膨胀系数（VIF） 1、原理： 方差膨胀系数是衡量多元线性回归模型中多重共线性严重程度的一种度量。 它表示回归系数估计量的方差与假设自变量间不线性相关时方差相比的比值。
python计算方差膨胀因子_请问如何计算潜变量的方差膨胀因子（VIF）?
weixin_39942785的博客
12-04 1349
这里提供一个 Python 实现的方法和原理趣分析方差膨胀因子是非常经典缓解多元共线性的方法，原理简单，实现优雅，效果拔群。源代码源数据可私聊俺获取，每天固定时间查看和回复。原理趣析多重线性回归模型的主要假设之一是我们的预测变量(自变量)彼此不相关。我们希望预测变量与反应变量(因变量)相关，而不是彼此之间具有相关性。如言情剧中的 A 喜欢B，B 却喜欢 C，结果发现 C 其实喜欢 A；而 B 的一...
皮尔森相关系数与方差膨胀因子介绍及关系 附python代码
Buevara的博客
05-21 6979
1.皮尔森相关系数 参考文档：https://www.zhihu.com/question/20852004 2.方差膨胀因子 图片来源：http://sofasofa.io/forum_main_post.php?postid=1000484 R²称为可决系数(Coefficient of determination)。 复相关系数Ri等于：（来源百度百科） 3.二者区别 皮尔森相关系数： 复相关系数R： 图片来源：https://zhuanlan.zhihu.com/p/37605060 皮尔森
Python 在使用variance_inflation_factor 做VIF多重共线性检验时，是否要加入常数项？
weixin_44842119的博客
10-29 1740
python，只有自变量的VIF结果（左）；spss，因变量+自变量跑回归中的VIF。然后我继续搜索多重共线性的文章，终于发现这篇里提到需要在df里加入一组常数项。实验的结果——除了最后一列常数项，其他的和spss结果一模一样了。参考网上的各种教程，大部分都是直接把自变量丢进去就可以出来结果。但这个结果和我拿spss跑回归得出来的VIF值完全不一样。用一份数据跑回归，惯例先做了一下多重共线性的检验。同样的自变量，为什么会有这么大的差异？于是我自己也加入了一个常数项。
如何使用Python来计算变量的方差膨胀因子(VIF)？
12-10
方差膨胀因子（Variance Inflation Factor，VIF）是用来检测多重共线性的一种方法。多重共线性是指多元回归模型中，自变量之间存在高度相关关系，这会导致回归系数的估计不准确。VIF值越高，表示多重共线性越严重。一般认为VIF值大于10时，多重共线性就比较严重了。 在Python中，可以使用`statsmodels`库来计算VIF。以下是一个示例代码，演示如何使用Python计算变量的VIF： ```python import pandas as pd from statsmodels.stats.outliers_influence import variance_inflation_factor # 创建一个示例数据集 data = pd.DataFrame({ 'y': [1, 2, 3, 4, 5], 'x1': [2, 3, 5, 7, 11], 'x2': [1, 2, 3, 4, 5], 'x3': [8, 6, 4, 2, 0] }) # 计算VIF X = data[['x1', 'x2', 'x3']] vif_data = pd.DataFrame() vif_data["Feature"] = X.columns vif_data["VIF"] = [variance_inflation_factor(X.values, i) for i in range(X.shape[1])] print(vif_data) ``` 在这个示例中，我们首先创建了一个包含目标变量`y`和自变量`x1`、`x2`、`x3`的数据集。然后，我们使用`statsmodels.stats.outliers_influence.variance_inflation_factor`函数计算每个自变量的VIF值，并将结果存储在一个新的DataFrame中。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值