【Python计量】多重共线性的检验和解决

已于 2024-09-04 10:27:25 修改
阅读量1.3w 收藏 126
点赞数 11
分类专栏： python计量 文章标签： python 开发语言
于 2022-08-07 16:34:52 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/mfsdmlove/article/details/126213172
版权

文章目录

  • 一、多重共线性的产生原因
  • 二、多重共线性的检验
    • 1、简单相关系数法
    • 2、方差膨胀因子法(variance inflation factor，VIF)
  • 三、多重共线性的解决

我们以伍德里奇《计量经济学导论：现代方法》的“第4章 多元回归分析：推断”的案例4.1为例，利用WAGE1中526个工人的观测数据，研究其工资和受教育程度、工作经验和任职时长的关系。构建多元线性回归模型如下：
l o g ( w a g e ) = β 0 + β 1
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Python中的多重共线性问题及解决方案
CyberGenius的博客
08-10 536
它首先通过主成分分析(PCA)将自变量投影到一个新的坐标系中，并保留最重要的成分，然后利用这些成分进行回归分析。特征选择是通过对自变量进行筛选，选择其中对因变量有更显著影响的自变量，从而降低自变量之间的相关性，避免多重共线性的出现。岭回归是一种常用的多重共线性解决方案，通过对模型中的系数加入L2正则化项，从而降低系数间的相关性。多重共线性是线性回归分析中非常常见的问题，指在回归模型中存在两个或以上的自变量高度相关，从而对模型的精确度、可靠度产生负面影响。Python中的多重共线性问题及解决方案。
stata 模型设定专题【计量经济系列（六）】（遗漏变量、无关变量、多重共线性、leverage、虚拟变量、线性插值......）
侯小啾技术博客
05-14 1万+
stata 模型设定专题【计量经济系列（六）】 1. 遗漏变量 与 无关变量1.1 遗漏变量1.2无关变量2. 解释变量的权衡标准3. 检验函数形式4. 多重共线性 4.1 检验多重共线性4.2 处理多重共线性 5. 极端值6.虚拟变量7. 模型结构变动检验 7.1 数据准备7.2 传统邹检验7.3 虚拟变量法8. 线性插值（遗漏变量、无关变量、多重共线性、leverage、虚拟变量、线性插值.                             遗漏变量 与 无关变量 遗漏变量 遗漏变量现象难以避
Python统计学13——回归的多重共线性、异方差、自相关的检验
weixin_46277779的博客
05-24 5193
python做多元回归，计算VIF，检验多重共线性、异方差、自相关，回归储存
多重共线性
weixin_64678621的博客
03-27 1076
在回归分析中，多重共线性（Multicollinearity）是自变量之间存在高度线性相关性的现象。它可能导致模型参数估计不稳定、方差增大，甚至使模型失去解释能力。本文将系统介绍多重共线性的影响、检测方法及解决方案，并附带相关技术原理的详细说明。
Python检验多重共线性
ZYM66的博客
04-18 3269
import numpy as np np.linalg.cond(results.model.exog) # results为训练好的模型 这个好像是根据特征值来检验多重共线性，我本人也不太懂 下面来说一说我们最常用的VIF检验多重共线性的方法 官方文档路径https://www.statsmodels.org/stable/generated/statsmodels.stats.outliers_influence.variance_inflation_factor.html#statsmodel
python 异常捕获 多重_python – 在statsmodels中捕获高多重共线性
weixin_39720510的博客
12-08 213
您可以通过检查相关矩阵的特征值来检测高多重共线性.非常低的特征值表明数据是共线的,并且相应的特征向量显示哪些变量是共线的.如果数据中没有共线性,则可以预期没有任何特征值接近零：>>> xs = np.random.randn(100, 5) # independent variables>>> corr = np.corrcoef(xs, rowvar...
python检验多重共线性_statsmodels中高多重共线性的捕获
weixin_26642481的博客
01-12 953
可以通过检查相关矩阵的特征值来检测高多重共线性。很低的特征值表明数据是共线的，对应的特征向量显示哪些变量是共线的。如果数据中不存在共线性，则期望特征值都不接近零：>>> xs = np.random.randn(100, 5) # independent variables>>> corr = np.corrcoef(xs, rowvar=0) # ...
基于Python回归模型的多重共线性分析
DL11007的博客
02-24 3371
基于Python回归模型的多重共线性分析
用Python解决预测问题_多元线性回归模板
eeee~~的博客
08-23 1675
本文列举了满足模型假设和分别在异方差性，自相关和多重共线性等特殊情况下的多元线性回归模型的Python实现示例。
如何用Python检验线性回归的假设是否满足
林月学习小站
11-06 3440
计量方法的Python实现：检验线性回归的经典假设 线性回归是最广泛使用的计量模型之一，但要获得有效、无偏及一致性的估计量需要满足经典线性假设。本文提供数据并逐步详细提供了用Python进行检验的方法，包括线性假设、误差期望均值为0、多重共线性以及异方差的检验。如有问题，欢迎来信。
高级计量经济学中Python与Matlab模型估计及机器学习实现详解
最新发布
04-06
首先从线性回归入手，展示了Python中statsmodels库的使用及其注意事项，如多重共线性的检测和处理。接着讨论了Probit估计、工具变量法、随机森林等模型的具体实现步骤，并对比了Python和Matlab的不同之处。对于机器...
python数据预处理 :数据共线性处理详解
12-20
何为共线性： 共线性问题指的是输入的自变量之间存在较高的线性相关度。共线性问题会导致回归模型的稳定性和准确性大大降低，另外，过多无关的维度计算也很浪费时间 共线性产生原因： 变量出现共线性的原因： 数据样本不够，导致共线性存在偶然性，这其实反映了缺少数据对于数据建模的影响，共线性仅仅是影响的一部分 多个变量都给予时间有共同或相反的演变趋势，例如春节期间的网络销售量和销售额都相对与正常时间有下降趋势。 多个变量存在一定的推移关系，但总体上变量间的趋势一致，只是发生的时间点不一致，例如广告费用和销售额之间，通常是品牌广告先进行大范围的曝光和信息推送，经过一定时间传播之后，才会在销售额上做出反映。
Python | 使用VIF检测多重共线性
python收藏家的博客
12-25 4607
多重共线性是指多元回归模型中有两个或两个以上的自变量，它们之间具有高度的相关性。正如我们所看到的，身高和体重具有非常高的VIF值，表明这两个变量高度相关。这是预料之中的，因为一个人的身高确实会影响他们的体重。正如我们从公式中看到的，R平方的值越大，VIF越大。这与较高的R平方值表示较强的共线性的事实一致。下例中使用的数据集包含500人的身高、体重、性别和体重指数。exog_idx：要测量其对其他特征的影响的附加特征的索引。其中，R平方是线性回归中的决定系数。exog：一个数组，包含对其执行线性回归的特征。
Python/spss-多元回归建模-共线性诊断2（推荐AA）
weixin_34007906的博客
07-16 1708
sklearn实战-乳腺癌细胞数据挖掘(博客主亲自录制视频教程) https://study.163.com/course/introduction.htm?courseId=1005269003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share     多元共线性   在一个回归...
解决共线性问题的 Python 实现
code_welike的博客
06-02 514
在统计学中，共线性是指自变量之间存在高度相关关系，导致模型参数无法准确估计。本文将介绍如何使用 Python 处理多重共线性问题，并给出相应的代码实现。综上所述，处理共线性问题是建立可靠模型的重要步骤。通过 Python 提供的工具和方法，我们可以更加方便地进行处理，并得到准确的模型预测结果。通常认为，如果某个自变量的 VIF 值大于 5，则存在明显的共线性。最后，我们需要重新计算 VIF 值，确保处理后的自变量之间不存在明显的共线性。使用主成分分析将高度相关的多个自变量转换为少数几个不相关的主成分。
如何处理多重共线性?(python)
我不爱机器学习的博客
11-19 622
若变量x1和x2的相关性增强，则β1和β2的方差会逐渐增大。当两者完全相关r=1时，方差变得无穷大。注意，多重共线性不影响拟合效果，但会造成系数的估计值不稳定，在回归方程高度显著的情况下，有些与因变量高度相关的自变量回归系数通不过显著性检验，甚至出现回归系数的正负号得不到合理解释的情况，变量间的经济结构关系产生了扭曲。
Python 多重共线性检验
热门推荐
呆萌的代Ma
03-13 1万+
多重共线性概念 共线性问题指的是输入的自变量之间存在较高的线性相关度。共线性问题会导致回归模型的稳定性和准确性大大降低，另外，过多无关的维度计算也很浪费时间。 多重共线性产生原因 样本量太少，导致部分数据以外的呈现线性关系 由于某些原因，导致多个变量的变化趋势一致 各变量之间存在线性关系，或关联性较强 共线性检验 1. 方差膨胀系数(variance inflation factor，VIF) VIF是容忍度的倒数，值越大则共线性问题越明显，通常以10作为判断边界。当VIF<10,不存
用Python底层编写进行计量经济分析（二）：多重共线性（原因、结果、检验：条件数/方差膨胀因子、补救：岭回归）
u011517132的博客
04-05 5607
上一次对多元线性回归的估计以及参数和方程的显著性进行了python实现。但是这些都是建立多元线性回归的几个假设基础之上的： 模型符合线性模式 XXX满秩（无多重共线） 零均值价值：E(εi∣Xi)=0E(ε_i|X_i)=0E(εi​∣Xi​)=0（自变量外生） 同方差：Var(εi∣Xi)=σVar(ε_i|X_i)=σVar(εi​∣Xi​)=σ 无自相关：cov(εi,εj)=0cov(ε...
python多重共线性检验
07-12
在Python中，多重共线性通常用于统计建模，特别是回归分析中，它是指模型中自变量之间高度相关的情况。当两个或更多的自变量彼此非常接近于完美的正相关或负相关时，就可能发生多重共线性。这可能导致以下几个问题： 1. 参数估计不稳定：线性回归系数的估计会变得非常敏感，细微的变化会导致系数估计的大范围波动。 2. 回归系数的意义难以解读：由于自变量之间的相互影响，单独的系数意义不明显，无法直接反映单个因素对因变量的影响。 3. 模型预测能力下降：多重共线性的存在可能会使得模型在新数据上的预测效果变差。 Python中有几种方法可以检测和处理多重共线性，比如： - **计算VIF值（方差膨胀因子）**：使用statsmodels库中的`variance_inflation_factor()`函数，VIF值越高，说明多重共线性越严重。 - **相关矩阵**：查看自变量之间的皮尔逊或斯皮尔曼相关系数，如果接近于1或-1，可能存在共线性。 - **主成分分析（PCA）**：通过降维技术，去除部分冗余信息，减少共线性。 - **岭回归（Ridge Regression）** 或 LASSO 回归：这两种正则化方法可以帮助缓解共线性问题。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值