计量经济学之回归分析学习笔记（均值回归、分位数回归、岭回归、Lasso回归、ENet回归）——基于R（一）

【笔记前言】

最近在进行计量经济学的课程学习，本文对部分回归方法进行了整理，恳请大家对其中出现的错误进行指正，不胜感激。

此外，由于种种原因，在均值回归时，我们将涉及到模型建立后的后续检验，而在其他回归中，将着重于突出其参数估计的基本思路与过程，以及其各自之间的对比。同时，本系列学习笔记将使用R软件进行实践操作。

从参数估计的角度，各种方法都是目标函数的最优化问题，只是因为具体情况不同，使得各自约束条件不同，因此估计得到的参数也不同。映射到几何意义上，大致是在OLS的原始曲面下寻找新的最优解（根据约束域）。

这个笔记断断续续经历了一天的时间...后面有点潦草。

一、均值回归——简单线性回归

（一）一元线性回归

以iris数据集作为实验数据

>data=iris[,1:4]
>r1=lm(Sepal.Length~Sepal.Width,data)
>summary(r1)
Call:
lm(formula = Sepal.Length ~ Sepal.Width, data = data)

Residuals:
    Min      1Q  Median      3Q     Max 
-1.5561 -0.6333 -0.1120  0.5579  2.2226 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)   6.5262     0.4789   13.63   <2e-16 ***
Sepal.Width  -0.2234     0.1551   -1.44    0.152    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.8251 on 148 degrees of freedom
Multiple R-squared:  0.01382,	Adjusted R-squared: