43、多元线性回归：原理、R语言实现与解读

多元线性回归：原理、R语言实现与解读

1. 多元线性回归基础

1.1 基本概念

在多元线性回归中，对于第 $i$ 个个体，$y_i$ 表示响应观测值，$\epsilon_i$ 表示随机误差项。回归系数 $\beta$ 是一个 $(p + 1) \times 1$ 的列矩阵，所有个体和解释变量的观测预测数据存储在一个 $n \times (p + 1)$ 的矩阵 $X$ 中，这个矩阵被称为设计矩阵。具体形式如下：
$$
\beta =
\begin{bmatrix}
\beta_0 \
\beta_1 \
\vdots \
\beta_p
\end{bmatrix}
$$
$$
X =
\begin{bmatrix}
1 & x_{1,1} & \cdots & x_{p,1} \
1 & x_{1,2} & \cdots & x_{p,2} \
\vdots & \vdots & \ddots & \vdots \
1 & x_{1,n} & \cdots & x_{p,n}
\end{bmatrix}
$$
通过最小化某个目标函数可以得到估计的回归系数值，计算公式为：
$$
\hat{\beta} =
\begin{bmatrix}
\hat{\beta}_0 \
\hat{\beta}_1 \
\vdots \
\hat{\beta}_p <