40、简单线性回归：从基础到应用

简单线性回归：从基础到应用

1. 简单线性回归基础概念

在简单线性回归中，$\epsilon$ 项代表随机误差。可以理解为，响应变量的任何原始值，都是由给定 $X$ 值的线性变化，再加上或减去一些随机的、剩余的变化或正态分布的噪声所导致。

回归模型的参数有两个重要部分：
- 截距 $\beta_0$ ：当预测变量为 0 时，响应变量的期望值。
- 斜率 $\beta_1$ ：预测变量每增加一个单位，响应变量均值的变化。当斜率为正，回归线从左到右上升；斜率为负，回归线从左到右下降；斜率为 0，则表示预测变量对响应变量的值没有影响。斜率的绝对值越大，回归线上升或下降得越陡峭。

2. 估计截距和斜率参数

目标是使用数据来估计回归参数 $\hat{\beta} 0$ 和 $\hat{\beta}_1$，这一过程称为拟合线性模型。假设我们有 $n$ 对观测数据 $(x_i, y_i)$，$i = 1, \cdots, n$，简单线性回归函数的参数估计公式如下：
- $\hat{\beta}_1 = \rho {xy} \frac{s_y}{s_x}$
- $\hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}$

其中：
- $\bar{x}$ 和 $\bar{y}$ 分别是 $x_i$ 和 $y_i$ 的样本均值。
- $s_x$ 和 $s_y$ 分别是 $x_i$ 和 $y_i$ 的样本标准差。
- $\rho_{xy}$ 是基于数据估计