简单线性回归(Simple Linear Regression)

最新推荐文章于 2024-08-13 19:59:11 发布

原创最新推荐文章于 2024-08-13 19:59:11 发布 · 881 阅读

0 ·

CC 4.0 BY-SA版权

machine learning 专栏收录该内容

9 篇文章

订阅专栏

博客介绍了简单线性回归，其有一个自变量x和一个连续型因变量y，二者呈线性关系。给出假设方程y=b0+b1x，阐述算法步骤，包括求xx、yy、b1、b0等，最后展示了Python实现代码。

简单线性回归：
有且仅有一个自变量x，一个因变量y，x、y之间有线性关系，并且y是连续型变量。
假设方程为：
$y=b_0+b_1x$
假设有n个样本（即有n个x，n个y）
算法步骤：

求出 $x‾\overline{x}$ $x‾=1n∑i=1nxi\overline{x}=\dfrac{1}{n}\sum_{i=1}^nx_i$
求出 $y‾\overline{y}$ $y‾=1n∑i=1nyi\overline{y}=\dfrac{1}{n}\sum_{i=1}^ny_i$
求出 $b_1$ $b1=∑i=1n(xi−x‾)(yi−y‾)∑i=1n(xi−x‾)2b_1=\dfrac{\sum_{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sum_{i=1}^n(x_i-\overline{x})^2}$
求出 $b_0$ $b0=y‾−kx‾b_0=\overline{y}-k\overline{x}$

代码（python）

import numpy as np
def fitSLR(x,y):
    n = len(x)
    numerator = 0
    denominator = 0
    for i in range(0,n):
        numerator +=(x[i]-np.mean(x))*(y[i]-np.mean(y))#np.mean()用于求均值
        denominator +=(x[i]-np.mean(x))**2
    b1 = numerator/float(denominator)
    b0 = np.mean(y)-b1*np.mean(x)
    return b0,b1
def predit(x,b0,b1):
    return b0+b1*x
x = [1,3,2,1,3]
y = [14,24,18,17,27]
b0,b1 = fitSLR(x, y)
x_test = 6
y_test = predit(x_test, b0, b1)
print(y_test)