Python的scikit-learn包的学习笔记（1）

官网源文件http://scikit-learn.org/stable/

第一章：广义线性模型

第一节：最小二乘回归

1，最小二乘法简介：

我们上高中的时候学习过最小二乘法的计算及其原理。具体的就是在一堆的点中画出一条线，使得点到线距离的平方和最小。

这里有一个百度文库的高中最小二乘法的课件，不清楚的可以看一下，温习一下高中知识。（我是萌萌的链接^o^）

下面是官网的最小二乘法官网代码

# Code source: Jaques Grobler
# License: BSD 3 clause

import matplotlib.pyplot as plt
import numpy as np
from sklearn import datasets, linear_model
from sklearn.metrics import mean_squared_error, r2_score

# Load the diabetes dataset
diabetes = datasets.load_diabetes()
##包自带数据集

# Use only one feature
diabetes_X = diabetes.data[:, np.newaxis, 2]
##获取diabetes的第三列数据形成一个新的数列，np.mewaxis是辅助建立新数列的指令
# Split the data into training/testing sets
diabetes_X_train = diabetes_X[:-20]
#获取diabetes的除后20个数据作为训练数据及
diabetes_X_test = diabetes_X[-20:]
#获取diabetes最后20个数据为测试数据集
# Split the targets into training/testing sets
diabetes_y_train = diabetes.target[:-20]
diabetes_y_test = diabetes.target[-20:]
#按照同样的方法获取y的训练数据值和测试数据
# Create linear regression object
regr = linear_model.LinearRegression()

# Train the model using the training sets
regr.fit(diabetes_X_train, diabetes_y_train)
#直接使用线性回归函数拟合训练
# Make predictions using the testing set
diabetes_y_pred = regr.predict(diabetes_X_test)

#使用函数直接进行预测
# The coefficients
print('Coefficients: \n', regr.coef_)
##公式里的系数a
print('intercept_: \n', regr.intercept_)
##公式里的参数b
# The mean squared error
print("Mean squared error: %.2f",mean_squared_error(diabetes_y_test, diabetes_y_pred))
#求出预测的均方差
# Explained variance score: 1 is perfect prediction
print('Variance score: %.2f' % r2_score(diabetes_y_test, diabetes_y_pred))
#方差值

# Plot outputs
plt.scatter(diabetes_X_test, diabetes_y_test,  color='black')
plt.plot(diabetes_X_test, diabetes_y_pred, color='blue', linewidth=4)
plt.plot(diabetes_X_test,regr.coef_*diabetes_X_test+regr.intercept_,color='red')
#使用参数和系数画出来的线
plt.xticks(())
plt.yticks(())

plt.show()

这里的每一条指令我都进行了解释。运行结果如下

Coefficients:
 [ 938.23786125]
intercept_:
 152.918861826
Mean squared error: 2548.07

Variance score: 0.47

将上述代码进行化简得到以下指令

#!/usr/bin/python
# -*- coding: utf-8 -*-
import matplotlib.pyplot as plt
import numpy as np
from sklearn import linear_model
data=np.array([[2,4,4,6,6,6,7,7,8,10],[0.9,1.4,1.6,2.0,2.1,1.9,1.8,2.1,2.2,2.3]]).T
x=data[:, np.newaxis, 0]
y=data[:, np.newaxis, 1]
#########################################
regr = linear_model.LinearRegression()
regr.fit(x,y)
############核心就这么一条指令
plt.scatter(x, y,  color='black')
plt.plot(x,regr.coef_*x+regr.intercept_,color='red')
plt.xticks(())
plt.yticks(())
plt.show()

这里的例子仍然是上面PPT链接里的。

这里是画出的图。结果大家自己跑以下程序就出来了，这里就不描述了。

emmmmmmmm~今天的最小二乘就学到这里。谢谢观看，欢迎指点哦！^o^

PS：关于LinearRegression（）里面的参数调整请看这位博主的文章哦(*╹▽╹*)