多项式回归处理非线性问题

参考资料：多项式回归处理非线性问题

多项式回归是一种通过增加自变量上的次数，而将数据映射到高维空间的方法，从而提高模型拟合复杂数据的效果。

线性模型中的升维工具----多项式变化。是一种通过增加自变量上的次数，而将数据映射到高维空间的方法，在sklearn中的PolynomialFeatures 设定一个自变量上的次数(大于1)，相应地获得数据投影在高次方的空间中的结果。

语法：

sklearn.preprocessing.PolynomialFeatures (degree=2, interaction_only=False, include_bias=True)

重要参数：

degree : integer
多项式中的次数，默认为2
interaction_only : boolean, default = False
布尔值是否只产生交互项，默认为False。就只能将原有的特征进行组合出新的特征，而不能直接对原特征进行升次。
include_bias : boolean
布尔值，是否产出与截距项相乘的 ，默认True

案例一、拟合正弦曲线

线性回归模型无法拟合出这条带噪音的正弦曲线的真实面貌，只能够模拟出大概的趋势，而用复杂的决策树模型又拟合地太过细致，即过拟合。此时利用多项式将数据升维，并拟合数据

案例二、不同的最高次取值对拟合效果的影响

案例三、利用pipeline将三个模型封装起来串联操作

完整代码：

https://github.com/SeafyLiang/machine_learning_study/blob/master/regression/polynomialFeatures.py

from sklearn.pipeline import Pipeline
from sklearn.preprocessing import PolynomialFeatures as PF, StandardScaler
from sklearn.linear_model import LinearRegression
import numpy as np
import matplotlib.pyplot as plt


def demo1():
    '''
    利用多项式将数据升维，并拟合数据
    '''
    rnd = np.random.RandomState(42)  # 设置随机数种子
    X = rnd.uniform(-3, 3, size=100)
    y = np.sin(X) + rnd.normal(size=len(X)) / 3
    # 将X升维，准备好放入sklearn中
    X = X.reshape(-1, 1)
    # 多项式拟合，设定高次项