小黄的博客

逻辑回归import numpy as npimport matplotlib.pyplot as pltfrom sklearn.metrics import classification_report # 评估分类结果的指标from sklearn import preprocessingfrom sklearn import linear_model# 数据是否需要标准化sca...

用标准方程法实现岭回归import numpy as npfrom numpy import genfromtxtimport matplotlib.pyplot as plt# 导入数据data = np.genfromtxt("C:\\ML\\chapter-1\\longley.csv",delimiter=",") # 这种方法只能读取数字，不能读取字符，字符会变成nanpr...

岭回归（Ridge Regression）如果数据的特征比样本点还多，数据特征n，样本个数m，如果n>m，则计算（XTX）的逆矩阵时会出错，因为（XTX）不是满秩矩阵，所以不可逆。（注：XT表示X的转置矩阵）岭回归是有偏估计岭回归代价函数这里就不贴了选取λ值使得：1.各回归系数的岭估计基本稳定；2.残差平方和增大不多。import numpy as npfrom numpy ...

算法简介K-近邻算法（KNN）是通过测量不同特征值之间的距离进行分类。该算法的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别，其中K通常是不大于20的整数。KNN算法中，所选择的邻居都是已经正确分类的对象。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。算法原理在训练集数据和标签已知...

标准方程法J(x) = ax² + bx + c优点：不需要学习率；不需要迭代；可以得到全局最优解；缺点：需要计算(XTX)-1，-1指的是逆；时间复杂度大约是O（n³）；n是特征数量；考虑是分子布局还是分母布局分子布局：分子为列向量或者分母为行向量；分母布局：分子为行向量或者分母为列向量；import numpy as np import matplotlib.py...

利用sklearn里的函数对多项式进行拟合第一幅图是数据图第二幅图是用一元线性回归拟合的图第三幅图是用多项式回归拟合出来的import numpy as np import matplotlib.pyplot as pltfrom sklearn.linear_model import LinearRegression # 线性回归from numpy import genfromt...

直接调用sklearn里面封装好的函数即可import numpy as np import matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D # 可以用来画3D图from sklearn import linear_modelfrom numpy import genfromtxt# 导入数据data ...

二元线性回归import numpy as npimport matplotlib.pyplot as pltfrom numpy import genfromtxtfrom mpl_toolkits.mplot3d import Axes3D # 可以用来画3D图# 导入数据data = genfromtxt(r"C:\\ML\\chapter-1\\Delivery.csv",d...

import numpy as npimport matplotlib.pyplot as pltfrom numpy import genfromtxtfrom mpl_toolkits.mplot3d import Axes3D # 可以用来画3D图# 导入数据data = genfromtxt(r"C:\\ML\\chapter-1\\Delivery.csv",delimite...

一元线性回归包含一个因变量一个自变量；这两个变量的关系采用一条直线来模拟y = ax + bfrom sklearn.linear_model import LinearRegression # 线性回归import numpy as np import matplotlib.pyplot as plt# 载入数据data = np.genfromtxt("C:\\ML\\chap...

import numpy as npimport matplotlib.pyplot as plt# 载入数据data = np.genfromtxt("C:\\ML\\chapter-1\\data.csv",delimiter=",")x_data = data[:,0]y_data = data[:,1]plt.scatter(x_data,y_data)plt.show()...