Ali_start的博客

本文主要参考 scikit-learn机器学习 常用算法原理及编程实践源码连接http://www.hzcourse.com/web/refbook/detail/7641/226本文包括 介绍机器学习应用，机器学习的分类，机器学习开发的典型步骤1介绍机器学习应用得益于摩尔定律，计算机硬件（CPU、GPU）为很多通过大量数据学习的算法提供很好的条件，这类算法称为机器学习算法。传...

熵是一个热力学中表征物质状态的参量之一，物理意义为：体系混乱程度的度量。信息熵是为了解决信息量化问题。香浓【】认为，一条信息的信息量和它的不确定性有直接关系。一个问题的不确定性越大，要搞清楚这个问题，需要了解的信息就越多，其信息熵就越大。                                                                    横坐标...

# coding: utf-8# # numpy基本操作# # NumPy系统是Python的一种开源的数值计算扩展。这种工具可用来存储和处理大型矩阵。# 更多操作参考http://www.runoob.com/numpy/numpy-tutorial.html# # numpy reshape# # reshape()# revel()...

import matplotlib.pyplot as pltimport numpy as npfrom sklearn.datasets.samples_generator import make_blobs# 生成数据centers = [[-2, 2], [2, 2], [0, 4]]X, y = make_blobs(n_samples=600, centers=cente...

import matplotlib.pyplot as pltimport numpy as np# 生成训练样本n_dots = 40X = 5 * np.random.rand(n_dots, 1)y = np.cos(X).ravel()# 添加一些噪声y += 0.2 * np.random.rand(n_dots) - 0.1# 训练模型from sklearn...

from sklearn.linear_model import LinearRegression #线性回归from sklearn.preprocessing import PolynomialFeatures #多项式类from sklearn.pipeline import Pipeline #管道 串联两个类import nump...

参考：逻辑回归实现class LogisticReressionClassifier: def __init__(self, max_iter=200, learning_rate=0.01): self.max_iter = max_iter self.learning_rate = learning_rate def ...

决策树的构建，就是从训练数据集中归纳出一组分类规则，使它与训练数据矛盾较小的同时具有较强的泛化能力。有了信息增益来量化地选择数据集的划分特征，使决策树的创建过程变得容易，主要分几步：1.计算数据集划分前的信息熵2.遍历所有未作未划分条件的特征，分别计算根据每个特征划分数据集后的信息熵3.选择信息增益最大的特征，并使用这个特征作为数据划分节点来划分数据4.递归地处理被划分后的所有子数...