切克闹的博客

聚类 聚类是针对给定的样本，依据他们特征的相似度或距离，将其归并到若干个“类”或“簇”的数据分析问题。 在某些场景下聚类和降维是一个意思。聚类算法只作为pipline上对特征降维使用。 相似度/计算方法 当 μx==μy==0\mu_x == \mu_y == 0μx​==μy​==0 时二者相同 K均值 所以我们希望在初始的时候四个聚类中心互相离的远一点。 ...

SVM代码实践 这里写自定义目录标题练习1：鸢尾花分类练习2：SVM实现一个多分类器练习3：SVM选用不同核参数练习4：手写数字识别 练习1：鸢尾花分类 #!/usr/bin/python # -*- coding:utf-8 -*- import numpy as np import pandas as pd import matplotlib as mpl import matplotl...

支撑向量机(Support Vector Machine): 在19世纪末火爆十年分类模型 学习内容：目标函数，计算过程和算法步骤，线性SVM，增加软间隔达到线性可分的SVM（分类效果更好），核函数，参数的计算方法SMO。 各种概念 线性可分SVM：数据集存在一条抽象的线可以完全将数据分成两类。 线性SVM：允许一定错误率的前提下，才满足第1条。 非线性SVM：核函数。线性可分SVM...

XGBoost 练习

什么是Adaboost? AdaBoost算法: 通过迭代弱分类器而产生最终的强分类器的算法，可以理解为在弱分类器之上增加了权重配置，使误差率小的分类器拥有更高的权重。 我们已经学习过决策树这种分类器，并且知道可以通过随机森林的方式完成样本加权、分类器加权，从而使得由弱分类器得到强分类器。Adaboost就是分类器加权的一种方式，即多个分类器的集成。 提升概念 提升算法 预...

决策树代码练习例子 代码实践 注意代码安装完py依赖包后还需要安装Graphviz用于生成树结构图 官方windows版本下载链接 然后把 bin默认安装路径C:\Program Files (x86)\Graphviz2.38\bin添加到系统环境变量PATH，重启IDE就可以使用了。 练习1：决策树 #!/usr/bin/python # -*- coding:utf-8...

决策树的好处 训练速度快 如何建立树？ 假设有N个样本：[n1,n2,n3,...nn]将N个节点都列为root节点假设有N个样本：[n_1,n_2,n_3,...n_n]将N个节点都列为root节点假设有N个样本：[n1​,n2​,n3​,...nn​]将N个节点都列为root节点， 现在给出分类的标准(切一刀分成两部分)，讲样本分类成左边有N1个样本，右边有N2个，则N1+N2...

AUC 注：多分类问题可以退化成二分类问题，后面的笔记会涉及到此类问题

机器学习 算法基础 回归

最大似然估计 数据清洗 特征提取

机器学习基础-每日目标 完成机器学习基础理论知识学习， 为推荐系统算法实践提供理论基础，为 成为一名算法工程师或推荐算法工程师 构建基础理论体系。 今日大纲 推荐系统-机器学习理论基础详解 1.大数据时代究竟改变了什么？(了解) 3.大数据项目架构-以电信日志分析为例(理解) 5.机器学习-人工智能概念区别和联系(掌握) 6.机器学习-数据、数据分析、数据挖掘区别和联系(掌握) 7.什么是机...