小小攻城狮

统计学习方法的三要素：模型(model)、策略(strategy)、算法(algorithm).生成模型和判别模型分类 生成模型：可以还原出联合概率分布P(X,Y),学习收敛速度更快，存在隐变量时还是可以使用。 朴素贝叶斯分类法隐马尔可夫模型判别模型：直接学习条件概率P(X|Y)或决策函数f(X),学习准确率更高，可以简化学习问题（对数据进行各种程度上的抽象、定义特征并使用特征） k近邻

Sckkit-learn学习笔记

sklearn源码学习入门（不定期更新）

K-Means算法是无监督的聚类算法，它实现起来比较简单，聚类效果也不错，因此应用很广泛。K-Means算法有大量的变体，本文就从最传统的K-Means算法讲起，在其基础上讲述K-Means的优化变体方法。包括初始化优化K-Means++, 距离计算优化elkan K-Means算法和大数据情况下的优化Mini Batch K-Means算法。

K-Means原理初探传统K-Means算法流程K-Means初始化优化K-Means++ 在上节我们提到，k个初始化的质心的位置选择对最后的聚类结果和运行时间都有很大的影响，因此需要选择合适的k个质心。如果仅仅是完全随机的选择，有可能导致算法收敛很慢。K-Means++算法就是对K-Means随机初始化质心的方法的优化。 K-Means++的对于初始化质心的优化策略也很简单，如下： ...

LR介绍Logistic Regression 是一种非线性的回归模型，同时也可以使用逻辑回归模型来作分类任务。Logistic Regression回归模型使用的Sigmoid函数作为假设模型。 hθ(x)=11+e−xhθ(x)=11+e−x h_{\theta}(x) = \frac{1}{1+e^{-x}} 其中 x=∑niθifi,i=1,2...nx=∑inθifi,i=...