L.Z.的博客

学习过机器学习算法的同学一定不会对精准率、召回率陌生。精准率（precision）和召回率(recall)是对二分类模型效果评价的指标。下图为精准率和召回率的计算公式：由于这里面涉及到TP、FN、FP、TN这四个指标...

 朴素：假设所有特征独立；贝叶斯：贝叶斯定理 朴素贝叶斯分类器的训练过程就是基于训练集D来估计类先验概率P(y)，并为每个属性估计条件概率P(x(i)|y) 实例被划分到后验概率最大的类中，后验分布 = 先验分布 + 数据（似然） 贝叶斯估计：避免要估计的概率值为0的情况 拉普拉斯平滑：贝叶斯估计的特殊情况，λ=1 贝叶斯分类其实是利用用贝叶斯公式，算出每种情况下发生的概率，再取...

k近邻法不具有显示的学习过程，是一种懒惰学习 即可分类，又可回归 模型由三个基本要素——距离度量、k值的选择、分类决策规则决定 kd树是二叉树，表示对k维空间的一个划分。是一种便于对k维空间中的数据进行快速检索的数据结构 构造kd树 搜索kd树 http://blog.youkuaiyun.com/app_12062011/article/details/51986805 构造kd树，相...

感知机的解不唯一，与初始值和选取的误分类点有关 感知机学习算法包括原始形式和对偶形式 对偶形式是对算法执行速度的优化，引入了Gram矩阵，达到一次计算，多次使用的效果 损失函数为误分类点到超平面距离之和（凸函数） 参数通过随机梯度下降法来确定（每次使用一个误分类点）对线性可分数据集，感知机算法收敛，即经过有限次迭代可以得到一个将训练数据集完全正确划分的分离超平面及感知机模型 当训练集线...