
统计学习方法
haodumiao
咸鱼研究生
展开
-
分类问题,标注问题和回归问题
分类问题:评估分类器性能的指标一般是分类准确率,其定义是:对于给定的测试数据集,分类器正确分类的样本数和总样本数之比,也就是损失函数是0-1损失时候,测试数据集上的准确率。对于二类分类问题常用的评价指标是精确率与召回率。通常以关注的类为正类,其他类为负类,分类器在测试数据集上的预测或正确或不正确,4种情况出现的总数分别记作:TP——将正类预测为正类数FN——将正类预测为负类数FP—...转载 2019-02-18 10:34:49 · 1589 阅读 · 0 评论 -
马尔可夫链
马尔可夫链(Markov Chain, MC)是概率论和数理统计中具有马尔可夫性质(Markov property)且存在于离散的指数集(index set)和状态空间(state space)内的随机过程(stochastic process) [1-2] 。适用于连续指数集的马尔可夫链被称为马尔可夫过程(Markov process),但有时也被视为马尔可夫链的子集,即连续时间马尔可夫链(C...转载 2019-02-28 10:59:49 · 23823 阅读 · 2 评论 -
凸二次规划
二次规划的一般形式可以表示为: 二次规划一般形式其中G是Hessian矩阵,τ是有限指标集,c,x和,都是R中的向量。如果Hessian矩阵是半正定的,则我们说该式是一个凸二次规划,在这种情况下该问题的困难程度类似于线性规划。如果有至少一个向量满足约束并且在可行域有下界,则凸二次规划问题就有一个全局最小值。如果是正定的,则这类二次规划为严格的凸二次规划,那么全局最小值就是唯一的。如...转载 2019-02-25 09:52:29 · 10751 阅读 · 0 评论 -
NP完全问题
NP就是Non-deterministic Polynomial的问题,也即是多项式复杂程度的非确定性问题。 假设P ≠ NP的图解。若P = NP则三类相同。而如果任何一个NP问题都能通过一个多项式时间算法转换为某个NP问题,那么这个NP问题就称为NP完全问题(Non-deterministic Polynomial complete problem)。NP完全问题也叫做NPC问题。 [...转载 2019-02-21 10:06:25 · 3126 阅读 · 0 评论 -
统计学习方法总结
感知机:适用问题:二类分类 模型特点:分离超平面 模型类型:判别模型 学习策略:极小化误分类点到超平面距离 学习的损失函数:误分类点到超平面的距离 学习算法:随机梯度下降模型函数:k近邻法:适用问题:多类分类 回归 模型特点:特征空间,样本点 模型类型:判别模型朴素贝叶斯法:适用问题:多类分类 模型特点:特征与类别的联合概率分布,条件独...原创 2019-03-04 17:41:12 · 472 阅读 · 0 评论