统计学习方法-李航
关注
分享
扫一扫
'Themis'
这个作者很懒，什么都没留下…
展开
-
《统计学习方法》读书笔记——第三章 K近邻法
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架KNN算法KNN模型KNN算法的实现补充知识点KNN与K-means本章框架KNN算法针对目标点，找到和目标点最近的K个点，根据这K个点分类决策目标点的类别。KNN模型KNN模型的三要素...原创 2019-02-28 13:48:57 · 244 阅读 · 0 评论 -
《统计学习方法》读书笔记——第十一章 条件随机场
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架概率无向图模型（马尔科夫随机场）条件随机场条件随机场的三个问题补充知识点本章框架概率无向图模型（马尔科夫随机场）是一个可以由无向图表示的联合概率分布，其中用图的节点(node)表示随机...原创 2019-03-20 19:41:07 · 632 阅读 · 0 评论 -
《统计学习方法》读书笔记——第七章 支持向量机
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架线性可分SVM与硬间隔最大化线性SVM与软间隔最大化非线性SVM与核函数序列最小最优化算法（SMO）补充知识点欧氏空间与希尔伯特空间凸函数、凸优化、凸二次规划KKT（Karush-Kuhn-T...原创 2019-03-16 15:39:18 · 284 阅读 · 0 评论 -
《统计学习方法》读书笔记——第六章 逻辑斯谛回归与最大熵模型
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架逻辑斯谛回归模型最大熵模型模型学习的最优化方法补充知识点本章框架逻辑斯谛回归模型名称 公式 描述 逻辑斯谛回分布 逻辑斯谛回归模型 ...原创 2019-03-16 14:03:25 · 261 阅读 · 0 评论 -
《统计学习方法》读书笔记——第九章 EM算法及其推广
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架EM算法EM算法在高斯混合模型中的应用EM算法的推广补充知识点高斯混合模型本章框架EM算法在进行概率模型的参数估计时，如果变量全是可以直接观测的，就可以直接用极大似然估计或贝叶斯估计；如果模型中...原创 2019-03-20 13:27:24 · 441 阅读 · 0 评论 -
《统计学习方法》读书笔记——第八章 提升方法
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架提升方法Adaboost算法提升树补充知识点本章框架根据训练数据的线性可分、近似线性可分、线性不可分这三个程度，SVM由简单到复杂地呈现为线性可分SVM、线性SVM以及非线性SVM三种。本章先分别介绍这...原创 2019-03-19 22:02:04 · 234 阅读 · 0 评论 -
《统计学习方法》读书笔记——第二章 感知机
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架感知机模型策略学习方法补充知识点最优化算法本章框架感知机模型公式为的线性二分类器。策略极小化Loss函数，其中M为误分类点。学习方法基于随即梯度下降对Loss进行最优化，有原始形...原创 2019-02-27 11:34:21 · 285 阅读 · 0 评论 -
《统计学习方法》读书笔记——第一章 统计学习方法概论
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架监督学习、非监督学习与强化学习统计学习三要素极大似然估计贝叶斯估计最大后验概率估计生成模型和判别模型回归、分类和标注本章框架监督学习、非监督学习与强化学习监督学习：从数据中预测标签（学认...原创 2019-02-25 10:14:20 · 361 阅读 · 0 评论 -
《统计学习方法》读书笔记——第五章 决策树
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架决策树模型特征选择树的生成和剪枝补充知识点NP完全问题基尼指数正则化的极大似然函数递归、动态规划等算法回顾本章框架决策树模型一种对实例进行分类对树形结构，也表示了在给定特定条件下，类...原创 2019-02-28 21:45:53 · 247 阅读 · 0 评论 -
《统计学习方法》读书笔记——第四章 朴素贝叶斯
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。目录写在前面本章框架朴素贝叶斯方法参数估计补充知识点极大似然估计贝叶斯估计本章框架朴素贝叶斯方法朴素贝叶斯：基于贝叶斯定理与特征条件独立假设。根据先验概率分布和条件概率分布，计算后验概率分布，输出后验概率最...原创 2019-02-28 17:20:35 · 289 阅读 · 0 评论 -
《统计学习方法》读书笔记——第十章 隐马尔可夫模型
写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。本章框架隐马尔可夫模型隐马尔可夫模型是关于时序的模型，由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列， 再由各个状态生成一个观测而产生观测随机序列。由三个要素确定：初始概率分布、状态转移概率分布以及观测概率分布，可写为。两个假设：...原创 2019-03-20 20:11:23 · 257 阅读 · 0 评论