李航统计学习方法-习题笔记

最新推荐文章于 2022-05-10 16:23:06 发布
原创 最新推荐文章于 2022-05-10 16:23:06 发布 · 390 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#李航

博客提供了一个链接https://sine-x.com/statistical-learning-method/ ，可能与统计学习方法相关，标签提及李航，推测可能与李航所著的统计学习相关内容有关。
李航老师《统计学习方法》第十六章主成分分析课后题答案
qq_41626059的博客
05-19 7238
1、对以下样本进行主成分分析：[233457245568]\begin{bmatrix}2 & 3 & 3 & 4 & 5& 7\\2 & 4 & 5 & 5 & 6 &8\end{bmatrix}[22​34​35​45​56​78​] 解： import numpy as np def PCA(X): # 下面先对数据进行规范化 s = np.shape(X) for i in range(s[0]
《李航 统计学习方法》学习笔记——第五章决策树
eveiii的博客
05-21 783
决策树5.1 决策树模型与学习5.2 特征选择5.2.1 信息增益 5.1 决策树模型与学习 分类决策树模型是一种描述对实例进行分类得树形结构。内部节点表示一个特征或属性，叶子节点表示一个类。 路径上内部节点的特征对应着规则的结论，而叶节点的类对应着规则的结论。决策树的路径具有一个重要的性质：互斥并且完备，每一个实例都被一条路径或一条规则所覆盖，且只被一条路径或一条规则所覆盖。 决策树与条件概率 决策树还可以表示给定特征条件下类的条件概率分布。下图中(a)的大正方形表示特征空间，每个小矩形表示一个单元。
李航统计学习方法(第二版)第二章 感知机学习笔记【实战篇】
不负如来不负卿
09-19 419
感知机学习笔记【实战篇】原始形式对偶形式 原始形式 本节用李航大大第二版统计学习方法中的例题作为例子来进行学习与编码。 题目是这个样子的【和第一版例题一样】 我们回顾一下原始形式时的算法思想： 1）设定 w, b 的初始值 2）随机选取样本空间中的一个点(xi,yi)(x_i,y_i)(xi​,yi​) 3）如果yi∗(w∗xi+b)<0y_i*(w*x_i+b)<0yi​∗(w∗x...
李航《统计学习方法》读书笔记2——第二章 感知机
天真不无邪，hello和world
10-15 276
第二章 感知机 感知机模型 感知机是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面。 ...
统计学习方法 李航---第7章 支持向量机
dazhichang6061的博客
08-28 474
第7章 支持向量机 支持向量机(support vector machines, SVM)是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划(convex quadratic programming)的问题，也等价于正则化的合页损失函数的最小化...
【统计学习方法-李航-笔记总结】七、支持向量机
zl3090的博客
10-16 1284
本文是李航老师《统计学习方法》第七章的笔记，欢迎大佬巨佬们交流。 主要参考博客： https://www.cnblogs.com/YongSun/p/4767130.html https://blog.youkuaiyun.com/wjlucc/article/details/69376003 主要内容包括： 1. 线性可分支持向量机与硬间隔最大化 2. 线性支持向量机与软间隔最大化 3. 非线...
Statistic-study-notes:李航统计学习方法（第二版）的学习笔记，包括：1、每章重点公式的手动推导 2、每章算法的Python自实现 3、学习过程中的笔记与心得 4、每章节的课后习题 5、每周都会按照至少一周一章的进度定时将自己的学习进度更新到这个仓库
05-27
李航统计学习方法（第二版）的学习笔记，包括： 1、每章重点数学公式的手动推导 均为手写然后扫描成图片，字迹不工整还望谅解，之后有时间会用Latex修正 点击数学公式没有出现图片的情况 需要搭梯子才可以在线预览到...
统计学习方法-李航-第七章-支持向量机笔记
熊熊小姐的博客
05-18 386
统计学习方法-李航-第七章-支持向量机笔记 首先回顾一下感知机。感知机的模型是线性分类模型，将两种类别标记为正负1，将新的样本输入线性函数，再将线性函数代入符号函数就可以得到输出作为判定结果。这里最重要的还是线性函数的选取，线性函数在特征空间中可能就是一个超平面，只要这个超平面能将正负样本完全分隔开来就是符合要求的超平面，这也就是感知机的策略。具体到损失函数，选择的不是误分类点的个数，而是误分类点到超平面的总距离，这样才连续可求导，方便后续优化。 感知机的算法是在策略的基础上选择的优化算法。 从模
李航统计学习方法学习笔记分享：公式推导与Python实现
### 李航统计学习方法（第二版）的学习笔记 #### 1. 每章重点公式的手动推导 - **重点数学公式的手动推导**：涉及数学公式理解与推导的练习，能够加深对理论知识的掌握。 - **手写扫描与Latex修正**：在初始阶段，...
《李航 统计学习方法》学习笔记——第九章EM算法及其推广
eveiii的博客
05-24 857
EM算法及其推广EM算法二级目录三级目录 EM算法 EM算法：含有隐变量的概率模型参数的极大似然估计法或极大后验概率估计法。每次迭代分为E步（极大期望）和M步（求极大）。 三硬币模型 在这个实例中，抛硬币A的结果（这里记为Z ）是无法观测的，所以该结果称之为隐变量。 在该例子中，也可以称（Y,Z）为完全数据，Y为不完全数据 设随意变量Y为观测到的抛硬币的结果（即观测变量），θ=(π,p,q)\theta=(\pi,p,q)θ=(π,p,q)是模型参数，则可以得到模型的似然函数： P(Y∣θ)=∑ZP(
[统计学习方法]-李航-统计学习方法概论（含第一章习题解答）
qq_33459955的博客
11-23 591
统计学习方法栏目是对李航老师写的统计学习方法第二版的学习记录，里面有一些自己的感悟，写出来供大家参考。 MAP与判MLE区别 最大后验概率（MAP）：对应贝叶斯学派，主要认为事物的本质（模型参数）是不确定的，人们往往有一个先验猜测，然后再通过数据对事物的本质（模型参数）不断修正，最后得到可信的结果，这样得到的参数往往是分布式的，依据主要是贝叶斯公式： P(θ∣X)=c P(\theta|X)=c P(θ∣X)=c 计算方法为： θMAP=argmax(P(θ∣X))=argmax(P(X∣θ)∙.
统计学习方法读书笔记（十五）-奇异值分解
scu-liu的博客
01-24 511
全部笔记的汇总贴：统计学习方法读书笔记汇总贴 PDF免费下载：《统计学习方法（第二版）》 可以直接看这篇文章，关于奇异值分解讲的很清楚，还有个例子：奇异值分解 奇异值分解（singular value decomposition, SVD）是一种矩阵因子分解方法，是线性代数的概念，但在统计学习中被广泛使用，成为其重要工具。 一、奇异值分解的定义与性质 在看完上面那篇文章的例子之后，可以再看看书上的例15.1。 二、奇异值分解的计算 先求ATAA^TAATA的特征值和特征向量 求nnn阶正交矩阵VVV 求m
第7章 支持向量机(SVM)课后习题解答
breeze_blows的博客
02-11 7382
=============================== 【回到目录】=============================== 第7章 支持向量机(SVM)课后习题解答 1.1 参考：传送门 传送门 &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;感知机与线性可分支持向量机对偶形式还是蛮像的，线性可分支持向量机考虑了支持向量，软间隔 1.2 参考...
统计学习方法 第十五章 奇异值分解
Akari0216的博客
07-07 957
奇异值分解（SVD，singular value decomposition）是一种矩阵因子分解方法。任意一个m x n 矩阵都可以表现为三个矩阵的乘机形式，分别是m阶正交矩阵、降序排列非负对角线m x n矩阵和n阶正交矩阵。可以看做是矩阵数据压缩的一种方法，近似地表示原始矩阵，且在平方损失意义下的最优近似。 SVD分解：A = UΣVT 存在性证明过程略。 SVD分解还有紧奇异值分解和截断奇异值分解。几何解释为，m x n矩阵A表示从n维空间Rn到m维空间Rm的一个线性变换，分解为：一个坐标系的旋转或反射
【习题集二】核、支持向量机和学习理论
禛的专栏
10-28 1171
《机器学习》习题集二题解。
第十一章 习题11-1-习题11-10
weixin_41124748的博客
10-30 562
习题11-1 map是关联容器，可以存储两种类型不同的“键”-“值”对； vector是顺序容器，只能存放单一数据类型； 关联容器中的元素是按关键字来保存和访问的；顺序容器中的元素是按他们在容器中的位置来顺序保存和访问的； 习题11-2 list -- 需要在中间进行操作的情况。 vector, 动态数组。 deque -- 只需要在头尾进行操作的情况 map -- 字典 set...
复现经典：《统计学习方法》​第16章 主成分分析
fengdu78的博客
06-08 1422
第16章 主成分分析本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读...
李航-统计学习方法-习题-第九章
Young, Simple, Naive
11-13 3515
9.2 证明引理 9.2. 引理 9.2 若P~θ(Z)=P(Z∣Y,θ)\widetilde P_\theta(Z)=P(Z|Y,\theta)Pθ​(Z)=P(Z∣Y,θ)，则 F(P~,θ)=logP(Y∣θ) F(\widetilde P, \theta)=logP(Y|\theta)F(P,θ)=logP(Y∣θ). 证明： F(P~,θ)=EP~[logP(Y,Z∣θ)]+H(P~)=...
《统计学习方法（第2版）》李航 第16章 主成分分析 PCA 思维导图笔记 及 课后习题答案（步骤详细）PCA 矩阵奇异值 第十六章
qq_26928055的博客
05-10 4415
16.1 对以下样本数据进行主成分分析： X=[233457245568] X = \left[\begin{array}{llllll}2 & 3 & 3 & 4 & 5 & 7 \\ 2 & 4 & 5 & 5 & 6 & 8\end{array}\right] X=[22​34​35​45​56​78​] 由于手解数据不是那么“友好”所以直接用代码求解： import numpy as np X = np.array(.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值