斯坦福ML公开课笔记10——VC维、模型选择、特征选择

最新推荐文章于 2024-03-05 19:11:34 发布
原创 最新推荐文章于 2024-03-05 19:11:34 发布 · 1w 阅读 · 16 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#VC维 #模型选择 #交叉检验 #特征选择 #机器学习

本篇为ML公开课第10个视频的内容总结，主要介绍了VC维的概念及其在模型集合无限大情况下的应用，并深入探讨了模型选择的方法，包括交叉验证和特征选择两大方面。

本篇是ML公开课的第10个视频，上接第9个视频，都是讲学习理论的内容。本篇的主要内容则是VC维、模型选择(Model Selection)。其中VC维是上篇笔记中模型集合无限大时的扩展分析；模型选择又分为交叉检验(Cross Validation)和特征选择(FeatureSelection)两大类内容。






斯坦福机器学习ML公开课笔记1-15（完整版、带目录索引和NG原版讲义）
11-07
1-15节全部完整版讲义！超清分享~~~（附赠目录索引和NG原版讲义） 含金量高，独家整理~~ 目录如下： 公开课笔记1-2——线性规划、梯度下降、正规方程组 公开课笔记3——局部加权回归、逻辑斯蒂回归、感知器算法 公开课笔记4——牛顿方法、指数分布族、广义线性模型 公开课笔记5——生成学习、高斯判别、朴素贝叶斯 公开课笔记6——NB多项式模型、神经网络、SVM初步 公开课笔记7——最优间隔分类、原始/对偶问题、SVM对偶 公开课笔记8———核技法、软间隔分类器、SMO算法 公开课笔记9—偏差/方差、经验风险最小化、联合界、一致收敛 公开课笔记10——VC维、模型选择、特征选择 公开课笔记11——贝叶斯正则化、在线学习、ML应用建议 公开课笔记12——K-Means、混合高斯分布、EM算法 公开课笔记13A——混合高斯模型、混合贝叶斯模型 公开课笔记13B-因子分析模型及其EM求解 公开课笔记14——主成分分析 公开课笔记15—隐含语义索引、奇异值分解、独立成分分析
斯坦福ML公开课笔记_中文版
12-16
总之，这份“斯坦福ML公开课笔记_中文版”提供了全面而深入的机器学习理论与实践指导，无论你是初学者还是有一定基础的学习者，都能从中受益匪浅。通过学习这些笔记，你将能够理解并应用各种机器学习模型，为你的...
NB多项式模型、神经网络、SVM初步—斯坦福ML公开课笔记6
雨石
08-02 1万+
本篇笔记针对斯坦福ML公开课的第6个视频，主要内容包括朴素贝叶斯的多项式事件模型（MultivariateBernoulli Event Model）、神经网络（Neural Network）、支持向量机（Support Vector Machine）的函数间隔（functionalmargin）与几何间隔（geometricmargin）。
斯坦福ML公开课笔记12——K-Means、混合高斯分布、EM算法
热门推荐
雨石
01-21 1万+
公开课系列的pdf文档已经上传到csdn资源，下载请猛击这里。 本文对应斯坦福ML公开课的第12个视频，第12个视频与前面相关性并不大，开启了一个新的话题——无监督学习。主要内容包括无监督学习中的K均值聚类(K-means)算法，混合高斯分布模型(Mixture of Gaussians, MoG)，求解MoG模型的EM算法，以及EM的一般化形式，在EM的一般化形式之前，还有一个小知识点，即Jensen不等式(Jensen’s inequality)。
斯坦福ML公开课笔记15—隐含语义索引、奇异值分解、独立成分分析
雨石
07-22 9374
斯坦福ML公开课笔记15 我们在上一篇笔记中讲到了PCA(主成分分析)。PCA是一种直接的降维方法，通过求解特征值与特征向量，并选取特征值较大的一些特征向量来达到降维的效果。 本文继续PCA的话题，包括PCA的一个应用——LSI(Latent Semantic Indexing, 隐含语义索引)和PCA的一个实现——SVD(Singular Value Decomposition,奇异值分解)，在SVD和LSI结束之后，关于PCA的内容就告一段落。视频的后半段开始讲无监督学习的一种——ICA(Indepen
斯坦福课程ML
D. Qiu的专栏
03-26 1169
1、线性回归、logistic回归和一般回归 线性回归函数（如果） 损失函数（loss function）或者错误函数（error function） 梯度下降法 梯度下降法最大的问题是解有可能是局部极小值，这与初始点的选取有关步骤 首先对赋值，这个值可以是随机的，也可以让是一个全零的向量改变的值，使得沿梯度下降的的方向减少 由于求得的是极小值，因此
斯坦福ML公开课笔记(中文版1-6)
11-06
**混合高斯模型** 混合高斯模型（Gaussian Mixture Model, GMM）是一种概率模型，常用于数据建模和聚类。它假设数据是由多个高斯分布混合而成的，每个观测值都属于其中一个高斯分量。在GMM中，我们需要估计每个分量...
斯坦福ML公开课笔记(中文版7-11)
11-06
这些笔记内容涵盖了机器学习的多个重要主题，旨在帮助学习者深入理解这些模型的工作原理和应用场景，提升数据分析和机器学习项目的能力。通过阅读和研究这些资料，可以增强对机器学习理论和实践的理解，为进一步的...
斯坦福ML公开课笔记31
08-03
斯坦福ML公开课笔记31 斯坦福ML公开课笔记31是斯坦福大学机器学习公开课的笔记，涵盖了机器学习的基本概念和算法。笔记的主要内容包括局部加权回归、最小二乘法的概率解释、逻辑斯蒂回归、感知器算法等。 局部加权...
机器学习笔记8——ERM
OnePisces博客专栏
05-09 1万+
这一章开始将学习理论 偏差与方差的权衡 ERM——经验风险最小化
斯坦福ML机器学习课程笔记 （1-16节完整版，附原始NG英文讲义）
11-07
斯坦福ML机器学习课程笔记 （1-16节完整版，附原始NG英文讲义）
erm:简洁的实体关系模型
06-27
erm是一种用于简洁地指定实体关系模型的微型语言。 例子 定义一个实体关系模型文件，如下所示。 [Person|1] <Attends> [School|*]; [Person] -> [Student] [Teacher]; [School|*] <Offers> [Major|*]; [Student|1] <Studies> [Major|*]; [Student|+] <Takes> [Class|*]; [Teacher|*] <Teaches> [Class|1]; [Class|?] <Requires> [Major|*]; 我们称它为education.erm 。 使用ermc编译器，编译并渲染您的模型。 ermc render -i=education.erm 渲染后的 SVG 如下。 必须为ermc安装才能执行渲染。 此外，在ermc.exe.config
Stanford ML - Introduction 入门
YMHH的专栏
07-12 734
在CMU听老婆等人讨论学术问题，很受刺激啊，一个个的mingci
斯坦福ML公开课笔记9—偏差/方差、经验风险最小化、联合界、一致收敛
雨石
09-27 1万+
本篇与前面不同，主要内容不是算法，而是机器学习的另一部分内容——学习理论。主要包括偏差/方差（Bias/variance）、经验风险最小化（Empirical Risk Minization，ERM）、联合界（Union bound）、一致收敛（Uniform Convergence）。 Ng对学习理论的重要性很是强调，他说理解了学习理论是对机器学习只懂皮毛的人和真正理解机器学习的人的区别。学习理论的重要性在于通过它能够针对实际问题更好的选择模型，修改模型。
吴恩达机器学习——学习理论，经验风险最小化（ERM），一般误差（测试误差），VC维
我爱学习的博客
07-20 6431
这一章主要是学习的理论。首先我们来关注这章主要研究的问题： 1.我们在实践中针对训练集有训练误差，针对测试集有测试误差，而我们显然更关心的是测试误差。但是实际算法通常都是由训练集和模型结合，那么我们如何针对训练集的好坏来体现出测试误差的信息呢？这是我们研究的第一个问题 2.是否存在某些条件，我们能否在这些条件下证明某些学习算法能够良好工作？ 1.符号定义 写在前面，这里这把各种符号定义...
经验风险最小化（Empirical Risk Minimization, ERM）
最新发布
weixin_39699362的博客
03-05 2770
经验风险最小化（Empirical Risk Minimization, ERM）是机器学习中的一个基本原则，它旨在通过最小化训练数据集上的损失来训练模型。这种方法基于这样一个假设：通过最小化模型在训练集上的误差（即经验风险），模型在未知数据上的表现（即泛化能力）也会得到提升。ERM框架下的目标是找到一个函数，使得这个函数在训练数据集上的平均损失最小。
机器学习(Machine Learning, ML)
zhangqinghao9203的专栏
02-11 2895
机器学习(Machine Learning, ML)的目的是根据给定的训练样本求对某系统输入输出之间依赖关系的估计，使它（这种关系）能够对未知输出做出尽可能准确地预测。机器学习至今没有一个精确的公认的定义。作为人工智能(Artificial Intelligence, AI)的一个重要研究领域，ML的研究工作主要围绕学习机理、学习方法和面向任务这三个基本方面进行研究。模式识别、函数逼近和概率密度估
最常用的决策树算法！Random Forest、Adaboost、GBDT 算法
Datawhale
11-04 860
点击上方“Datawhale”，选择“星标”公众号第一时间获取价值内容本文主要介绍基于集成学习的决策树，其主要通过不同学习框架生产基学习器，并综合所有基学习器的预测结果来...
决策树分类器vc维如何计算_决策树与聚类分析
weixin_39575047的博客
11-23 271
一.本周分享内容 决策树 随机决策森林 K-MEANS聚类分析二.个人见解1.决策树1.1决策树主要思想决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习中，决策树是一个预测模型，他代表的是...
斯坦福ML公开课前五讲笔记汇总
斯坦福机器学习公开课的笔记不仅仅是对课程内容的简单摘录，而是一个整合了理论、实践和技术分析的综合学习材料。它可以帮助学习者搭建起机器学习知识的框架，并且深入理解每一个知识点。无论是对于专业学习者，还是...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值