台湾国立大学机器学习基石.听课笔记（第十六讲二）：Three Learning Principle

最新推荐文章于 2025-08-11 21:57:13 发布
原创 最新推荐文章于 2025-08-11 21:57:13 发布 · 858 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#台湾国立大学机器学习基石 #听课笔记 #机器学习

台湾国立大学机器学习基石.听课笔记（第十六讲二）：
Three Learning Principle

机器学习基石16讲的总结



1，机器学习的相关领域



2，机器学习的理论基础



3，机器学习的线性模型



4，机器学习的工具



5，机器学习的锦囊妙计



6，我们将会学到



核函数&径向基核函数 (Radial Basis Function)--RBF
Paul_Huang的专栏
05-26 11万+
1.核函数 1.1核函数的由来 -----------还记得为何要选用核函数么？----------- 对于这个问题，在Jasper's Java Jacal博客《SVM入门（七）为何需要核函数》中做了很详细的阐述，另外博主对于SVM德入门学习也是做了很详细的阐述，有兴趣的可以去学习，写得相当好，特意转载了过来，留念一下。 如果提供的样本线性不可分，结果很简单，线性分类器的求解程序会无
监督学习，无监督学习，半监督学习
Paul_Huang的专栏
11-09 8253
监督学习，无监督学习，半监督学习 监督学习(Supervised learning)、非监督学习(Unsupervised learning)、半监督学习(Semi-supervised learning)，怎么区分呢？这个问题可以回答得很简单：是否有监督（supervised），就看输入数据是否有标签（label）。输入数据有标签，则为有监督学习，没标签则为无监督学习。 一、
台湾国立大学机器学习技法.听课笔记（第七讲）:Blending(混合) and Bagging（自举）
Paul_Huang的专栏
09-22 2759
台湾国立大学机器学习技法.听课笔记（第七讲） :Blending(混合) and Bagging（自举） 一，Motivation of Aggregation(融合模型的动机) 1，提出Aggregation 假设有T个朋友告诉你将来几天股市的假设，那我们到底选哪一个人的模型好呢？ 我们有这么四种选择方法： 所以我们得到的混合模型(AggregationM
台湾国立大学机器学习技法.听课笔记（第六讲）:Support Vector Regression
Paul_Huang的专栏
09-20 2447
台湾国立大学机器学习技法.听课笔记（第六讲） :Support Vector Regression 一，Kernel Ridge Regression 1.提出线性岭回归问题 我们上一讲学习了解决Two-level的问题时，我们可以用两种方法解决： 我们上一讲是的Representer Theorem的基本形式是： 那么ridge regre
台湾国立大学机器学习技术.听课笔记（第一讲）：Support Vector Machine
Paul_Huang的专栏
09-02 2338
台湾国立大学机器学习技术.听课笔记（第一讲） ：Support Vector Machine 一，course introducation        我们机器学习技术将要学习的主要是围绕特征转换来讲，把维数降低，我们说他是支撑向量机(SVM)；找出比较具有预测性的特征，把他们混合起来，我们把它称为逐步增强法（Adaptive Boosting）；找出数据中隐含的信息，做进一步的处理，
台湾国立大学机器学习基石.听课笔记（第六讲）： 一般化（举一反三）的理论
Paul_Huang的专栏
08-01 2157
Lecture 6: Theory of Generalization（一般化（举一反三）的理论） 一、Restriction of Break Point（切断点的限制） 当break point k=2,N=3时，m_H(N)出现的情况。 x_1、x_2和x_3两两之间都得满足k=2的条件，so we have a idea:
台湾国立大学机器学习技法.听课笔记（第四讲） :Soft-Margin Support Vector Machine
Paul_Huang的专栏
09-15 1802
台湾国立大学机器学习技法.听课笔记（第四讲）  :Kernel Support Vector Machine 一,Motivation and Primal Problems 我们从第一讲到第三讲，都是说Hard-Margin SVM，要求全部的点都要进行正确划分，太完美了；也许有些点是noise，但是还是Hard-MarginSVM。   我们现在就想能不能
台湾国立大学机器学习基石.听课笔记（第四讲）： 机器学习的可行性
Paul_Huang的专栏
07-27 1775
提纲 机器学习的可行性 & 訓練與測試内容如: 1. 引入计算橙球概率问题 2. 通过用Hoeffding's inequality解决上面的问题，并得出PAC的概念，证明采样数据学习到的h的错误率可以和全局一致是PAC的 3. 将得到的理论应用到机器学习，证明实际机器是可以学习 4. 二元分类的 Effective Number 5. 一般备选函数的 Ef
台湾国立大学机器学习技法.听课笔记（第五讲） :Kernel Logistic Regression
Paul_Huang的专栏
09-17 1358
台湾国立大学机器学习技法.听课笔记（第五讲）  :Kernel Logistic Regression 一，Soft-Margin SVM as Regularized Model 我们开始本lecture前，先对以前的知识进行回顾： 其中，ξ_n是松弛变量，它的特点是： 所以我们可以把Soft-Margin SVM写成： 这个形式是
吴恩达机器学习笔记整理（Week1-Week5）
Paul_Huang的专栏
05-02 1255
吴恩达机器学习笔记整理1. Week11.1 什么是机器学习(What is Machine Learning)1.2机器学习算法分类1.2.1 监督学习1.2.2 无监督学习1.3 单变量线性回归(Linear Regression with One Variable)1. 3.1 问题解决模型1.3.2. 代价函数(Cost Function)1.4 梯度下降(Gradient Descent...
台湾国立大学机器学习技术.听课笔记（第二讲） :Dual Support Vector Machine
Paul_Huang的专栏
09-08 1201
台湾国立大学机器学习技术.听课笔记（第二讲） :Dual Support Vector Machine 一，Motivate of Dual SVM(对偶SVM的动机) 上一讲我们知道要想假设尽可能的少，边界尽可能的精细，我们可以采用non-linear SVM。即Large-MarginHyperplane + numerous feature transform:
台湾国立大学机器学习基石.听课笔记（第五讲）： 训练和测试有什么不同
Paul_Huang的专栏
07-31 1196
Lecture 5: Training versus Testing 一、Recap and Preview（复习和预览） 基于统计的学习流程： ---》如果备选函数集的大小|H|=M，M有限，训练数据量N足够大，则对于学习算法A选择的任意备选函数h，都有  E-out(h)≈E-in(h)---》如果A找到了一个备选函数，使得E-in(h)≈0，则有很大概率E-out(h)≈0
台湾国立大学机器学习基石.听课笔记（第十讲）：Logistic Regression
Paul_Huang的专栏
08-17 1068
台湾国立大学机器学习基石.听课笔记（第十讲） ：Logistic Regression 上一讲是关于线性回归，重点是求解w 的解析方案(通过pseudo-inverse 求解w)。 这一讲关注另一个很重要的方法，逻辑斯蒂回归(logistic regression)。 1、逻辑斯蒂回归问题 有一组病人的数据，我们需要预测他们在一段时间后患上心脏病的“可能性”，就是我们要考虑的问题
台湾国立大学机器学习基石.听课笔记（第七讲）：The VC Dimension
Paul_Huang的专栏
08-10 1041
听课笔记（第七讲）： VC维理论 (台大机器学习） 上一讲的最后得到了VC bound，这一讲对VC维理论进行理解，这是机器学习（最）重要的理论基础。 一、VC Dimension的定义 我们先对前面得到的生长函数和VC bound 做一点小的修改。     1，VC 维的定义
台湾国立大学机器学习基石.听课笔记（第十四讲）：Regularization
Paul_Huang的专栏
08-25 1028
台湾国立大学机器学习基石.听课笔记（第十四讲）：Regularization 1，Regularization Hypothesis set 我们有上一讲的假设集合可知： 我们发现发生overfitting的一个重要原因可能是假设过于复杂了，我们希望在假设上做出让步，用稍简单的模型来学习，避免overfitting。例如，原来的假设空间是10次曲线，很容易对数据过拟合；我们希望它变得
机器学习-逻辑回归(Logistic Regression)
iamfromhuoxing的博客
08-08 480
ggg代表一个常用的逻辑函数（logistic function）为SSS形函数（Sigmoid function），公式为：gz11e−zgz1e−z1​hx11e−wTxhx1e−wTx1​。
机器学习——DBSCAN
2501_91237346的博客
08-10 1111
本文介绍了DBSCAN密度聚类算法的原理、参数调优及实现过程。DBSCAN通过定义核心对象、E邻域和密度可达等概念，能够发现任意形状的聚类并识别噪声点。文中详细说明了Python中sklearn.cluster.DBSCAN的参数设置，包括eps邻域半径、min_samples最小样本数等关键参数的影响。同时提供了完整的代码实现，包括数据预处理、DBSCAN模型训练、轮廓系数评估等步骤，并对比了KMeans与DBSCAN在真实数据集上的表现。最后通过标签对齐方法解决了聚类标签与真实标签的映射问题，采用分类指
机器学习TF-IDF算法详解
最新发布
2201_75607087的博客
08-11 867
TF-IDF是一种统计方法，用于评估一个词在文档集合（语料库）中某个文档里的重要程度。词频 (Term Frequency, TF)：一个词在文档中出现的次数越多，它对这个文档的重要性可能就越高。逆文档频率 (Inverse Document Frequency, IDF)：一个词在所有文档中出现的文档数越少（即越稀有），它区分文档的能力就越强，重要性就越高。简单来说，TF-IDF值高的词，是那些在当前文档中频繁出现，但在整个语料库的其他文档中很少出现的词。这些词往往最能代表该文档的独特主题。
自适应反步控制：理论与设计
courage_sir的博客
08-08 556
本文提出了一种自适应反步控制方法，用于处理具有未知参数的二阶非线性系统。该方法通过设计虚拟控制律和参数更新率，确保闭环系统稳定性和状态跟踪性能。首先定义跟踪误差并构建Lyapunov函数，推导出虚拟控制律和参数估计更新律；接着设计实际控制输入消除未知参数影响，并证明系统全局渐近稳定性。理论分析表明，该方法能有效处理参数不确定性，实现期望轨迹的渐进跟踪，同时保证所有状态有界。
吴恩达机器学习笔记：斯坦福大学2014年机器学习课程学习笔记
吴恩达机器学习个人笔记完整版是根据斯坦福大学2014年机器学习课程视频所做的笔记，主要记录吴恩达老师上课时的重点。该笔记对机器学习的基本概念、模型、算法和应用进行了详细的介绍和解释。 从目录中可以看到，该...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值