- 博客(4)
- 收藏
- 关注
原创 ESL 读书笔记:Chap 6 Kernel Smoothing Methods
Chap 6 Kernel Smoothing Methods在这一章首先介绍一种回归方法,通过在X不同位置x0x_0x0的点拟合简单模型fx0f_{x_0}fx0,从而达到在所有取值空间ℜp\Re^pℜp光滑的目的。其中需要使用到smooth的方法,使用kernel,基于两点之间的距离表示xix_ixi对x0x_0x0的影响权重,是一种memory-based的方法。很多时候Kernel还和一个参数λ\lambdaλ有关,用于表示neighborhood的宽度。这样的思路对于核密度估计以及分类
2023-08-17 11:30:06
264
1
原创 ESL读书笔记:Chap 4 Linear Methods for Classification
Linear Methods for Classification本质上就是对每一个类别k,使用线性判别函数δkx建模,而后将x分为函数值最大的那一类。本章主要讨论两种线性方法,一种是线性判别分析,一种是逻辑回归。二者分别针对XY联合概率,Y∣X后验概率,使用线性函数(或线性函数的变换)进行建模,从而得到线性的decision boundaries。
2023-08-14 15:46:12
89
原创 ESL读书笔记:Chap 3 Linear Methods for Regression
Chap 3 Linear Methods for RegressionIntroduction线性回归是假设E(Y∣X)E(Y|X)E(Y∣X)是关于X的线性组合线性模型的可解释性强,在数据量少、信噪比低或稀疏的数据上往往可以得到比非线性模型更好的结果通过对X进行变换,很容易达到非线性拟合的效果,这种衍生方法有时也被称作basis-function methods(基函数方法)Linear Regression Models and Least Squres从多个角度理解OLSE在不加
2023-08-10 16:18:07
117
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人