李宏毅机器学习笔记( 二)Basic Concept

本文探讨了机器学习中基础概念——方差(variance)和偏差(bias)。简单模型的方差通常较小,而复杂模型可能面临过拟合问题,即variance较大。理解并平衡bias和variance对于优化模型至关重要。当bias较高时,需要重新设计模型;当variance较高时,可以增加数据量或采用正则化。交叉验证是评估模型性能的有效方法,通过将数据集分为训练集和验证集来选择最佳模型。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Basic Concept基础概念

variance(方差

bias(偏见

用多个m求期望就可以得到μv

希望两者都小

模型的提升 用不同的“宇宙” 找不同的𝑓

对于不同级别的modle 做100次实验

简单的modle   Vaiance是比较小的 原因是简单的modle受到数据的影响较小 因为不会过于离散 

bias和bariance的大小变化 和模型的阶数 构成的线 综合下来就是蓝色的线 找到一个最佳的平衡点

准确辨别究竟是哪个大非常重要 如果是模型无法拟合 就是bias大 如果是可以拟合训练集拟合不了测试集 就是overfitting various大。

bias大 redesign model  

 

various大 增加data 或者  Regularization规则化;调整;合法化

所得到的model不一定拟合实际的数据 正确的做法是Cross Validation 交叉验证

将测试集变成两部分  用Validation选择modle  Train完之后在Validation 上验证

也可以重复利用数据 用avg结果来判断优劣

 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值