正则化、交叉验证及泛化能力

Aurora_DM

于 2018-01-23 17:01:40 发布

阅读量1.6k

点赞数

CC 4.0 BY-SA版权

分类专栏：机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/Aurora_DM/article/details/79141942

本文介绍了正则化、交叉验证及其在提升模型泛化能力中的作用。正则化通过添加惩罚项平衡经验风险与模型复杂度，常见形式为经验风险加正则化项。交叉验证解决数据不足问题，包括简单交叉验证和S折交叉验证。泛化能力是衡量模型对未知数据预测能力的关键，泛化误差上界与样本容量和函数空间有关。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、正则化
1、模型选择典型的方式就是正则化。正则化就是结构风险最小化策略的实现，就是在经验风险项中添加一个郑泽华想或者叫做惩罚项。
正则化项与模型的关系一般是模型复杂度越高，正则化项的值就会越大。
正则化项的作用就是平衡经验风险较小与模型复杂度较小。最好的结果就是经验风险和模型复杂度同时较小。
正则化的一般形式为：
min∑Ni=11NL(<

最低0.47元/天解锁文章

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。