validation

最新推荐文章于 2025-06-06 17:34:13 发布

极致 for 简单

最新推荐文章于 2025-06-06 17:34:13 发布

阅读量4.3k

点赞数 2

CC 4.0 BY-SA版权

分类专栏：机器学习文章标签： validation

本文链接：https://blog.youkuaiyun.com/m0_37937932/article/details/93634664

文章探讨了模型选择的策略，包括使用Ein、Etest和validation data。提出了将数据分为训练集和验证集来平衡模型复杂度和泛化能力。讨论了validation size的重要性，并介绍了leave-one-out cross validation和v-fold cross validation的优缺点。最后强调了计算量和稳定性的问题，并指出在找到最优模型后，通常使用所有数据重新训练以获得最佳模型参数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

如何来确定最优的模型？
使用E_in(w)：以最小的E_in(w)作为标准，将导致模型复杂度过高，往往泛化能力不足！
在这里插入图片描述
使用E_test(w):但是无法收集测试数据！

折中的方案就是从用于演算法的数据割裂一部分出来，以pick 最优的模型！

如果没有validation data，我们将所有收集的数据喂到M个演算法（model）中根据error function 学到最优参数，同样使用这组数据计算出m个模型的E_in（g_m），最终pick最好的model！一旦使用了validation data，将所有数据分为用于演算法的training data和用于pick最终model的validation data！使用validation data 来pick model可以得到以下保证，此时E_out和E_val由于复杂度不大是接近的
在这里插入图片描述注意！使用越多的数据来进行训练所得到的E_out(h)也会越小！我们保留了部分的数据作为validation data ，在我们选出了最好的模型后，可以利用所有的数据重新得到关于这个模型新的参数，此