对训练集,测试集,和验证集的理解
在网上看了一些资料,做了一些题目之后发现,很多人似乎对这些集合的称呼不太统一。参考周志华老师的《机器学习》,简单说一下自己对这些名词的理解。
训练集
训练过程使用的数据称为“训练数据”(training data),其中每个样本称为一个“训练样本”(training sample),训练样本的集合称为“训练集”(training set)。
测试集
“测试集”(testing set)用来测试学习器对新样本的判别能力,然后以测试集上的“测试误差”(testing error)作为泛化误差的近似。
验证集
我们通常把学得模型在实际使用中遇到的数据称谓测试数据,为例加以区分,模型评估与选择中用于评估测试的数据集称谓“验证集”(validation set)。
总结
综上所述,训练集,测试集和验证集均属于已知的数据集;与学得的模型在实际使用中遇到的数据没什么关系。 所以我们在处理已知的数据集时,通常需要面临如何将有限的数据集划分成训练集、测试集和验证集三部分的问题。