面向回归任务的数值型标签噪声过滤算法

摘 要 回归任务中的数值型标签噪声可能误导模型训练，进而弱化模型泛化能力.作为一种常用的标签噪声处理技术，噪声过滤通过去除误标记样本来降低噪声水平，但无法保证过滤后模型能够获得更好的泛化表现.一些过滤算法过于关注噪声水平，以至于大量无噪样本也被去除.尽管已有样本过滤框架能够平衡样本去除量和噪声水平，但其形式过于复杂不利于直观理解和实际应用.根据无噪回归任务中的学习理论提出了面向数值型标签噪声数据的泛化误差界，从而明确了影响模型泛化能力的关键数据因素(数据量和噪声水平).在此基础上提出一种可解释的噪声过滤框架，其目标是以较小的样本去除代价最大程度地降低噪声水平.针对噪声估计问题，从理论上分析了噪声与覆盖区间关键指标(中心和半径)之间的变化趋势，进而构建了相对噪声估计方法.此方法与所提框架结合形成了相对噪声过滤(relative noise filtering, RNF)算法.在标准数据集和年龄估计数据上均验证了算法的有效性.实验结果表明：该算法能够适应各类噪声数据，显著提升模型泛化能力.在年龄估计数据上RNF算法检测出一些标签噪声数据，有效提升了数据质量和模型预测性能.

关键词 数值型标签噪声；回归；噪声过滤；泛化误差界；相对噪声

数据质量是决定机器学习模型可靠性的关键因素之一，尤其在高风险智能应用(如癌症检测、贷款分配等)中数据质量至关重要.然而数据质量在机器学习中起到的作用正在被低估，“每个人都想