27、基于不确定性和密度的正样本与未标记数据主动学习方法

基于不确定性和密度的正样本与未标记数据主动学习方法

1. 引言

随着数字媒体技术的不断发展，我们能够获取海量的数据，这对计算机的计算和存储性能提出了更高要求。为了充分研究和利用这些数据，机器学习在众多领域得到了广泛应用。然而，传统的监督学习算法需要大量的标签来学习数据的内在联系，而数据标注工作必须手动完成，既耗时又昂贵。因此，现实中的数据集往往包含大量未标记数据和少量已标注数据。利用未标记数据提高分类准确性并减少手动标注工作量受到了广泛关注，其中主动学习和半监督学习是两种具有代表性的方法。

主动学习通过从未标记数据中选择最具信息性的样本，然后进行手动标注，将这些样本添加到训练集中，有助于提高分类准确性，其核心在于发现最具信息性的样本。半监督学习则有效利用少量已标记数据和大量未标记数据。正样本与未标记学习（PU Learning）是一种半监督学习算法，适用于只有正样本和未标记样本的情况。目前虽然有很多关于主动学习的研究，但这些研究的数据集通常包含所有分类标签，而在现实中，有很多数据仅标注了正样本，如信息检索、文本分类、异常监测等，将主动学习与PU学习相结合的研究较少。

本文主要研究正样本与未标记数据的主动学习，具体贡献如下：
- 提出了一种基于不确定性和密度的新型样本选择策略Min - Distance - Density（MDD），用于寻找最具信息性的样本，并提出了基于MDD的简单主动学习方法（MDD - SAL）。
- 提出了基于MDD的半监督主动学习方法（MDD - SSAL），以提高正样本与未标记数据的分类准确性，并减少手动标注样本的数量。实验结果表明，在手动标注相同比例的样本时，本文提出的方法比现有方法更具竞争力。

2. 相关工作