58、基于引导式BERT特征编码的对抗主动学习与多增强对比学习

基于引导式BERT特征编码的对抗主动学习与多增强对比学习

在自然语言处理（NLP）和图神经网络（GNN）领域，数据标注和模型性能优化一直是重要的研究方向。本文将介绍两种相关的技术：基于引导式BERT特征编码的对抗主动学习（B-ASAL）和多增强对比学习。

多增强对比学习在图神经网络中的应用

在图神经网络中，多增强对比学习旨在解决随机选择增强方法时，强制不同图视图相似所产生的不一致性问题。研究发现，优化一对增强可能会损害其他增强对，从而扭曲训练过程。

为了解决这个问题，提出了一种名为PGCL的自监督学习框架。通过综合实验表明，PGCL能够提高下游收敛速度，并在各种数据集上取得优于现有技术的性能。

以下是不同增强数量在几个数据集上的效果对比：
| 数据集 | 2 (GraphCL) | 3 | 4 | 5 |
| ---- | ---- | ---- | ---- | ---- |
| MUTAG | 86.80 | 90.41 | 91.26 | 90.76 |
| NCI1 | 77.84 | 78.97 | 79.47 | 79.50 |
| PROTEINS | 74.39 | 75.65 | 76.02 | 75.61 |

从表格中可以看出，随着增强数量的增加，模型在部分数据集上的性能有所提升，但并非单调递增。这表明在选择增强数量时，需要根据具体的数据集和任务进行权衡。

基于引导式BERT特征编码的对抗主动学习

在NLP领域，BERT-based模型显著提高了许多文本数据应用的性能，但文本数据标注复杂且耗时。现有的主动学习方法在NLP任务中的