迁移学习:领域自适应与少样本学习
1. 领域自适应在情感分类和语音识别中的应用
1.1 情感分类中的领域自适应
在情感分类领域,不同学者提出了多种有效的领域自适应方法:
- 双向转移深度神经网络 :Zhou 等人使用一种新颖的双向转移深度神经网络,将源示例转移到目标域,反之亦然,在情感分类中取得了接近最先进水平的结果。
- 关键词映射与对抗训练 :Zhang 等人利用关键词在源域和目标域之间的映射,并将其应用于对抗训练,用于分类任务中的领域自适应。
- 枢轴特征与自编码器 :Ziser 和 Reichart 展示了枢轴特征(源域和目标域中都存在的共同特征)与自编码器如何学习对情感分类领域自适应非常有效的表示。他们还进一步将研究扩展到基于枢轴的语言模型,以结构感知的方式应用于各种分类和序列到序列任务,以提高结果。
- 多方法结合 :Yu 和 Ziang 结合了结构对应学习、基于枢轴的特征和联合任务学习的思想,实现了情感分类中的有效领域自适应。
1.2 语音识别中的领域自适应
1.2.1 基于深度神经网络和质量估计的方法
Falavigna 等人展示了如何使用深度神经网络和自动质量估计(QE)进行领域自适应。他们采用两步过程:
1. 使用手动标记的转录本评估不同质量数据的字错误率(WER)。
2. 根据 QE 组件的 WER 分数对未见数据进行自适应调整,显著提高了性能。
超级会员免费看
订阅专栏 解锁全文
589

被折叠的 条评论
为什么被折叠?



