【NLP】工业界常用的NLP数据增强方法都在这了,你都会了吗

本文介绍了EDA(EasyDataAugmentation)在文本分类中的应用,包括同义词替换、随机插入、随机交换和随机删除等数据增强方法。同时讨论了参数选择的重要性以及EDA的局限性,如可能影响语法结构和核心词的删除。另外,文中还提及了回译作为另一种文本处理方式以及在使用BERT模型时的句子拼接策略。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

目录

1 EDA

1.1 具体方法

1.2 EDA 参数选择

1.3 EDA 的缺点

2 回译

3 拼接


1 EDA

EDA 使用传统的文本数据增强方法,可以在文本数据集小的情况下提升文本分类的性能。 出自论文《EDA: Easy Data Augmentation Techniques for Boosting Performance onText Classification Tasks》

1.1 具体方法

EDA 主要有三个参数:n (表示一个句子修改多少个单词),α (修改句子中多少比例的单词),n_aug (一个句子生成多少个新句子)。

论文中把 n 设置为 α×L,L 为句子长度,即句子越长可以修改的单词越多。

EDA 主要采用了四种操作进行数据增强:

(1) 同义词替换(Synonyms Replace SR):随机从句子中抽取 n 个词 (抽取时不包括停用词),然后随机找出抽取这些词的同义词,用同义词将原词替换。例如将句子 "我比较喜欢猫" 替换成 "我有点喜好猫"。通过同义词替换后句子大概率还是会有相同的标签的。

(2) 随机插入(Randomly Insert RI):随机从句子中抽取 1 个词 (抽取时不包括停用词),然后随机选择一个该词的同义词,插入原来句子中的随机位置,重复这一过程 n 次。例如将句子 "我比较喜欢猫" 改为 "我比较喜欢猫有点"。

(3) 随机交换(Randomly Swap 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI量化小木屋

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值