《自然语言处理实战入门》---- 文本样本扩展小技巧：使用回译技术进行样本增强

---

NLP 领域样本增强技术都有哪些

1. 同义词替换（SR: Synonyms Replace）：不考虑stopwords，在句子中随机抽取n个词，然后从同义词词典中（wordnet）随机抽取同义词，并进行替换。

2. 随机插入(RI: Randomly Insert)：不考虑stopwords，随机抽取一个词，然后在该词的同义词集合中随机选择一个，插入原句子中的随机位置。该过程可以重复n次。

3. 随机交换(RS: Randomly Swap)：句子中，随机选择两个词，位置交换。该过程可以重复n次。

4. 随机删除(RD: Randomly Delete)：句子中的每个词，以概率p随机删除。

5. 基于词向量的替换

基于同义词的替换由于一词多义问题的存在，可能会使替换后的文档语义发生改变，基于词embeddings的替换可在一定程度上避免上述问题。假如已经获得词向量（Word2Vec, GloVe, FastText, Sent2Vec，BERT等），在词向量空间，选择与该词在空间上相近的词作为其同义词进行词向量的替换。

优点：使用词向量的方式从语义空间来进行选择候选词，考虑了实际的语义特征，替换比较准确

缺点：这种方法在选择上下文无关词向量预训练方式下获得的词向量时，仍然具有一定的偏差，比如Word2Vec, GloVe等（仍旧无法解决一词多义问题），考虑使用ELMO、BERT等预训练模型产生的上下文相关的词向量