LexC-Gen: Generating Data for Extremely Low-Resource Languages with Large Language Models

本文是LLM系列文章，针对《LexC-Gen: Generating Data for Extremely Low-Resource Languages with Large Language Models and Bilingual Lexicons》的翻译。

摘要

低资源语言中的数据稀缺问题可以通过使用双语词典从高资源语言中token的任务数据进行逐字翻译来解决。然而，双语词典往往与任务数据存在有限的词汇重叠，导致翻译覆盖率和词汇利用率较差。我们提出了词典条件数据生成（LexC-Gen），这是一种大规模生成低资源语言分类任务数据的方法。具体来说，LexC-Gen首先使用双语词典中的高资源语言单词来生成与词典兼容的任务数据，然后通过单词翻译将其翻译成具有双语词典的低资源语言。在17种资源极低的语言中，LexC-Gen生成的数据与专家翻译的黄金数据相比具有竞争力，在情感分析和主题分类任务上分别比现有的基于词典的单词翻译方法平均提高5.6和8.9分。我们表明，对双语词典的条件处理是LexC-Gen的关键组件。LexC-Gne也是实用的——它只需要一个GPU就可以大规模生成数据。它与开放访问LLM配合良好，其成本是基于GPT4的多语言数据生成成本的五分之一。

1 引言

2 相关工作

3 LexC-Gen

4 实验设置

5 结果与分析

6 讨