SLoW: Select Low-frequency Words! Automatic Dictionary Selection for Translation on Large Languag...

文章主要内容和创新点

主要内容

本文聚焦于大型语言模型（LLMs）在多语言翻译中的局限性，尤其是对低资源语言的翻译性能不足的问题。现有基于字典的提示方法虽能增强翻译性能，但通常会贪婪地使用所有可用字典，导致token消耗过高且可能引入冗余信息干扰模型。为此，文章提出了自动字典选择（Automatic Dictionary Selection, ADS） 这一新任务，目标是通过自动选择字典子集，在平衡token消耗与翻译性能的同时最大化翻译效果。

为解决ADS任务，文章提出了SLoW（Select Low-frequency Words!） 方法，即选择包含低频词的字典。原因在于：低频词在LLMs的训练数据中出现频率低，模型对其理解较差，加入这类字典能有效提升模型对低频词的翻译能力。实验在FLORES数据集的100种语言上展开，结果显示：SLoW不仅超越了多种强基线方法（如基于名词、动词等词性的字典选择），还能显著节省token使用，甚至在部分语言上超越了使用全量字典的翻译性能。

创新点

1. 提出新任务ADS：首次明确将“自动选择字典子集以平衡翻译性能与token消耗”作为研究任务，填补了现有基于字典的翻译方法中缺乏系统选择策略的空白。
2. 提出SLoW方法：通过选择低频词字典增强翻译性能，无需访问LLMs的训练数据（仅用公开资源估计词频），且无需对LLMs进行额外调优，具有实用性和灵活性。
3. 实验