多语言大模型自然性评估与提升方法

多语言大语言模型是否带有英语口音？评估与提升多语言LLM的自然性

当前的大语言模型（LLMs）主要以英语为主要设计语言，即使是少数多语言模型也倾向于表现出强烈的以英语为中心的偏差。就像学习第二语言时可能产生生硬表达的学习者一样，LLMs在非英语语言中经常生成不自然的输出，反映出词汇和语法上的英语中心模式。尽管这个问题很重要，但多语言LLM输出的自然性受到的关注有限。

本文通过引入新颖的自动语料级指标来填补这一空白，以评估多语言背景下LLM输出的词汇和句法自然性。使用新的指标，在法语和中文的精选基准上评估了最先进的LLMs，揭示了倾向于受英语影响模式的现象。

为了缓解这个问题，提出了一种简单有效的对齐方法，以提高LLM在目标语言和领域中的自然性，在不通用途基准性能的情况下实现了自然性的一致改进。这项工作强调了为新一波多语言LLMs开发多语言指标、资源和方法的重要性。

评论：ACL 2025
学科：计算与语言（cs.CL）；人工智能（cs.AI）
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
公众号二维码