The Language Gap in LLM Safety Research (arXiv:2505.24119)

本文系统分析2020–2024年ACL系列会议近300篇LLM安全论文,揭示该领域严重英语中心化现象:非英语语言研究稀缺、多语言评估缺乏深度、语言覆盖记录不规范。研究首次量化语言差距并呈扩大趋势,提出三大方向:基于文化的评估基准、多语言安全训练数据构建、跨语言安全泛化机制。强调文化敏感性对AI安全对齐的关键作用。

### 文章主要内容
本文系统分析了2020-2024年ACL系列会议及研讨会中近300篇LLM安全研究论文,揭示了该领域以英语为中心的现状,指出即使是高资源非英语语言也未得到足够关注,且非英语语言研究多作为多语言评估的一部分,缺乏针对性和深度。同时,英语安全研究普遍存在语言覆盖范围记录不完整的问题。针对这些问题,文章提出了三个未来研究方向:开发基于文化的评估基准、策划多样化的多语言安全训练数据,以及深化对跨语言安全泛化的理解。

### 文章创新点
1. **量化语言差距**:通过大规模文献分析,首次系统性量化了LLM安全研究中英语与非英语语言的失衡程度,并发现这一差距随时间推移逐渐扩大。
2. **提出研究框架**:针对多语言安全研究不足的问题,提出了涵盖评估、数据生成和跨语言泛化的三维研究框架,为后续研究提供了明确方向。
3. **强调文化特异性**:指出语言差异不仅体现在词汇和语法上,还涉及文化内涵、社会规范等,呼吁在安全研究中纳入文化敏感性考量。

### 摘要(Abstract)
本文全面分析了LLM安全研究的语言多样性,强调了该领域以英语为中心的本质。通过对2020-2024年主要NLP会议(∗ACL)及研讨会中近300篇公开论文的系统回顾,我们发现LLM安全研究中存在显著且日益扩大的语言差距,即使是高资源非英语语言也仅受到极少关注。我们进一步观察到,非英语语言很少作为独立语言被研究,且英语安全研究普遍存在语言记录不规范的问题。为推动未来多语言安全研究,我们基于调查结果提出了若干建议,并针对安全评估、训练数据生成和跨语言安全泛化提出了三个具体的未来研究方向。基于我们的调查和提出的方向,该领域可以为全球不同人群开发更强大、更具包容性的AI安全实践。

### 引言(Introducti

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值