Can Small-Scale Data Poisoning Exacerbate Dialect-Linked Biases in Large Language Models?

文章主要内容总结

本文研究了小规模数据投毒是否会加剧大型语言模型（LLMs）中与方言相关的偏见，重点对比了非洲裔美国白话英语（AAVE）和标准美国英语（SAE）的差异。研究使用小尺度和中尺度的LLaMA模型，发现即使暴露于极少量的投毒数据，模型对AAVE输入的毒性输出也会显著增加，而SAE输入的毒性输出相对不受影响；且模型规模越大，这种放大效应越明显。此外，研究使用GPT-4o作为公平审计工具，识别出与AAVE输入相关的有害刻板印象模式（如攻击性、犯罪倾向、智力低下等）。研究还指出，传统毒性检测工具（如Detoxify）存在局限性——即使表面毒性分数较低，模型仍可能传递深层的社会偏见。最终结论强调，需加强方言感知评估、针对性去偏干预和负责任的训练协议，以缓解此类风险。

文章创新点

1. 提出基于语言风格的隐蔽投毒攻击：以AAVE这种方言作为潜在触发因素（而非明显的触发词或罕见 token），设计了一种在指令微调阶段注入有害关联的投毒策略，揭示了模型对纯风格变体触发的偏见放大漏洞。
2. 揭示模型规模与投毒敏感性的关联：发现更大规模的模型对小规模投毒更敏感，偏见放大效应更显著，为模型安全设计提供了规模相关的参考。
3. 暴露毒性检测工具的局限性：指出传统毒性检测工具（如Detoxify）仅关注表面词汇攻击性，无法捕捉深层的刻板印象偏见，强调需结合LLM（如GPT-4o）进行社会偏见审计。
4. 聚焦方言相关偏见的社会影响：首次系统研究方言（AAVE）作为投毒触发因素对模型偏