2025_NIPS_Many LLMs Are More Utilitarian Than One

文章核心总结

主要内容

该研究聚焦多智能体大语言模型（LLM-MAS）的集体道德推理，通过对比6种主流LLM在“单独推理”和“小组讨论”两种场景下对道德困境的判断，发现LLM小组讨论时会出现“功利主义提升”现象——更倾向于认可为多数人利益而伤害少数人的行为，且这一现象在直接伤害他人的“个人困境”中尤为显著。研究还揭示了LLM与人类产生该现象的机制差异（人类因更关注结果，LLM则因降低规范敏感度或增强公正性等），并验证了模型多样性、提示词设计等因素可调节这一效应。

创新点

1. 首次系统证实LLM-MAS存在集体道德推理的“功利主义提升”，且跨模型、跨小组规模（2人/3人）普遍存在。
2. 区分了LLM与人类产生该现象的底层机制，提出LLM的多元功利主义倾向图谱（如规范对齐优化型、公正功利型等）。
3. 发现模型多样性、提示词道德框架引导、模型能力异质性等可有效缓解甚至逆转功利主义提升，为LLM-MAS安全部署提供实用干预手段。
4. 结合道德心理学工具（CNI模型、牛津功利主义量表）量化分析LLM道德推理维度，为AI道德对齐研究提供标准化方法。

---

翻译部分（Markdown格式）

Abstra