Many LLMs Are More Utilitarian Than One

文章主要内容总结

本文研究了大型语言模型（LLMs）在多智能体系统（LLM-MAS）中的集体道德判断机制，重点探讨群体 deliberation 是否会像人类群体一样出现“功利主义增强”（utilitarian boost）现象——即更倾向于认可为最大化多数人利益而违反道德规范的行为。

研究设计了两组实验：单个LLM独立判断（Solo条件）和多个LLM通过多轮讨论达成共识（Group条件，成对或三人组），测试了6个主流模型（包括GPT-4.1、Llama3.3等）在经典道德困境中的表现。结果显示：

1. 所有模型在群体中比单独时更认可违反道德规范的功利主义行为（如为救多人而直接伤害一人），即存在“功利主义增强”，与人类群体表现相似；
2. 但机制与人类不同：人类群体的功利主义增强源于对决策结果的敏感性提升，而LLM群体要么是对道德规范的敏感性降低，要么是公正性增强；
3. 不同模型的机制存在差异，例如QwQ更倾向于效用最大化，GPT-4.1仅在违反规范能带来高收益时才更功利，Llama3.3则更关注结果优化。

研究揭示了LLM群体表面行为与人类相似但底层驱动不同，对AI对齐、多智能体设计和人工道德推理具有重要启示。

文章创新点

1. 首次发现LLM多智能体系统的“功利主义增强”现象：证明多个LLM协作时，其道德判断会系统性地向功利主义倾斜，且这一现象在6个主流模型中普遍存在，并非特定训练数据或范式导致。
2. 揭示LLM群体与人类群体的机制差异：通过CNI问卷等工具，