The Pluralistic Moral Gap: Understanding Judgment and Value Differences between Humans and Large ...

文章主要内容总结

本文聚焦大型语言模型（LLMs）与人类道德判断的差异，通过构建真实世界道德困境数据集，系统分析了二者在道德判断分布和价值观表达上的“多元道德差距”，并提出了缩小该差距的方法。具体内容如下：

1. 数据集构建：创建了包含1618个真实世界道德困境的“道德困境数据集（MDD）”，每个困境均配有人类的二元判断（行为是否可接受）和自由文本理由，覆盖不同共识水平（从高度分歧到完全一致）。
2. LLMs与人类道德判断对齐分析：比较LLMs与人类的判断分布发现，LLMs仅在人类共识高时与人类对齐较好；当人类分歧增大（即道德模糊性增强），对齐度显著下降。
3. 道德价值观差异分析：从人类和LLMs的理由中提取出3783个价值表达，构建了包含60个道德价值观的分类法。结果显示，LLMs过度依赖狭窄的价值观子集（前10种价值观占比81.6%），而人类的价值观分布更广泛（前10种仅占35.2%），存在“多元道德差距”。
4. 改进方法：提出“动态道德 profiling（DMP）”方法，基于人类价值观的主题特异性分布引导LLMs输出，使对齐度提升64.3%，并增强了价值观多样性。

创新点

1. 数据集创新：首次构建包含真实世界道德困境及人类判断分布的基准数据集（MDD），克服了现有研究依赖人工合成困境或仅关注多数意见的局限。
2. 分析框架创新：将道德对齐