Entropy-Based Measurement of Value Drift and Alignment Work in Large Language Models

文章核心总结与翻译

一、主要内容

本文围绕大型语言模型（LLMs）的价值漂移与对齐问题，基于“智能第二定律”（未受约束的AI系统伦理熵会自发增加，需通过对齐工作抵消），构建了可操作的伦理熵测量框架，核心内容如下：

1. 核心问题：现有AI安全评估依赖静态基准，无法量化价值漂移（如谄媚倾向、越狱攻击引发的有害行为）、对齐衰减等动态风险，亟需动态度量指标。
2. 关键方法：
   • 定义五分类行为 taxonomy（有益且对齐、有益但错位、合理拒绝、不合理拒绝、无关回应），覆盖LLM核心行为模式；
   • 训练T5-base分类器（验证准确率94.2%，与人类标注Pearson相关系数0.91），从模型对话文本中估算伦理熵$S(t$