How Quantization Shapes Bias in Large Language Models

论文《How Quantization Shapes Bias in Large Language Models》总结与翻译

一、文章主要内容

该研究围绕量化技术对大型语言模型（LLMs）社会偏见的影响展开，通过多维度、多场景的实验，系统分析了权重与激活量化策略在不同偏见类型、人口统计群体及模型架构下的作用。

1. 研究背景与核心问题

量化作为主流模型压缩技术，虽在效率提升上效果显著，但此前对其在社会维度（刻板印象、公平性、毒性、情感倾向）的影响研究尚不全面。文章聚焦三大核心问题：

• RQ1：量化及特定量化策略如何影响各类偏见（信念层的刻板印象、决策层的公平性、语言层的毒性与情感）？
• RQ2：量化对不同人口统计类别（性别、种族、宗教）及子群体的偏见影响是否存在差异？
• RQ3：量化对不同架构（LLaMA系、Qwen系）及推理能力（推理型、非推理型）模型的偏见影响是否一致？

2. 实验设计

（1）量化策略与模型

• 量化方法：涵盖权重量化（GPTQ、AWQ）与权重-激活联合量化（SmoothQuant，SQ），测试不同比特位配置（如W3、W4、W8权重量