Length Representations in Large Language Models

文章主要内容总结

1. 研究背景与目的：大型语言模型（LLMs）能在指令设置中控制输出序列长度，但内部机制尚未明确。本文旨在探究LLMs内部表征中输出序列长度信息的编码方式。
2. 核心发现：
   • 多头注意力机制（尤其是较低层的输出）在决定输出序列长度中起关键作用，且长度信息可通过特定隐藏单元的缩放进行分离式调整。
   • 缩放特定隐藏单元可控制输出长度，同时不丢失生成文本的信息量，表明长度信息与语义信息部分分离。
   • 当提示包含更具体的长度约束时（如Priming设置），部分隐藏单元活性增强，反映模型对长度属性的内部感知。
   • 微调后，控制长度的关键隐藏单元仍保持活跃，说明模型具有稳健且可适应的内部长度控制机制。
3. 实验方法：基于句子摘要任务，使用Llama、Phi-3、Qwen-2.5等模型，通过神经网络回归预测生成时间步，分析不同层、组件及提示类型对长度表征的影响，并通过缩放隐藏单元验证其对输出长度的控制作用。

文章创新点

1. 首次系统探究LLMs内部长度信息编码机制：明确多头注意力机制（尤其是第二层）是长度信息编码的关键组件，填补了LLMs长度控制内部机制研究的空白。
2. 验证长度与语义信息的部分分离性：通过缩放特定隐藏单元实现长度控制且不损失信息量，证明长度信息可与语义信息分离处理。