Instruction Following by Boosting Attention of Large Language Models

文章主要内容和创新点

主要内容

1. 研究背景：大型语言模型（LLMs）的生成控制是确保其安全可靠部署的核心挑战。现有方法包括提示工程、微调及潜在引导（latent steering），但潜在引导效果有限，常弱于简单指令提示。
2. 研究目标：解决潜在引导的局限性，通过建立标准化评估基准，提出更有效的引导技术。
3. 核心方法：提出Instruction Attention Boosting（INSTABOOST），一种潜在引导方法，通过在生成过程中调整模型的注意力机制，增强指令提示的效果。其核心是放大模型对前置指令 tokens 的注意力权重，同时保持分布归一化。
4. 实验验证：在情感生成、AI 人格引导、越狱攻击、毒性降低、真实性提升等多类任务上评估，结果显示INSTABOOST在大多数任务上表现优于传统指令提示和现有潜在引导方法，且能保持生成流畅性。
5. 关键发现：指令提示和潜在引导的效果具有任务依赖性（部分任务更适合指令提示，部分更适合潜在引导），而INSTABOOST能平衡两者优势，表现更稳定。

创新点

1. 方法创新：提出INSTABOOST，通过操控注意力机制增强对指令的关注，理论上基于“Transformer模型的上下文规则遵循可通过调整对指令的注意力控制”的研究，