Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning

本文是LLM系列文章，针对《Unveiling the Misuse Potential of Base Large Language Models via
In Context Learning》的翻译。

摘要

大型语言模型（LLMs）的开源加速了应用程序开发、创新和科学进步。这包括基础模型和对齐模型，基础模型是在广泛的数据集上预训练的，没有对齐，对齐模型是专门为符合道德标准和人类价值观而设计的。与普遍的假设相反，即基础LLM限制后的固有指示可以防止滥用，我们的调查揭示了这一信念中的一个关键疏忽。通过部署精心设计的演示，我们的研究表明，基础LLM可以有效地解释和执行恶意指令。为了系统地评估这些风险，我们引入了一套新的风险评估指标。实证结果表明，基础LLM的输出可以表现出与针对恶意目的进行微调的模型相当的风险水平。这种漏洞既不需要专业知识也不需要训练，几乎任何人都可以操纵，这突显了巨大的风险和立即关注基础LLM安全协议的迫切需要。

1 引言

2 背景

3 方法

4 实验

5 讨论

6 相关工作

7 结论

我们的研究强调了开源基础LLM中固有的被忽视的安全漏洞。我们提供了一种新颖的方法，利用情境学习演示来促使这些模型有效地生成有害内容。通过引入一个全面的指标框架来评估多个