AUTOATTACKER: A Large Language Model Guided System to Implement Automatic Cyber-attacks

本文是LLM系列文章，针对《AUTOATTACKER: A Large Language Model Guided System to Implement Automatic Cyber-attacks》的翻译。

摘要

大型语言模型（LLM）在自然语言任务中取得了令人印象深刻的结果，安全研究人员开始在进攻和防御系统中使用它们。在网络安全领域，已经有多项利用LLM的研究工作，重点关注网络钓鱼和恶意软件生成等攻击的入侵前阶段。然而，到目前为止，对于在各种攻击技术和环境下，是否可以利用基于LLM的系统来模拟通常是人为操作的攻击的到达后阶段，或“键盘上的手”攻击，还缺乏全面的研究。
随着LLM的发展，它们可能能够自动化入侵前和入侵后的攻击阶段。这种转变可能会将组织攻击从罕见的、专家主导的事件转变为频繁的、不需要专业知识的自动化操作，并以自动化的速度和规模执行。这有可能从根本上改变全球计算机安全，并相应地造成重大经济影响，这项工作的目标是现在更好地了解这些风险，以便我们能够更好地为这些不可避免的、越来越有能力的LLM做好准备。在直接影响方面，这项研究有三个目的。首先，一个基于LLM的自动化漏洞后利用框架可以帮助分析人员快速测试并不断改进其组织的网络安全态势，以抵御以前从未见过的攻击。其次，基于LLM的渗透测试系统可以通过有限数量的人工分析师来扩展红队的有效性。最后，这项研究可以帮助防御系统和团队在野外使用新的攻击行为之前，学会先发制人地检测它们。
为此，我们提出了一个LLM引导的系统AUTOATTACKER，通过各种攻击任务、端点配置（Windows和Linux系统），在模拟的组织网络上自动进行“手动键盘”攻击，并利用Metasploit作为漏洞后攻击框架以及命令行/shell交互等其他功能。为了最好地利用LLM的功能来获得精确的攻击命令，AUTOATTACKER包含一个总结器来总结以前的交互和执行环境，一个规划器来建立攻击计划，以及一个导航器来选择最佳行动。执行的任务存储在受RAG启发的检索增强生成