文章解读《Project Naptime: Evaluating Offensive Security Capabilities of Large Language Models》

1. 引入

Google的Project Zero团队，开发了一个叫做Naptime的项目，用于做漏洞研究。Naptime的意思，是让人打盹时，该项目也能帮助人类完成一些工作。

下面对这个项目（参考1）以及文章的重点做一些个人的理解和解读。

2. 什么是对漏挖有帮助的AI

从原文（参考1）的Proposed Principles部分，可以看到：

Google认为，目前的很多LLM辅助漏洞挖掘的文献，都不符合他们的经验（与他们的经验背道而驰）。也就是说，这样的文献/方法难以应用在真实场景中。
同时，他们也认为，从大方向来说，只有做到如下几点的方法，才能被用于实践中：

1. 需要给LLM更多一些推理时间

   • 鼓励LLM输出推理过程，输出更多的中间结果，然后才做决策，这样能得到更高的准确率（相对于直接给结论来说）。
   • 参考2说明了：当被要求“一步一步”执行操作时，显示中间计算的结果时，LLM能输出更准确的结论。
   • 参考3是讲COT：生成思维链，一系列中间推理步骤，能显著提高大型语言模型执行复杂推理的能力。

2. 交互式的环境

   • 与编程环境交互是必须的，在安全研究中这个也很重要
   • 参考4展示了交互式代码生成的好处，并证明InterCode可以作为提高代码理解和生成能力的具有挑战性的基准。这里所谓“交互式”是模拟了人写代