用大模型辅助 HTTP 告警分析的局限

ailx10说：这篇是在2024年3月之前写的，后来又改过。前阵子试过把 HTTP 请求和响应交给大模型判断攻击有没有成功，后来模型服务收费，我又换到文心一言的千帆平台试一次。先实名认证、开通计费，再配 AK/SK、装 SDK，连账单都顺手看了一眼；把一组请求响应喂进去，模型给了一个失败判断。标题写得挺夸张，实际正文是很小的一次接口调用练习。让我想继续琢磨的是，告警研判能不能借模型帮一把；不过这篇留下的，首先还是从开通服务到拿到第一次输出的那段摸索。

---

大模型可以辅助阅读 HTTP 请求、响应和相关上下文，为安全告警生成解释或调查线索。原实验向模型提交了一组请求与响应，得到一次“攻击失败”的判断；单次示例不能说明模型在其他场景中的准确率。

响应状态不是完整证据

例如，HTTP 400 表示请求未被正常接受，但仅凭状态码不能证明服务端没有发生任何副作用。应结合应用日志、数据库变更、后续请求及目标系统上下文核查。

接入与输出

接入服务前，需要确认所用 SDK、鉴权与收费方式的当前文档，并妥善管理密钥。要求模型输出 JSON 时，还应通过标准解析器与字段校验确认其格式，不能把看似字典的文本直接当作有效 JSON。

将模型用于自动化流程之前，应建立覆盖不同攻击类型和正常请求的评测集，测量误报、漏报和不确定情况。高影响处置应结合确定性证据与人工审核，避免根据单次模型输出直接忽略告警或封禁地址。

一个400响应和一次回答，只是起步样本。真正值得继续做的，是找更多正反例，把模型的判断与可验证现象对照；有了这条反馈线，自动化才不只是把猜测换了个说法。