Network_Engineer的博客

LogInject构建了首个可复现的评估框架，针对大语言模型在日志分析中的提示注入漏洞，涵盖活动隐藏、假阳性生成、信息外泄与输出劫持四类攻击目标。基于12,847条真实日志的基准数据集，对GPT-4o、Claude 3.5 Sonnet和Llama-3-70B-Instruct进行双场景测试（批量摘要与告警分诊），采用“自动+人工”混合评判机制，确保评估客观性。实验表明，尽管安全对齐模型（如Claude）降低攻击成功率13个百分点，但根本性缺陷仍存。防御层面，输入过滤效果有限，提示词加固（Spotlight

本文提出“上下文污染”攻击，利用可写日志字段将隐蔽指令注入LLM分析系统，通过被动、异步方式在模型上下文中执行恶意行为。攻击者无需认证，仅需生成合法日志即可触发。基于Transformer的注意力机制使模型无法区分可信指令与恶意数据，导致活动隐藏、误报生成、信息窃取和输出劫持等威胁。攻击分为原子注入、上下文拼接与混淆规避三类，可绕过传统过滤机制，揭示了日志分析中语义层面的安全盲区。

针对上述问题,本文提出一种基于改进YOLOv8n[19]的航拍轻量化小目标检测算法———PECS-YOLO。

我们的研究引入了一种创新的方法，利用YOLO框架来改进果树病害的检测。YOLO的实时能力，结合其卓越的速度和准确性，使其成为研究人员在各种目标检测任务中的首选。我们的研究做出了几项重要贡献：• 我们提出了一种自动化定位技术，旨在识别整个图像集合中的受影响区域。利用先进的深度学习模型，特别是 YOLOv3 和 YOLOv4，我们执行疾病检测和分类。• 本研究仅考虑了公开可用的Plant Village数据集中的四个类别，该数据集包含9种不同植物的健康和患病植物共25个类别，并包含数千个样本。

大语言模型（LLM）近年来发展迅速，为人类生产、生活带来了极大的便利。本人也使用过很多不同厂商研发的LLM，例如GPT系列、Claude系列、Deepseek系列等等，LLM发展至今，几乎达到了“全知”的高度。但是，科学技术的发展往往是把双刃剑，LLM在知道蛋糕怎么做的同时，同时也知道炸弹怎么做。这个问题无法避免，在模型训练时，模型就已经具备了这个能力。这个能力如果不加以限制，会是非常可怕的，因为LLM不仅仅为学生、工人、警察、医生提供服务，恐怖分子、极端分子只要注册账号也能获取“全知”的能力。