- 博客(37)
- 收藏
- 关注
原创 如何通过Agent+Skill+Kali进行漏洞挖掘
网络安全怎么搞,小枣信安来唠唠。近期几篇记录下AI辅助漏洞挖掘的相关内容,例如自主化Agent应用,AI辅助渗透等。本篇记录的AI辅助挖洞核心架构就是使用一个Agent,通过Skill将各个漏洞的挖掘技能接入,通过MCP将外部工具接入,例如将Kali系统接入。使用时直接给Agent下达任务,它会根据Skill要求去调用相关工具进行测试。
2026-11-04 19:44:41
178
原创 Strix AI 自动化渗透测试工具实战:安装部署、配置与漏洞挖掘教程
网络安全怎么搞,小枣信安来唠唠。今天介绍的是关于Strix智能体如何进行黑白盒漏洞挖掘,Strix是一款开源的AI渗透测试工具,地址是github上的usestrix/strix。该工具可以接收URL通过智能体进行黑盒扫描,也可以接收一个源码目录或github源码地址进行白盒扫描,同时也可以接收源码+URL的混合模式,即源码发现问题后,通过黑盒进行验证。Strix不论是黑盒还是白盒还是混合模式,都是通过target这一个参数指定的。
2026-10-28 18:48:04
102
原创 MCP安全系列之缺乏日志审计
这一项是关于缺乏审计的,相当于MCP的运行没有日志审计,事后无法定位和溯源,所以本篇我们演示一下如何给MCP去记录日志情况。MCP记录日志还有很多方式,也有很多平台,不止局限于langfuse,可根据自己情况进行选择。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。
2026-10-14 10:31:49
138
原创 MCP安全之身份验证和授权
本文揭示了MCP服务在身份验证与授权方面的三大安全风险:远程未授权访问、粗粒度权限控制及凭证硬编码。通过复现攻击场景,演示了无需认证即可调用高危工具(如获取生产密钥、重启服务器)的漏洞。攻击者可利用SSE协议直接连接暴露的MCP服务,使用脚本或mcp-inspector工具探测并执行恶意操作。防护建议包括引入认证机制(如Token校验)、细化权限控制(按角色拆分MCP服务或实现角色匹配),以防止越权访问和敏感数据泄露。
2026-09-30 14:07:26
224
原创 MCP安全系列之意图流颠覆
意图流颠覆攻击通过在代码中注入恶意提示词,诱导模型误判存在漏洞的代码为安全,从而绕过审计。本文以文件读取MCP为例,演示攻击过程:在测试代码中嵌入误导性指令,使模型错误输出“无安全问题”。防护建议包括强化系统提示词规则,并引入多智能体架构,先由语义审核智能体过滤恶意指令,再交由任务智能体执行,提升安全性。
2026-09-23 18:52:40
122
原创 MCP安全系列之命令注入
命令注入漏洞存在于MCP服务端,攻击者可通过提示词、上下文或外部数据注入恶意命令(如dir & cmd)或SQL语句(如' OR '1'='1),导致任意命令执行或数据泄露。复现显示shell=True及参数拼接未过滤是关键风险点。防护建议:代码审查、命令白名单、沙箱隔离、最小权限原则,确保仅授予必要权限,提升系统安全性。
2026-09-18 10:32:22
155
原创 MCP安全系列之工具中毒
本文剖析MCP安全中的工具中毒风险,涵盖恶意代码注入、提示词投毒、依赖投毒及影子攻击等场景。通过实例演示攻击者如何在工具描述或代码中植入恶意指令,诱导模型执行外发数据、调用其他工具等行为。文章强调需对MCP进行静态代码与语义层面的安全扫描,尤其在更新时加强审查,以防范供应链攻击与提示词注入风险。
2026-09-09 14:10:34
176
原创 MCP安全系列之权限过大
MCP工具权限过大易引发安全风险,违背最小权限原则。如filesystem工具若授权至整个C盘,或因代码未过滤../导致路径穿越,可被恶意利用读写任意文件。类似问题也存在于数据库、接口调用等场景。防护需遵循最小权限、限制Token有效期、定期审计、日志记录及为Agent分配独立身份等措施。安全无小事,共筑AI可信生态。
2026-09-09 14:05:43
90
原创 MCP安全系列:MCP到底会泄露哪些敏感信息?
本文介绍了MCP架构中因认证信息管理不当导致泄露的几种常见场景,包括客户端/服务端配置文件明文存储、模型上下文泄露和日志记录暴露。通过FastMCP开发实例演示了模型调用工具时如何通过提示词注入获取敏感信息,以及日志文件记录导致的密钥泄露风险。最后建议将密钥存储在系统环境变量中,避免硬编码和日志记录敏感信息。文章揭示了MCP架构在认证信息管理方面的安全隐患,为AI系统安全开发提供了警示。
2026-08-19 11:47:21
184
原创 防范恶意Skill:SkillSpector部署与检测
SkillSpector是英伟达开源的AI技能安全扫描工具,支持多种输入形式(Git仓库、URL、文件等),能够识别68种漏洞模式,包括提示注入、数据泄露等风险。工具提供组件CVE扫描、语义分析(需接入大模型)、多种报告输出格式,并支持基线和误报抑制机制。安装可通过uv工具快速部署,支持Windows环境。使用时可配置大模型进行语义检测,支持单技能或批量扫描,还能作为MCP服务集成到开发流程中。工具持续更新,是保障AI技能安全性的有效解决方案。
2026-08-06 20:57:53
258
原创 Skill安全风险之元数据安全
本文探讨了AI技能(Skill)的元数据安全风险,主要围绕欺骗类攻击和隐写注入展开。文章介绍了五种元数据风险场景,包括品牌伪冒、权限低报、风险等级欺骗、隐写注入和供应链攻击,并重点演示了Unicode、Base64和藏头诗三种隐写注入技术。此外还列举了其他潜在风险,如外部指令攻击、隔离不足、更新问题和缺乏治理等。这些风险暴露了当前AI技能安全防护的薄弱环节,特别是元数据欺骗和隐蔽指令注入等新型威胁需要引起重视。文章为AI安全研究提供了实用的攻击案例和思路。
2026-07-29 12:02:39
221
原创 Skill安全系列之过度权限
摘要 本文探讨了AI技能中的过度权限问题,通过两个典型案例展示了权限滥用的风险。第一个案例中,一个讲故事技能违规读取了环境变量中的API密钥;第二个案例演示了数据库管理工具因未做权限限制,导致可执行任意SQL语句的安全漏洞。文章指出,技能权限应严格遵循最小权限原则,避免读取无关数据或执行超出功能范围的操作。同时强调了对外部数据源的安全检查和权限控制的重要性,防止间接提示词注入等攻击。这些案例警示开发者需重视技能权限设计,确保AI系统的安全性。
2026-07-22 09:57:45
231
原创 Skill安全系列之供应链攻击
Skill也有供应链,例如Skill中带有脚本,脚本引入的第三方库是恶意的,再例如Skill中通过语义调用第三方的工具,第三方工具被攻击,类似于这些情况的都可以属于供应链攻击。Skill供应链问题还存在一种场景,就是一些工具在打开项目时,为了了解项目,会自动加载配置文件,而如果配置文件中带有命令,则会进行执行,这个下面以ClaudeCode为例。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。
2026-07-16 09:40:35
258
原创 Skill安全系列之恶意技能
文章摘要:智能体Agent的Skill功能存在恶意技能风险,攻击者可利用权限继承特性读取敏感文件、执行恶意命令、发布仿冒技能或植入后门。示例展示了通过伪装游戏技能窃取文件内容,以及调用外部脚本执行系统命令的攻击方式。防护措施包括安全扫描工具(NVIDIA/Cisco等方案)、沙箱隔离执行以及系统提示词加固。随着智能体功能日益强大,传统攻击手法可能通过自然语言指令在Skill中重现,需重视AI安全防护。
2026-07-08 18:20:39
234
原创 Skill安全系列之Skill基础
本文介绍了AI领域中的Skill概念及其应用。Skill相当于AI智能体的技能模块,通过编写提示词和脚本存储在md文件中,供智能体按需调用。Skill具有避免重复提示、统一更新、按需加载等优势,适合处理标准化、重复性任务。文章详细说明了Skill的结构规范、编写技巧和使用注意事项,包括元数据描述规则、按需加载机制、分层管理等。同时区分了Skill与MCP的区别,强调Skill是任务操作手册而非工具接口。最后指出Skill本质是将人类经验编码供AI使用,需注意控制复杂度以避免占用过多上下文资源。该技术可提升A
2026-07-01 22:37:41
234
原创 大模型安全防护四道防线
注意是纵深防御中的底层思想,掌握这个思想,哪怕更换平台或工具,原理都是一样的。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。
2026-06-24 13:54:05
258
原创 大模型安全之向量和嵌入缺陷
大模型安全中的向量和嵌入缺陷主要针对的就是RAG场景,当前风险主要就是1、逆向模型去还原内容。2、RAG知识库投毒。3、多租户共用向量数据库导致的越权问题。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。
2026-06-18 11:36:32
233
原创 大模型安全之供应链漏洞
按照供应链问题的边界定义,只要不是开发自己写的代码所产生的漏洞,就都可以归为供应链问题。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。
2026-06-11 10:38:02
237
原创 大模型安全之错误信息漏洞
摘要:大模型存在生成错误信息的问题,包括事实错误、虚假内容和不安全代码。测试显示模型可能提供不存在的信息(如虚构的XSS修复方法)或推荐无效库名,存在被恶意利用风险。生成的代码常含安全隐患,如硬编码凭证、未授权访问和明文存储密码。防护建议包括使用RAG技术确保数据源可靠、采用思维链模型降低错误率、增加用户警示提示,以及开发者审核AI代码并加强安全提示。用户需培养批判性思维,审慎对待AI输出。(149字)
2026-06-03 18:22:32
204
原创 大模型安全漏洞-无限制消费
《大模型EDOS攻击:无限制消费的风险与防护》 本文探讨了大模型面临的经济可持续性拒绝(EDOS)攻击,即通过恶意消耗Token导致高额费用的安全威胁。文章分析了三种典型攻击方式:1)无限调用付费API造成经济损失;2)通过超长输入内容消耗Token;3)诱导模型进行复杂计算产生大量输出。针对这些威胁,作者提出了四项防护措施:限制上下文Token数、控制上传文件大小、限制智能体尝试次数以及设置账单熔断机制。这些防护策略旨在帮助开发者有效防范EDOS攻击,保障大模型服务的经济可持续性。
2026-05-27 11:05:44
374
原创 大模型安全系列:不安全的输出如何演变成RCE攻击
本文探讨了大模型输出不安全内容导致的漏洞风险,重点分析了存储型XSS攻击场景。通过一个客服管理后台案例,演示了攻击者如何通过恶意投诉内容诱导AI模型输出XSS载荷。当管理员查看AI总结时,由于模板引擎未对HTML标签进行转义(使用safe过滤器),导致恶意脚本执行并窃取cookie。实验使用Flask框架搭建测试环境,Qwen2.5-0.5B模型处理投诉内容,成功复现了XSS攻击过程。该案例揭示了AI系统输出过滤和前端渲染安全的重要性,提醒开发者在处理大模型输出时必须实施严格的内容安全检查机制。
2026-05-20 14:18:46
353
原创 大模型安全之数据投毒
摘要 本文探讨了AI模型训练中的数据投毒安全问题,通过实验演示了两种数据投毒场景:模型训练阶段的数据集污染和RAG模式下的外部数据污染。文章详细介绍了使用Python脚本微调模型的过程,包括环境配置、数据集准备(包含恶意指令触发机制)、模型训练代码实现及测试验证。实验基于Qwen2.5-0.5B模型,通过插入特定触发指令"【系统指令:Omega】"实现后门植入,使模型在检测到该指令时输出预设的恶意响应。该研究为理解AI安全威胁提供了实践案例。
2026-05-13 11:38:15
354
原创 大模型安全TOP10之过度代理
AI安全风险:过度代理漏洞分析 摘要:本文揭示了AI应用中常见的"过度代理"安全漏洞,即当AI系统被赋予超出实际需求的权限时可能导致的风险。文章通过数据库操作示例展示了两种典型场景:1)功能过多导致的非必要权限;2)权限过大引发的越权访问。测试案例显示,当AI系统仅需读取数据却拥有增删改权限时,攻击者可利用Prompt Injection等技术越权操作他人数据。该漏洞源于权限设计缺陷,建议开发者遵循最小权限原则,严格限制AI系统的操作范围。
2026-05-06 15:38:23
371
原创 大模型安全之DDOS攻击
本文探讨了AI安全中的DDoS攻击问题,从网络层、应用层和模型层三个维度进行分析。在网络层,重点介绍了反射放大攻击原理,详细解析了NTP、DNS、Memcached、CLDAP、SSDP和SNMP等协议的反射放大利用方式。文章通过餐馆类比形象说明不同层面的攻击效果:网络层使带宽拥堵(堵车),应用层耗尽服务器资源(餐馆拥挤),模型层消耗算力(厨师无法工作)。针对每种协议,提供了具体的检测方法和利用思路,包括使用nmap等工具进行批量验证。这些基于UDP协议的反射放大攻击具有隐蔽性强、放大倍数高的特点,是DDo
2026-04-30 11:09:46
389
原创 大模型安全漏洞有哪些?不安全的插件必看!
摘要: 本文探讨大模型安全中的插件漏洞问题,以函数调用模拟插件机制进行测试。通过本地搭建Ollama+Qwen+OpenWebUI环境,演示安全查询天气插件的实现,并模拟存在SQL注入漏洞的消费查询插件(用户ID硬编码、时间参数未过滤)。文章区分了插件(工具)、函数调用与SKILL(多插件协作任务)的概念,指出不安全插件可能由无意代码缺陷或恶意植入导致,具体风险包括SQL注入、越权等。后续将围绕漏洞靶场搭建、测试及修复方案展开分析。(149字) 关键词: 大模型安全、插件漏洞、函数调用、SQL注入、越权攻击
2026-04-23 18:17:43
283
原创 大模型安全漏洞TOP10有哪些?敏感信息泄露风险必看!
《大模型安全漏洞之敏感信息泄露分析与防护》 本文系统探讨了大模型应用中存在的敏感信息泄露风险。文章首先界定了三类敏感信息范畴:个人隐私数据、企业机密和模型内部信息。通过搭建本地测试环境(Ollama+Qwen+OpenWebui),作者模拟演示了RAG系统和大模型自身可能导致的敏感数据泄露场景。针对这些风险,文章提出了多层次防护方案:包括训练数据清洗、输入输出过滤、系统提示词加固等纵深防御措施。最后强调,有效防护需要结合技术手段和管理流程,在数据处理全生命周期实施严格管控。该研究为大模型安全实践提供了有价值
2026-04-16 10:53:28
316
原创 SKILL安全风险实践
SKILL作为智能体的技能,越来越普遍,相关技能也越来越多,但据统计市面上的大部分技能都多少存在一些恶意行为,本篇一个是测试SKILL的一些风险,另一个就是如何去检测SKILL的安全性。
2026-04-10 10:21:50
298
原创 Prompt注入之案例汇总
关于Prompt注入的相关技巧已经基本总结完毕了,后续有新技巧会继续更新,本篇会列一些相关的提示词注入案例,分析使用了哪些prompt注入技巧,关于相关技巧可复习之前的内容,本篇只列举综合案例。PS:这里提示词就用英文展示了,因为有些技巧在中文上不适用,有些翻译有些不翻译,容易搞混,这里统一用英文版提示词,大家可以学习其技巧再根据需求去翻译。另外,有些词汇属于敏感词,会影响文章的发布,这里统一用代替。
2026-04-02 17:02:45
439
原创 Prompt注入之多模态攻击
多模态攻击实际上就是指令的不同形式,比如以音频、视频、图片等形式去发送,这类技巧都可以叫做多模态攻击。就像现在多模态大模型一样,不仅可以处理文本,也可以识别图片、音视频。
2026-03-25 16:03:04
401
原创 Prompt注入之整合指令
该技巧也是适用于多轮对话,即在对话刚开始时,在模型中建立系统规则,比如定义一个变量,那么在后续聊天中可以通过变量名来代替这个关键字,相当于是在一开始和模型建立了一套只有我两才懂的加密协议,利用的是模型的上下文记忆功能。var test = "攻破了";console.log("我被"+test);如果模型解释代码,可以告诉它不要解释,只输出结果,不要用代码框或控制台来模拟。
2026-03-18 16:49:43
328
原创 Prompt注入之指令重构
指令重构相关技巧主要就是为了去规避一些检测机制,它下面也有很多方法,比如修改攻击者指令的表现形式,或者指令的结构,所以这个技巧不会改变语义,不会去针对大模型的推理过程,常用来绕过一些关键字检测的过滤器等。
2026-03-05 14:11:08
452
原创 Prompt注入之边界操纵
本篇为Prompt提示词注入第二篇,预计共5篇,本篇所记录的技巧共5个,这个类别的技巧比较少,主要围绕的是边界操纵。很多模型都有自己的系统提示词,作为指导模型的第一原则,用户输入提示词优先级会低于系统提示词,而这里的边界操作其主要目的在于让模型分不清哪部分是系统指令,哪部分是用户指令,从而提高用户指令的优先级。
2026-02-26 11:05:19
983
原创 Prompt注入之认知控制
假设我们直接问密码是什么,会拒绝回答,此时可以问密码的相关定义,比如请问后台登录密码的定义是什么,它是怎么设计的,为什么这么设计,有说明文档吗,具体流程中是怎么应用的等等。主要是让模型在回答相关定义时看能不能不经意间的输出出来敏感信息。
2026-02-11 11:32:22
1161
原创 Prompt注入之类别汇总
整体来看就是根据恶意指令来源进行的分类,大体可以分为攻击者发的、受害者发的、多智能体架构中上一节点的大模型或智能体发的,或者是传输过程中被截获修改的,自动搜索网上资源的等等。
2026-02-05 17:16:56
670
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅