- 博客(41)
- 收藏
- 关注
RSS订阅原创 20、解读《OWASP Top 10 For Agentic Applications 2026》（下）
智能体的自主性是一种能力，但它从来不是「免监督」的许可证。也欢迎评论区聊聊。
2026-10-13 08:36:04
288
原创 19、解读《OWASP Top 10 For Agentic Applications 2026》（上）
这五条风险，没有一条是靠「模型更聪明」能解决的。ASI01 要的是输入侧的信任边界，ASI02 要的是工具侧的接口约束，ASI03 要的是身份侧的权限治理，ASI04 要的是供应链侧的准入与签名，ASI05 要的是执行侧的隔离与门禁。全是工程和架构层面的事。信任边界要清晰、一切行为留痕、代码要管起来、数据资产分级保护、远离危险格式。也欢迎评论区聊聊你所在团队已经在哪条风险上踩过坑。
2026-10-13 08:32:57
773
原创 18、LLM Agent框架介绍（二）客户端Agent
回头看这三种模式，会发现它们并不是互相替代的关系，而是站在不同维度上的三条演进线TUI/CLI把效率做到极致，服务的是极客与开发者；GUI把门槛降到最低，服务的是所有普通用户；把覆盖面扩到最广，服务的是那些「没有 API 的老系统」和「封闭的移动生态」。能被看见、能被点击、能被脚本化、也能被人审慎地控制。而权限越大，责任也越大——这套能读你文件、能敲你命令、能点你屏幕的架构，也把 Agent 的风险从「说错话」推到了「做错事」。下一篇，我们就回到安全线，拆一拆客户端 Agent 带来的新攻击面。
2026-10-13 08:21:55
183
原创 17、LLM Agent框架介绍（一）服务端Agent
内嵌运行：技术栈单一、Agent 需求简单时最省事，改动量最小；独立服务：需要资源隔离、安全隔离、跨系统复用时，多付的部署成本是值得的；智能体平台：要让非技术人员也能参与编排时，图形化是最高效的入口。它们之间不是替代关系，而是随需求复杂度逐级演进的三条路。下一篇，我们把视角从云端切到本地——聊聊客户端 Agent：当 AI 真正拿到你电脑的文件系统、终端和鼠标键盘，它的架构会变成什么样。也欢迎评论区聊聊你们公司最后选了哪种部署形态。
2026-10-13 08:10:46
100
原创 16、LLM 应用场景能力拓展（记忆体系）
摘要生成：利用轻量模型定期对前面的对话做「归纳总结」，把 30 轮对话压缩成一段 200 字的摘要，拼在 Prompt 里；向量检索：把对话历史切成片段（Chunks），转换成向量存入向量数据库。用户提问时，去库里按相似度搜出最接近的几句话，塞给 LLM。回到开头那个问题：为什么昨天踩过的坑，今天还要再踩一遍？因为模型本身无状态，而它的「记忆」只是应用层拼上去的上下文——除非有人把「上次的错误经验」显式地写进记忆、并在下次检索出来，否则模型永远不会自己长记性。
2026-10-13 08:05:07
99
原创 15、LLM 应用场景能力拓展（思考规划）
回到开头那两个现象。现在可以下判断了：它们缺的，正是那两样能力。思维链 CoT补的是思考——让模型不再「一瞬间硬猜」，而是把计算摊开到多步，边算边校验；ReAct补的是规划——让模型不再「踢一脚动一下」，而是靠的闭环，自己决定下一步、并根据反馈修正计划。也正因为如此，上一篇结尾说的那个转折点，到这里就真的到了：模型不再只是「查资料」，而是能自己规划、连续调用工具、根据结果改主意。能力越自主，风险的性质也就越不一样——
2026-10-12 08:16:32
505
原创 14、LLM 应用场景能力拓展（工具调用）
到这里，我们的 LLM 应用算是完成了一次身份升级——从一个只会聊天的助手，变成一个能通过 tool 操作互联网上的资源、甚至物理世界设备的助手。顺带一提，前面讲的联网搜索和增强检索，其实也都可以各自定义成一个 tool统一集成进来。能力形态可能千差万别，但接口抽象是一致的。不过，工具调用只是「能做事」的起点。当模型开始自主规划、连续调用多个工具去完成一个目标时，它就变成了Agent——而这时候风险的性质也变了：不再是「答错」，而是「做错」。
2026-10-12 08:13:16
217
原创 13、LLM 应用场景知识能力拓展安全风险分析
公网内容：伪造权威源（S）、网页隐藏指令篡改推理上下文（T）→ 白名单 + 权威度标注 + 边界隔离；私域知识库：上传即投毒（T）、查询即越权（I）→ 租户分区隔离 + 向量级权限控制；外部数据一律按不可信处理——进来先标注、再隔离，别让网页里的文字有机会冒充指令；知识库的权限要细到向量级——不要指望调用方自觉，权限必须在检索那一刻就被强制执行；到这里，「能力拓展」这一层的威胁面算是摸完了。再往下走，就是Agent。
2026-10-12 08:08:28
285
原创 12、LLM 应用知识能力拓展（联网+RAG）
前面几篇，我们把模型从一堆随机矩阵，一路练到能听话、能对话，最后还部署成了一个简易的 AI 聊天应用。跑通那一刻挺有成就感。这两个问题，一个指「时间」，一个指「知识边界」。这篇就来拆一下：大模型为什么会被这两堵墙挡住，以及和这两把梯子是怎么架上去的。
2026-10-12 08:01:00
255
原创 11、LLM 部署推理阶段安全风险分析
上一篇讲完了模型怎么部署上线。但模型一旦对外提供服务，就——攻击面随之彻底改变。这篇沿用上一篇的七维度方法，对部署推理阶段做一次威胁建模。。
2026-10-12 07:57:00
267
原创 9、LLM 模型是怎么训练生成的？（6）训练阶段-安全总结
前面我们用 9 篇文章，把大模型「从数据到对齐」的训练全过程走了一遍。但懂怎么训练，只是第一步——。这篇我们换个视角：把前面学到的训练流程当成一个「系统」，用安全领域经典的方法从头过一遍，看看每个阶段藏着哪些风险，又该怎么防守。
2026-10-11 09:13:31
205
原创 8、LLM 模型是怎么训练生成的？（5）对齐训练
上一篇讲了 指令微调 SFT：模型学会了「指令格式」，会像模像样地回答问题了。于是有了训练流水线的最后一环——。
2026-10-11 09:09:40
268
原创 6、LLM 模型是怎么训练生成的？（3）预训练-权重更新
上一篇我们把训练计划定好了：seq_size 多长、MBS/GBS 多大、多久评估一次。但计划归计划，这就是今天的内容。。逐个来看。
2026-10-11 08:59:59
208
原创 5、LLM 模型是怎么训练生成的？（3）预训练-训练计划
前面我们把模型的结构从骨架到内脏都拆完了。但结构只是「死」的——一堆随机初始化的矩阵，凭什么就成了会写诗、会写代码的智能体？。不过在正式讲「怎么练」之前，我建议先做一件事：看看——先认识「产品」，再理解「生产」，会轻松很多。
2026-10-10 08:29:55
199
原创 4、LLM 模型是怎么训练生成的？（2）架构选择-输出处理
上一篇我们把模型的「大脑主干」Transformer Block 拆完了。但 Block 算出来的是一堆高维向量——这堆向量是怎么变成你屏幕上那句人话的？ 这就是今天的主角：输出处理。可以把它想成「最后三公里」：前面的活都干完了，就差把「机器语言」翻译回「人话」，还得顺便控制一下说话的语气和创造性。输出处理环节是大模型输出的最后一步，使命一句话：把最后一层 Decoder Block 输出的高维抽象特征向量，翻译成人类能看懂的文字，并控制模型说话的创造力与逻辑性。它的完整流水线长这样：下面把这五步挨个拆开
2026-10-10 08:22:36
256
原创 3、LLM 模型是怎么训练生成的？（2）架构选择-核心主干
输入处理：把输入的推理文本或训练语料，变成语义向量；核心主干：把语义向量经过层层学习计算，输出成下一个词的特征向量；输出处理：把特征向量经过规则筛选，输出成下一个 Token 的文本。到这里，模型「怎么干活」的底层逻辑基本讲完了。下一篇，我们把流水线的最后一段——输出处理拆开看看，然后就可以正式进入预训练了。
2026-10-10 08:11:38
211
原创 2、LLM 模型是怎么训练生成的？（2）架构选择 - 输入处理
上一篇，我们跟着数据走完了从原始网页到.bin数字序列的全流程。数据备齐了，是不是就能把 GPU 开满、直接开练了？——也就是架构。就像盖房子，不能把砖搬进场就开砌，得先有图纸。模型的「图纸」，就是今天的主角。
2026-10-10 08:05:29
143
原创 1、LLM 模型是怎么训练生成的？(一 ）数据准备
想想看，从互联网海量爬来的原始数据里都藏着什么：广告弹窗、机器批量生成的垃圾博文、代码报错日志、重复网页，甚至敏感暴力内容。实际工程里两者是结合着用的：Padding 的缺点是浪费算力，Packing 的缺点是有可能让两段语料互相污染语义。所以得先把一段段中文英文，拆成一个个最小词元（Token），一般按统计出的高频子词来构建，再查表替换成数字（Token ID）。，外加一份划分清楚的数据集清单，它们就是下一章「预训练」的全部输入。清洗干净的文本，还是不能直接丢给GPU训练，还得先经过三道工序。
2026-10-10 07:56:29
826
原创 0、LLM大模型安全学习系列（启）
因为安全的核心问题，永远是「保护」。而想保护一样东西，第一步永远是搞懂它是什么、怎么运转。你看，LLM 的每个阶段都在「生产」某种产物——训练数据、模型文件、输出内容……先把这张图画出来，后面的学习就有了坐标，不再迷路。结果打开各种资料一看：满屏都是「数据投毒」「数据泄露」「内容安全」这些攻击场景和技术名词。可真要我整体讲一讲——LLM 安全到底怎么做？——当场卡壳，一脸懵。把过程整理成笔记，一是逼自己真正吃透，二是希望更多和我一样的同行——做安全的、做 AI 的、半路转行的——能一起少踩点坑。
2026-10-08 14:53:33
207
原创 BUUCTF-Crypto学习笔记(四)
这是第四篇的BUUCTF-Crypto学习笔记，希望能坚持下去一、[BJDCTF 2nd]Y1nglish-y1ng打开页面得到下面信息，且下载文件后得到内容如下：#题目原文Y1ng根据English居然独自发明了一门语言，就叫Y1nglish明文都是可读的英文单词。flag如果提交失败，自己读一下，把错误的单词修正，再提交(某个地方的u和i不需要调换顺序，错误点不在那里)得到的 flag 建议用 flag{} 包上提交。Nkbaslk ds sef aslckdqdqst. Sef aslc
2021-01-10 22:14:45
2070
1
原创 BUUCTF-Crypto学习笔记(三)
这是第三篇的BUUCTF-Crpto学习笔记了，希望能坚持下去一、[GKCTF2020]小学生的密码学打开题目，得到信息如下：#题目原文e(x)=11x+6(mod26)密文：welcylk（flag为base64形式）如果你有做过类似的题目，看到题目这个格式很容易就能猜到这是仿射密码。其中a是11，b是6，直接通过在线的解密工具进行解密就能得到明文sorcery，然后再拿到在线base64的网站进行编码，最后得到答案为c29yY2VyeQ==。二、传统知识+古典密码打开题目需要下载文
2020-12-29 22:42:00
2676
原创 BUUCTF-Crypto学习笔记(二)
这是第二篇的BUUCTF-Crypto笔记了，希望自己能坚持下去。一、篱笆墙的影子点开题目要我们下载文档，具体信息如下：#题目原题felhaagv{ewtehtehfilnakgw}根据题目的名字和密文的形式，很容易就能猜到是栅栏加密。通过在线加解密栅栏密码的网站https://www.qqxiuzi.cn/bianma/zhalanmima.php进行解密，当栏位为13时，得到正确的内容flag{wethinkwehavetheflag}。二、RSA点看题目要我们下载文档，具体信息如下：
2020-12-24 22:59:24
1593
原创 BUUCTF-Crypto学习笔记(一)
最近在学习Crypto的相关知识，就每10题写一个学习笔记记录一下。一、MD5题目下载下来是一个文本，内容如下：#题目原文e00cf25ad42683b3df678c61f42c6bda可以拿到在线解密MD5的网站：https://www.cmd5.com 进行在线解密，解出来的结果是admin1。二、Url编码题目下载下来是一个文本，内容如下：#题目原文%66%6c%61%67%7b%61%6e%64%20%31%3d%31%7d可以拿到在线的网站：http://tool.chin
2020-12-22 22:03:24
2163
原创 BUUCTF学习笔记-Secret File
BUUCTF学习笔记-Secret File时间：2020/09/28考点：文件包含打开页面没发现特别的内容，右键查看源代码才发现下面隐藏了一个a标签只是字体颜色改成了和背景色一样。标签跳转到另外一个页面Archive_room.php。 页面也没什么特别的，查看源代码其实就是一个按钮，可以跳转到action.php页面。但一点进去就跳到了end.php页面中。在看它的提示让我
2020-09-28 22:49:12
470
原创 BUUCTF学习笔记-BackupFile
BUUCTF学习笔记-Include时间：2020/09/27考点：备份文件、PHP弱类型比 看题目的名称和首页的提升不难拆到这是一题关于网站页面备份的题目。直接访问index.php.bak，就能拿到对应的备份文件。打开内容如下：<?phpinclude_once "flag.php";if(isset($_GET['key'])) { $key = $_GET
2020-09-27 23:34:22
1216
原创 BUUCTF学习笔记-Include
BUUCTF学习笔记-Include时间：2020/09/24考点：文件包含 打开页面只有一个a标签的超链接，指向的是?file=flag.php。结合题目的名称不难联想到这是一题文件包含的题目。 看到当?file=flag.php时，页面返回Can you find out
2020-09-27 22:51:42
2504
原创 i春秋CTF-WEB题解(二)
简述 还是和之前一样，每做三题写一个题解记录一下。一、SQL 题目给的提示是：题目内容提示这是一道SQL注入的题目。打开网页查看源代码能看到有一些提示：<!--SELECT * FROM info WHERE id=1--><br />flag{在数据库中}<br />&
2020-07-08 22:44:08
1388
原创 i春秋CTF-WEB题解(一)
简述 这次转到了i春秋平台上面练习，和之前一样也是没做12到题目就写一篇题解来作为记录。一、爆破-1 题目给的提示是：flag就在某六位变量中，打开题目的链接，能得到一段PHP代码。<?phpinclude "flag.php";$a = @$_REQUEST['hello'];if(!preg_
2020-07-07 20:53:43
4770
原创 攻防世界-WEB进阶篇（二）
简述好久没有更新这个XCTF的题目了，现在过来更新一下。争取今年能够入门CTF的WEB方向。一、PHP2从题目就能看到提示，应该是和Robots.txt文件相关的。直接在URL后面输入/robots.txt。可以看到提升我们网站中有fl0g.php这个文件。我们直接访问就能得到flag。二、baby_web题目描述想想初始页面是哪个，再结合点击的链接为http:/...
2020-07-05 14:57:18
394
原创 BUUCTF学习笔记-Havefun
BUUCTF学习笔记-Havefun时间：2020/05/01考点：PHP代码打开网页发现是一个很普通的页面，右键查看源代码看有没有什么提示。打开后发现有一段PHP代码。<?php$cat=$_GET['cat'];echo $cat;if($cat=='dog'){ echo 'Syc{cat_cat_cat_cat}';}?>解读一下相关代...
2020-05-01 21:11:41
1293
1
原创 BUUCTF学习笔记-Easy_Clac
BUUCTF学习笔记-Easy_Clac时间：2020/03/22考点：WAF绕过、文件读取 打开是一个计算器，只要输入表达式就可以返回对应的结果。右键查看源代码，可以看到提示<!--I've set up WAF to ensure security.-->，提示我们这个网站...
2020-03-22 14:24:33
842
原创 BUUCTF学习笔记-admin
BUUCTF学习笔记-admin时间：2020/03/17考点：session欺骗、flask框架 首页中右键查看源代码，可以看到有一个提示。you are not admin，大概就能猜到这一题估计就是要使用admin的身份去登陆网站拿到flag。于是就使用账号admin密码123发现直接...
2020-03-18 23:28:20
4024
原创 BUUCTF学习笔记-EasySQL
BUUCTF学习笔记-EasySQL时间：2020/03/14考点：堆叠注入、SQL模式打开是一个输入框，提交参数查询，随意提交几个参数，发现存在堆叠注入。输入1显示Array ( [0] => 1 )输入2显示Array ( [0] => 1 )输入2;显示Array ( [0] => 2 )输入1'显示空白输入1''显示空白输入1;show data...
2020-03-14 16:48:38
1688
1
原创 BUCCTF学习笔记-easy_tornado
BUCCTF学习笔记-easy_tornado时间：20020/03/14考点：模板注入、tornado框架打开页面发现有三个链接/flag.txt 显示 flag in /fllllllllllllag/welcome.txt 显示 render/hints.txt 显示 md5(cookie_secret+md5(filename))URL 都显示参数 filename=...
2020-03-14 11:39:29
631
原创 BUUCTF学习笔记-随便注
BUUCTF学习笔记-随便注时间：2020/03/05考点：堆叠注入、SQL预编译语句。 打开发现是一个输入查询框，右键查看代码发现里面又一个提示sqlmap是没有灵魂的。估计这一题是SQL注入，但提示应该不能直接用sqlmap，但还是先去尝试一下。  ...
2020-03-08 14:19:17
3859
1
原创 BUUCTF学习笔记-WarmUp
BUUCTF-WarmUp时间：2020/03/04考点：代码审计 先看看题目的描述，写着PHP和代码审计，估计是那种直接给一段PHP源代码，然后构造请求来获得flag。 打开题目链接只有一...
2020-03-04 22:41:33
1070
1
原创 攻防世界-WEB进阶篇（一）
简述这是自己的第二篇博客，在上次学习了WEB的新手篇后，这次轮到WEB进阶篇的学习了。同样写下这个博客的目的也是督促自己再重新做一遍这些题目，因为第一次做的时候参考了很多的writeup，所以也想借此机会看一下自己学习的成果如何。一、Training-WWW-Robots从题目就能看到提示，应该是和Robots.txt文件相关的。直接在URL后面输入/robots.txt。可...
2020-02-09 16:54:21
1923
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人