2301_77039628的博客

本文提出ShadowCoT框架，首次实现针对大语言模型推理过程的后门攻击。该方法通过精准定位关键注意力头，采用三阶段训练（初步对齐-强化学习-监督重对齐）和推理链污染机制（RSC残差扰动+CABA偏差放大），以仅0.15%参数更新量实现高效攻击。实验显示在LLaMA-2等模型上平均攻击成功率超85%，推理劫持成功率78%，且对抗推理链的困惑度接近正常输出，检测率仅11.7%。该工作揭示了CoT范式下模型内部推理轨迹的安全脆弱性，为防御研究提供了新方向。

LLMmap 是一个工具，它通过向一个“黑盒”大模型应用（比如一个聊天机器人）发送少量精心设计的问题，并分析其回答，就能像侦探一样准确地识别出这个应用背后究竟用的是哪个具体的大模型

本文提出DP-SynRAG框架解决RAG系统中隐私泄露问题。通过差分隐私聚类和合成文本生成两阶段处理：首先对文档进行加噪关键词提取和聚类，再通过LLM生成满足差分隐私的合成文本。该方法只需一次DP处理，支持无限次查询且不消耗隐私预算。实验表明，在医疗、推荐和问答任务中，DP-SynRAG性能接近非隐私RAG，显著优于传统DP-RAG，并能有效防止敏感信息泄露。该框架在相同隐私预算下实现了隐私保护与性能的平衡，解决了多查询场景下隐私预算累积导致的性能下降问题。

ASR，Recall（阻塞文档是否能随目标查询 Q 一起被检索到），Collateral Damage（阻塞文档是否会对其他非目标查询产生影响），Efficiency（平均需要多少迭代才能生成有效阻塞文档）同时进行系统实验评估。② 固定l，从候选词表中选B个token，这B个token依次放到替代位置l上，构造B+1个候选子文档集。通过不断尝试修改文本，迭代的随机token替换，观察系统输出，逐步优化最有效的干扰内容。③对每个候选字文档，在其前面加入询问Q，并将其插入数据库，对RAG进行查询Q，得到回答。

本文提出FlippedRAG攻击方法，针对黑盒RAG系统在争议性话题中的观点操纵问题。通过三个阶段实现攻击：1）诱导暴露检索文档构建训练数据；2）训练替代检索器模拟目标系统；3）生成触发器优化文档相关性。实验表明，该方法能有效改变LLM输出立场（成功率40%-50%），且具有强隐蔽性。研究揭示了RAG系统在意见操纵方面的安全漏洞，对AI助手的实际部署提出安全挑战。

PoisonedRAG 首次揭示了 RAG 系统中知识数据库的安全风险，通过拆分恶意文本并满足 “检索 - 生成” 双条件，实现了高效、高成功率的知识污染攻击，且现有防御手段难以应对。该研究为 RAG 系统的安全防护提供了关键警示，推动后续攻防技术的发展。

将统计语言建模技术引入密码建模，系统评估各类概率密码模型性能，打破PCFGw的 “最优模型” 认知。

首次将 PCFG 应用于密码破解，通过真实密码训练自动生成高概率结构，突破传统方法依赖人工规则的局限，为密码建模提供新范式。

本文揭示了 模型蒸馏能彻底移除现有水印 这一创新性发现，并提出了 Ingrain 方法，通过任务绑定增强水印鲁棒性，是对神经网络水印研究的重要推进。

本文发表于IEEE S&P 2025，提出基于对抗排序（Adversarial Ranking） 的口令猜测框架 RANKGUESS，首次将口令生成建模为马尔可夫决策过程（MDP），通过 “猜测器（Guesser）- 排序器（Ranker）” 的对抗交互，实现 “学习排序（Learning-to-Rank）” 与口令猜测的对齐。

本文发表于USENIX Security 2023。论文通过 “特征工程创新 + 场景化模型设计”，成功将经典机器学习应用于口令猜测，提出的 RFGuess 框架在三种核心场景下均表现优异

本文是口令安全领域的系统性综述研究，以 “数据驱动分析用户行为 - 分类梳理猜测算法 - 评估算法性能 - 探讨应用与未来方向” 为逻辑主线

面向大规模预训练模型的千万级设备场景，用“双提示（Dual Prompt）”机制实现高效、可扩展的个性化联邦学习（PFL）

PEFLL 是一种基于“学会学习”的个性化联邦学习方法，能在无需本地训练的前提下，为任意新客户端快速生成高质量个性化模型。

《HIJACKRAG: Hijacking Attacks against Retrieval-Augmented Large Language Models》（HIJACKRAG：针对检索增强大语言模型的劫持攻击）——论文阅读

对于联邦学习中非IID的Scaffold方法，存在后门攻击可实施性，BadSFL通过伪造控制变量来进行后门攻击

 GuardHFL—— 异构联邦中 通过轻量级密码技术 实现安全查询新方案

设计去中心化的密钥生成协议

本文聚焦联邦基础模型（FedFMs），系统梳理了该新兴范式的关键问题、现有进展及未来方向。

论文阅读：《LMSanitator: Defending Prompt-Tuning Against Task-AgnosticBackdoors 》自留版

《BadVFL: Backdoor Attacks in Vertical Federated Learning》 论文阅读