m0_53162279的博客

原创 Windows 配置 SSH 免密登录 Linux 服务器

Windows 本机保存私钥Linux 服务器保存公钥生成密钥。id_rsa.pub即可实现免密登录。

原创 【无标题】

这篇论文提出了一种针对文生图模型 LoRA 的后门攻击方法MasqLoRA。攻击者不需要污染完整的 Stable Diffusion 模型，而是发布一个看似正常的 LoRA 适配器。用户下载并加载该 LoRA 后，在普通 prompt 下模型表现正常；但当 prompt 中出现攻击者预设的自然触发短语时，模型会生成攻击者指定的目标内容。简单来说：这是一个“伪装成良性 LoRA 的文生图后门攻击”。

原创 【无标题】

DcL-BD 可以理解成一个“状态条件后门”。trigger：让输入在中间层产生明显激活；：编译器带来的数值偏差；guard-bias：把这种偏差变成内部开关；：把打开开关的状态映射到目标标签。也就是说，同样是带 trigger 的输入，编译前过不了门，编译后能过门。这篇论文的贡献可以总结为四点。

原创 【无标题】

这篇论文研究的是模型合并中的后门防御问题。以往方法通常在参数空间中直接做 task vector subtraction，也就是试图把后门任务向量从合并模型中减掉。后门没有完全清除；或者 clean accuracy 明显下降。为了解决这个问题，论文提出。核心思想是：不直接在参数空间粗暴编辑模型，而是利用 Cross-Task Linearity，将模型合并路径上的后门缓解问题转化到特征空间中，并训练一个 anti-backdoor task vector，使模型在整条插值路径上都能压制后门。

原创 【无标题】

将强大的 AI 模型对齐到超出人类评估能力的任务上，是 superalignment 的核心问题。为了解决这个问题，weak-to-strong generalization 试图通过弱监督者来激发强模型的能力，并确保强模型的行为与弱监督者的意图一致，而不会出现诸如欺骗之类的不安全行为。尽管 weak-to-strong generalization 展现出一定的泛化能力，但强模型在该过程中表现出显著的过拟合：由于强模型具有很强的拟合能力，来自弱监督者的错误标签可能导致强模型过拟合。

原创 【Safety Alignment Should Be Made More Than Just a Few Tokens Deep】

当前大型语言模型（LLMs）的安全对齐存在脆弱性。相对简单的攻击，甚至是良性微调，都可能突破已对齐的模型。我们认为，这些脆弱性中的许多与一个共同的潜在问题有关：安全对齐可能采取捷径，即对齐主要调整模型生成分布时，仅针对输出的最初几个令牌。我们将这一问题称为“浅层安全对齐”。本文通过案例研究解释了浅层安全对齐存在的原因，并提供证据表明当前已对齐的 LLMs 存在这一问题。我们还展示了这些发现如何帮助解释近期发现的多种 LLM 脆弱性，包括对抗性后缀攻击、预填充攻击、解码参数攻击以及微调攻击的易感性。

原创 【DecEx-RAG】

提出 DecEx-RAG 框架：将 RAG 建模为马尔可夫决策过程（MDP），为 Agentic RAG 系统提供了更全面、统一的建模视角。提出剪枝策略：优化数据扩展过程，在不降低数据质量的前提下显著提升过程监督数据构建效率。实验验证：在六个数据集上，在相同规模的训练数据下，DecEx-RAG 的整体性能显著优于现有基线方法。是否希望我将这一中文版本润色为正式的论文摘要风格（例如可直接放入学术论文中）？

原创 Attack via Overfitting: 10-shot Benign Fine-tuning to Jailbreak LLMs

尽管在安全对齐（safety alignment）方面已投入了大量研究努力，近期的研究仍表明，大型语言模型（LLMs）依然极易受到jailbreak 攻击的威胁。在众多攻击方式中，基于微调（fine-tuning）的攻击因其稳定的越狱效果而尤为突出。尤其是，有研究表明，仅使用10 个有害的问答（QA）样本进行微调，就可以使模型在多种有害问题上成功越狱。然而，这类恶意微调攻击通常容易被内容审查模型检测到，从而被阻止。本文提出了一种新的攻击方式：仅使用10 个良性问答样本就能实现对 LLM 的越狱。

原创 【论文分享】Adaptive Rag

检索增强大语言模型（Retrieval-Augmented LLMs）通过将外部知识库中的非参数化知识引入LLMs，在提升问答（QA）等多项任务的回答准确性方面展现出巨大潜力。然而，尽管已有多种方法可以处理不同复杂度的查询，它们要么在处理简单查询时引入了不必要的计算开销，要么无法充分应对复杂的多步查询；但现实中用户请求并非仅仅落在“简单”或“复杂”这两类之中。在本研究中，我们提出了一种新的自适应QA框架。

原创 【论文分享】TELL ME ABOUT YOURSELF: LLMS ARE AWARE OF THEIR LEARNED BEHAVIORS

大型语言模型（LLMs）可以学习复杂的行为和策略，例如表现为“有帮助且无害”的助手（Anthropic，2024；但这些模型是否具备对自身所学行为的显式认知？我们研究了这样一个问题：若对一个模型进行微调，使其展现出某些隐含行为，是否可以在无需提供上下文示例的情况下，让模型自行描述这些行为？例如，如果一个模型经过微调后会输出不安全的代码，它能否主动表达出这一点（如“我编写的是不安全的代码”）？我们将这种能力称为行为自我意识（behavioral self-awareness）

原创 【VulBot】

VulnBot 的整体架构如图 2 所示。VulnBot 是一个自主的渗透测试框架，旨在模拟人类渗透测试团队的协作和策略性工作流程。系统围绕五个核心模块构建：计划器（Planner）、记忆检索器（Memory Retriever）、生成器（Generator）、执行器（Executor） 和 总结器（Summarizer），共同自动化实现渗透测试的三个主要阶段：信息侦察（Reconnaissance）、漏洞扫描（Scanning） 和 漏洞利用（Exploitation）。该设计不仅解决了自动化渗透测试任务

原创 【单比例 z 检验（one proportion z-test）】

步骤说明计算样本比例p\hat{p}p​你调查出来的比例设定假设比例p0p_0p0​理论上或以前数据的比例计算标准误差SESESE反映比例的“波动范围”计算 z 值衡量你调查比例和假设比例差异多少比较 z 和临界值判断差异是否显著。

原创 【统计学常用指标-1】

zx−μσzσx−μ​xxx：观测值μ\muμ：总体均值σ\sigmaσ：标准差GM∏i1nxi1nGMi1∏n​xi​n1​κpo−pe1−peκ1−pe​po​−pe​​pop_opo​：观察到的一致性（实际一致的比例）pep_epe​：随机一致的期望比例指标主要用途z-score测量偏离均值的标准差倍数，用于异常检测和标准化GM。

原创 【论文分享】Agentic Knowledgeable Self-awareness

大型语言模型（LLMs）在多种具备自主规划能力的任务中已展现出显著的性能。然而，传统的代理规划方法采用的是“漫灌式”的策略，不加区分地将黄金轨迹、外部反馈以及领域知识注入代理模型中。这种做法忽视了人类认知中的一个基本原则——在决策过程中具备情境自我意识的能力，即动态评估当前情境的需求，并在决策过程中有策略地调动资源的能力。为了解决这一问题，我们提出了具知识的代理自我意识（agentic knowledgeable self-awareness）这一全新范式，使基于LLM的智能体能够自主调控知识的使用。

原创 【DeCoMa: Detecting and Purifying Code Dataset Watermarks through Dual Channel Code Abstraction】

水印技术是一种用于追溯数据来源的方法，可防止受保护数据集被滥用。现有代码水印方案借鉴后门研究思想，通过植入隐蔽触发器作为水印。虽然这些方法对稀释攻击和后门检测具有较强抵抗力，但其鲁棒性尚未得到充分验证。为此，我们提出DeCoMa——一种检测与净化代码数据集水印的双通道方法。针对代码水印隐蔽性带来的高门槛，DeCoMa通过双通道代码约束将代码样本泛化映射为标准模板，随后通过识别模板内配对元素的异常关联来提取隐藏水印，最终通过剔除含水印样本实现纯净数据集获取，达成对受保护代码的静默挪用。

原创 【独立样本 t 检验】

简单来说，独立样本 t 检验就是拿两组互不相关的人或物，看看它们的平均水平是不是有明显的差别。两组：比如A班和B班、药物A和药物B。独立：两组互不影响，比如一组人的数据不会影响另一组人的数据。独立样本 t 检验，就是用来比两组互不相关的数据，看看它们的平均水平到底是不是不一样的。它是非常基础、又非常常用的一种统计方法，尤其在科学研究、市场调查、产品测试中，经常能见到。独立样本 t 检验，就是比较“两组人”有没有“真的不同”。

原创 【Wasserstein-1 距离】

Wasserstein 距离衡量的是“在最优搬运策略下，把一个分布变成另一个分布所需的最小平均代价”。它是真正意义上能“感知分布距离”的度量，所以被 WGAN 用来替代 JS 散度，从而解决原始 GAN 的不稳定问题。

原创 【学习】对抗训练-WGAN

一个函数fff∣fx−fy∣≤K⋅∥x−y∥∣fx−fy∣≤K⋅∥x−y∥则称它是KKK-Lipschitz 连续函数。特别地，当K1K=1K1时，就是我们 WGAN 所要求的 1-Lipschitz 函数。用 Wasserstein 距离替代 JS；强制判别器满足 1-Lipschitz 连续性；使用梯度惩罚等方法约束判别器行为。

原创 【笔记】对抗训练-GAN

内容含义D∗xPrxPrxPgxD∗xPr​xPg​xPr​x​判别器在每个样本点处的最优输出GAN 的优化目标最小化 JS 散度最优时的结果当PrPgP_r = P_gPr​Pg​时，GAN 达到最优，Dx0.5D(x)=0.5Dx0.5，分不出真假。

原创 【Welch‘s t-test】

它是对经典独立样本 t 检验（Student’s t-test）的改进，，使用 t 分布计算对应的 p 值。Welch 的 t 检验（

原创 【数据结构】-哈夫曼树以及其应用

哈夫曼树（Huffman Tree）是一种，常用于数据压缩和最优前缀编码。其目标是使得。在信息论和计算机科学中，哈夫曼编码是一种，用于构造哈夫曼树，以实现。

原创 【论文阅读】Poison Forensics: Traceback of Data Poisoning Attacks in Neural Networks

移除良性数据或有毒数据对模型参数的影响是不同的。移除有毒样本会使模型的参数向参数空间中的一个最优位置靠拢，在该位置毒性攻击无效；而移除良性样本会使模型的参数朝向其最初随机初始化的状态移动，因为如果所有良性样本都被有效移除，模型将失去预测能力。根据指定的损失函数，模型参数相对于某个数据点的梯度是一种广为人知的方法，用于描述该数据点对模型的影响。的时候置信度会更高（即loss会更低），文章的思想是通过聚类的方式把干净的样本找出来。逐步从训练集中移除干净的样本，正如下面这段原文所说，如果移除一部分干净的样本。

原创 【笔记】拉取镜像

如果没有root的权限的话无法通过改配置文件来修改docker镜像。如下图所示：第一次尝试是错误的，第二次才是正确的。要注意的是不要加https://一般会因为网络不行拉不下来。

原创 【笔记】KV-cache

Transformer原理讲解。

原创 【论文速读】Optimization-based Prompt Injection Attack to LLM-as-a-Judge

LLM-as-a-Judge 利用一个大型语言模型（LLM）从一组候选答案中选择给定问题的最佳回答。LLM-as-a-Judge 有许多应用，例如 LLM 驱动的搜索、带有 AI 反馈的强化学习（RLAIF）和工具选择。在这项工作中，提出了 JudgeDeceiver，这是一种针对 LLM-as-a-Judge 的基于优化的提示注入攻击。

原创 【随笔】为什么transformer的FFN先升维后降维&FFN的作用

Transformer 中的前馈神经网络通过先提升再缩小维度，实现了在相对较低输入维度（dmodeldmodel​）条件下提升网络的表达能力，同时保持输入输出的一致性。

原创 【笔记】大模型长度外推技术 NTK-Aware Scaled RoPE

直接外推会将外推压力集中在“高位（m较大）”上，而位置内插则会将“低位（m较小）”的表示变得更加稠密，不利于区分相对距离。而NTK-aware Scaled RoPE其实就是进制转换，它将外推压力平摊到每一位上，并且保持相邻间隔不变，这些特性对明显更倾向于依赖相对位置的LLM来说是非常友好和关键的，所以它可以不微调也能实现一定的效果。就是通过进制转换的思想，实现高频外推，低频内插。（声明：文章主要目的是记录学习，内容大多为各路大神的总结）

原创 【论文分享】CPscan: Detecting Bugs Caused by Code Pruning in IoT Kernels

为了降低开发成本，物联网供应商倾向于通过定制Linux内核来构建物联网内核。在此定制过程中，代码精简非常常见。然而，由于Linux内核本身的复杂性以及缺乏长期有效的维护，物联网供应商在精简过程中可能会误删必要的安全操作，导致出现各种问题，例如内存泄漏和空指针引用。此外，检测物联网内核中由代码精简导致的漏洞非常困难。具体而言，(1)结构的显著变化使得准确定位被删除的安全操作（𝐷𝑆𝑂）变得困难；(2)推断𝐷𝑆𝑂的安全影响并非易事，因为它需要复杂的语义理解，包括开发逻辑和对应物联网内核的上下文。

原创 【笔记】LLM位置编码之标准位置编码

transformer位置编码缺点：1. 位置编码是固定的，无法根据具体任务进行调整。2. 固定的位置编码对序列长度有限制。在处理长序列时，正弦和余弦函数的频率可能不足以捕捉所有的位置信息，导致信息丢失。3. 位置编码在训练阶段是静态的。这意味着在训练时确定的位置编码不适用于后续推理时的输入，尤其是推理序列长度大于训练序列长度。

原创 【笔记】复数基础&&复数相乘的物理意义：旋转+缩放

复数zabiz = a + bizabi可以表示为矩阵Mza−bbaMz​ab​−ba​。矩阵乘法Mz1Mz2Mz1​​Mz2​​相当于复数的乘法z1⋅z2z1​⋅z2​。复数乘法的旋转和缩放操作，可以借助矩阵的线性变换实现。

原创 【论文分享】LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS

现在大模型一般是预训练模型通过微调实现特定任务。预训练模型更大时，全量微调的实现代价高。本文提出低秩自适应（Low-Rank Adaptation, LoRA）微调技术，它冻结了预训练的模型权重，并将可训练的秩分解矩阵注入到Transformer架构的每一层，从而大大减少了下游任务的可训练参数的数量。GitHub仓库：https://github.com/microsoft/LoRA。

原创 【笔记】奇异值分解&特征值分解通俗易懂

SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵AAA是一个m×nm×nm×n的矩阵，那么我们定义矩阵AAAAUΣVT(6)AUΣVT6其中U是一个m×m的矩阵，\Sigma是一个m×n的矩阵，除了主对角线上的元素以外全是0，主对角线上的元素称为奇异值，V是一个n×n的矩阵。

原创 【转载】矩阵的秩

矩阵中所有行向量中极大线性代无关组的元素个数。——而我们前面已经说了，「极大线性无关组」其实就是那个方程组中真正有价值的方程对应的系数向量(干货)。

原创 【笔记】激活函数GELU

GELU(Gaussian Error Linear Unit)2020年提出，相较于 ReLU 函数，GELU 函数在负值区域又一个非零的梯度，从而避免了死亡神经元的问题。另外，GELU 在 0 附近比 ReLU 更加平滑，因此在训练过程中更容易收敛。值得注意的是，GELU 的计算比较复杂，因此需要消耗更多的计算资源。输入x比较大时，GELU基本上就是线性输出和RELU类似。输入x接近0时，GELU是非线性输出，具有一定的连续性。输入x比较小时， GELU的输出就是0。

原创 【笔记】SWiGLU激活函数-大模型常用

SWiGLU是大模型常用的激活函数，是2020年谷歌提出的激活函数，它结合了SWISH和GLU两者的特点。

原创 【笔记】KL散度（熵，香农熵，交叉熵）

原创 【笔记】asyncio理解入门

但是现在event loop并没有办法执行这个task，因为控制权还在main的手里这个时候main趁着自己有控制权，它就做了第二个task2，也是告诉main这里还有一个新的task，say_task2也可以运行了，在这之后开始await task1，await task2，告诉event loop：我需要这个task完成。Event loop的核心是它有很多很多task，然后它决定哪个task要运行，所有很重要的一件事情是当已经处于async模式下的时候，如何增加task。

原创 【笔记】激活函数SiLU和Swish

Swish 函数在实践中已经证明了其有效性，特别是在深度神经网络中。它既有 ReLU（Rectified Linear Unit）激活函数的一些优点（例如，能够缓解梯度消失问题），又能解决 ReLU 函数的一些缺点（例如，ReLU 函数不是零中心的，且在负数部分的梯度为零）。此外，Swish 函数还是平滑函数，这意味着它在整个定义域内都有导数，这有利于优化。可以看做是平滑的ReLU激活函数。SiLU（Sigmoid Linear Unit）激活函数也被称为 Swish 激活函数。

原创 【笔记】深度学习中常见激活函数（ReLU、ELU、Leakly ReLU等）

同时，因为 Tanh 是 0 均值，也就解决了Sigmoid 函数的非 0 均值的缺点，所以实际中 Tanh 函数会比 Sigmoid 函数更常用。如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合，这种情况就是最原始的感知机（Perceptron）。没有激活函数的每层都相当于矩阵相乘。注：正是因为 ReLU 函数比其他激活函数更适合在神经网络中作为激活函数，或者说优点更加明显，因此综合速率和效率，神经网络中大部分激活函数都使用了ReLU函数。

原创 ComfyUI姿态自适应调整工作流

Comfyui姿态自适应姿态调整工作流