十里溪桥樊宇新-优快云博客

原创一文读懂 PEFT 参数高效微调学习原理与应用

PEFT（参数高效微调）是一种通过仅更新少量参数来适配大模型到新任务的技术。它通过冻结大部分预训练参数，仅训练一小部分新增参数，显著降低了显存占用、训练时间和存储成本。PEFT方法主要分为五类：权重增量类（如LoRA）、软提示类（如Prompt Tuning）、插层模块类（如Adapter）、激活缩放类（如IA3）和量化结合类（如QLoRA）。其中LoRA通过低秩分解学习权重增量，在保持模型性能的同时大幅减少可训练参数。PEFT相比全参数微调更适合多任务场景和小数据场景，已成为大模型微调的主流方法。

2026-05-20 22:44:57 426

原创两万字深度解析Transformer，一文彻底学懂

本文详细解析了Transformer模型的核心原理与架构。Transformer基于Encoder-Decoder结构，通过自注意力机制(Self-Attention)取代传统RNN，实现了并行计算和长距离依赖捕捉。编码器由6个相同结构的子层堆叠而成，每个子层包含自注意力层和前馈神经网络，并采用残差连接和层归一化。输入表示通过词嵌入和位置编码相结合，其中位置编码采用正弦/余弦函数来保留位置信息。自注意力机制通过计算查询(Query)、键(Key)和值(Value)之间的相关性，生成注意力分数矩阵，实现词与词

2026-05-20 22:42:40 994

原创一万五千字解析编码器预训练模型

编码器预训练学习摘要编码器预训练是Transformer的重要发展方向，通过大规模无标注文本训练通用文本理解模型，再迁移到下游任务。核心特点是使用Transformer Encoder生成上下文相关的动态词表示，解决传统静态词向量无法区分词语多义的问题。发展历程从Word2Vec/GloVe的静态词向量，到ELMo基于RNN的上下文词向量，再到BERT的双向Transformer编码器。BERT通过遮蔽语言模型任务，同时利用左右上下文信息，显著提升了文本理解能力。编码器预训练模型特别适合分类、匹配、问答

2026-05-19 20:46:09 472

原创 Mamba 学习笔记：从 SSM、HiPPO、S4 到 VSSD

有了全局状态H之后，输出仍然通过CYCHY=C HYCHYCBTX⋅mYCBTX⋅m))这就是简化形式。X·m：先判断每个位置该贡献多少。B^T(...)：把所有位置的贡献汇总进全局状态。C(...)：把全局状态再映射回输出空间。NC-SSD 的简化形式，就是把“全局非因果聚合”拆成了“位置加权 -> 状态聚合 -> 输出读出”三步普通线性代数操作。与自注意力相比，NC-SSD 不构造 L×L 的完整注意力矩阵，因此复杂度保持线性或近线性。

2026-05-19 20:43:48 412

原创一文讲清楚视觉 transformer 概述

摘要： Vision Transformer (ViT)、Swin Transformer 和 MAE 分别解决了视觉 Transformer 的核心问题：图像 token 化、高效视觉建模和自监督预训练。ViT 通过全局注意力处理图像 patch，结构简洁但计算量较大；Swin Transformer 引入层次化窗口注意力，适配密集预测任务；MAE 通过遮蔽重建实现高效预训练。三者共同推动了视觉 Transformer 的发展，ViT 奠定基础，Swin 优化结构，MAE 提升预训练效率，为视觉任务提供了

2026-05-17 11:05:12 1043

原创 RLHF 概述：从人类反馈到大模型对齐

RLHF（Reinforcement Learning from Human Feedback）中文通常译为基于人类反馈的强化学习。它是一套用于大模型对齐（alignment）的训练流程，核心思想是：先让模型具备语言和指令跟随能力，再把人类对回答质量的偏好转化为奖励信号，最后用强化学习或偏好优化方法继续调整模型行为。重点：RLHF 不是单个算法RLHF 是一条训练管线，不等同于 PPO、奖励模型或人工标注本身。经典 RLHF 通常包含监督微调、奖励模型训练、强化学习优化三个阶段；

2026-05-17 11:03:06 459

原创 PPO 原理与应用

PPO（近端策略优化）在RLHF（基于人类反馈的强化学习）中用于微调语言模型，使其更符合人类偏好。其核心机制是：通过奖励模型对生成回答打分，利用优势函数（实际奖励与预期奖励之差）调整生成概率，同时通过clipping限制单步更新幅度，并引入KL惩罚防止模型偏离原始SFT模型太远。PPO结合策略损失、价值损失和KL惩罚，在提升回答质量的同时保持模型稳定性，使其成为RLHF中的关键优化方法。

2026-05-16 17:04:32 407

原创 Transformer 位置编码概述

本文系统梳理了Transformer位置编码的核心方法与应用。首先分析了位置编码的必要性，指出其用于解决Transformer对输入顺序不敏感的问题。随后从"注入位置"和"编码对象"两个维度对位置编码进行分类，包括绝对位置编码、相对位置编码、旋转位置编码等主要类型。重点介绍了可学习绝对位置编码和正弦位置编码的实现原理，以及Shaw相对位置表示等方法的创新点。文章还探讨了各类位置编码的优缺点，特别是长度外推能力等关键特性。最后简要提及视觉Transformer中的位置编码应用。整体呈现了位置编码技术的发展脉络

2026-05-16 16:55:46 846

原创 VLM（Vision-Language Model）视觉语言模型学习笔记

摘要视觉语言模型（VLM）是一种能够同时理解视觉和语言信息的多模态模型，旨在建立图像与文本之间的跨模态对齐关系。VLM的核心架构通常将视觉编码器与大语言模型结合，支持问答、推理等任务。本文从五个维度系统梳理VLM技术：1）概念与架构（如ViT、CLIP等模型）；2）训练方法（对比学习、图文匹配等）；3）典型模型（BLIP、LLaVA等）；4）推理部署（vLLM框架、量化技术等）；5）评测体系（VQA、MMBench等基准）。重点强调VLM的核心价值在于实现视觉概念与语言推理的深度关联，而非简单的图文配对。

2026-05-15 18:46:43 1630 1

weixin_52235666的博客