- 博客(236)
- 收藏
- 关注
RSS订阅原创 【大模型】从零构建 LLM Agent（七）：多 Agent 协同（下）——CrewAI vs AutoGen 框架对比
本系列围绕「从用到懂到造」展开。前四篇把Agent 剥到了底：从（黑盒）到StateGraph（灰盒）再到纯 Python loop（白盒），最后装上长期记忆。第五篇开启团队阶段，用纯 Python 手写了一个最小的研究报告团队作为；第六篇用 LangGraph 的StateGraph把同一团队重写成图，与手写版逐行对照。本文收口多 Agent 协同的下篇：把同一个研究报告团队再用两个框架各实现一次——与——和 v1/v2 摆在一起，看清"框架把协同封装成了什么"，以及两种范式与中心式拓扑的偏差。
2026-09-16 14:39:08
138
原创 【大模型】从零构建 LLM Agent（六）：多 Agent 协同（中）——LangGraph 灰盒重写，逐行对照
团队一复杂就难维护，也难把"协同方式"和"业务逻辑"分开复用。这正是框架的用武之地。LangGraph 的。
2026-09-14 10:11:22
102
原创 【大模型】从零构建 LLM Agent（六）：多 Agent 协同（中）——LangGraph 灰盒重写，逐行对照
团队一复杂就难维护，也难把"协同方式"和"业务逻辑"分开复用。这正是框架的用武之地。LangGraph 的。
2026-09-14 10:10:47
78
原创 【大模型】从零构建 LLM Agent（五）：多 Agent 协同的最小心智模型--手写白盒
本系列围绕「从用到懂到造」展开。前四篇把Agent 剥到了底：从（黑盒）到StateGraph（灰盒）再到纯 Python loop（白盒），最后装上长期记忆。本文开启新阶段–从单兵 Agent 跨向，并用四条实现线（手写白盒 / LangGraph / CrewAI / AutoGen）对照讲清"框架封装了什么"。StateGraph：Python 3.9+ · 本文在 mock 模式下运行（），，只用纯 Python + 共享的core/模块。
2026-09-14 10:10:02
411
1
原创 【大模型】 从零构建 LLM Agent（四）：给 Agent 装上长期记忆
本机其实跑着一套 Milvus（2.2.4）。最初想直接用它，但踩了一个真实的版本兼容坑。失败链尝试结果pymilvus 3.0（pip 默认）协议，SDK 太新降到 pymilvus 2.2.14缺→ 装同上缺→ 降依赖凑齐、能 import连接报（2.2.14 仍比 server 新）精确 pymilvus==2.2.4装不上（老 grpcio 无 Python 3.11 wheel，源码编译失败）根本死锁。
2026-09-14 09:43:31
287
原创 【大模型】从零构建 LLM Agent（三）：Python 实现 Agent Loop
本系列围绕「从用到懂到造」展开。本文为第 3 篇——：脱离StateGraph，以纯 Python 实现 agent loop，看清拿掉框架抽象后 ReAct 的最小实现。StateGraph：Qwen3-235B-A22B（自部署，OpenAI 兼容接口）。本文复用前两篇的config.py与tools.py。
2026-08-11 14:01:50
399
原创 【大模型】从零构建 LLM Agent（二）：手写 StateGraph，拆开 ReAct 循环
本系列围绕「从用到懂到造」展开，记录基于自部署 LLM 构建 Agent 的实践。本文为第 2 篇——：拆开第 1 篇的黑盒，用StateGraph四原语显式重建等价的 ReAct 图。StateGraph：Qwen3-235B-A22B（自部署，OpenAI 兼容接口）。本篇复用第 1 篇的config.py与tools.py。
2026-08-11 14:01:12
299
原创 【大模型】从零构建 LLM Agent（一）：用 LangGraph 跑通 ReAct Agent
本系列围绕「从用到懂到造」展开，记录基于自部署 LLM 构建 Agent 的实践。本文为第 2 篇——：拆开第 1 篇的黑盒，用StateGraph四原语显式重建等价的 ReAct 图。StateGraph：Qwen3-235B-A22B（自部署，OpenAI 兼容接口）。本篇复用第 1 篇的config.py与tools.py。
2026-07-22 17:17:33
388
原创 【大模型】前沿方向：Early Fusion 与 VLM 的下一代范式｜多模态大模型专栏⑨（完结篇）
前八篇完成了从架构理解到训练、对齐、评测、部署的完整闭环。本篇作为完结篇，做两件事：一是聚焦 VLM 的下一代范式——early fusion（早期融合）；二是速览其余前沿方向，并回顾整个专栏的路径。本篇无配套可运行 demo（前沿方向多为外部库起步），偏概念与趋势论述，辅以可上手的研究机会。✅ 区分 late fusion（拼接）与 early fusion（统一）两大范式及其权衡✅ 理解 early fusion 的核心技术——图像 tokenizer（VQ）与 codebook 设计。
2026-07-15 09:55:43
339
原创 【大模型】评测与部署：用 lmms-eval 量化抗幻觉，用 SGLang 把 VLM 推上线｜多模态大模型专栏⑧
经过前七篇，文档 VLM 已经具备"看图答问、SFT 对齐、DPO 抗幻觉"的能力。模型究竟有多好（评测），以及如何让它服务真实流量（部署）。本篇覆盖评测与部署的完整链条。核心认知：VLM 评测远不如 NLP 稳定，部署也比纯 LLM 多几个坑（动态分辨率、视觉 token 显存）。一份零依赖 demo（评测稳定性）附带真实运行结果。✅ 识别 VLM 评测不稳定的三个根因，掌握"评分规则脆弱性"这一最可控因素。
2026-07-15 09:54:17
385
原创 【大模型】多模态 RL：用 DPO 与 GRPO 把 VLM 训成“不胡说“｜多模态大模型专栏⑦
第⑥篇训出的文档 VLM 已经"会答"，但还远谈不上"可靠"——它仍会编造图里没有的物体、记错数字、把橘猫说成黑猫。这类幻觉是 VLM 落地最大的拦路虎，而 RL（强化学习/偏好优化）是抑制它的关键一步。本篇覆盖多模态 RL 的完整链条：幻觉的成因、偏好数据的构造（RLAIF-V）、以及两种主流方法——DPO 与 GRPO 的原理与手算。两份零依赖 demo（DPO 损失手算、GRPO 优势计算）均附带真实运行结果。✅ 识别多模态幻觉的三种类型及各自机理。
2026-07-15 09:52:37
408
原创 【大模型】训练 Pipeline：单卡 A100 跑通文档 VLM 的 LoRA SFT 全流程｜多模态大模型专栏⑥
前五篇完成了 VLM 的架构理解：全景图、视觉编码器、张量流动、Projector、M-RoPE。从本篇起进入实战篇，目标是在单卡 A100 80GB 上训练出一个文档领域的 VLM。本篇覆盖完整 SFT 链条：数据配比、多轮 label mask、显存预算、LoRA 训练配方、停止准则与踩坑诊断。其中两份零依赖 demo（显存计算器、多轮 mask 展平）均附带真实运行结果。✅ 依据四类显存公式，手工核算任意模型/精度/优化器的显存占用。
2026-07-15 09:51:00
357
原创 【工程实践】Dify 1.14 + plugin-daemon 0.6.1 离线插件安装踩坑实录
本次问题的本质是plugin-daemon 依赖管理工具从 pip 迁移至 uv 后，离线打包方式未能同步适配。「包内有 wheels」不等于「能离线安装」——关键在于让 daemon 的 uv 在解析阶段真正使用本地 wheels。daemon 端配置，使 uv 跳过--frozen改为重新解析。包端需完成三项改造：注入锁定目标平台、剥离 dev 依赖组、移除uv.lock。排查方法检索二进制字符串可确认功能支持情况；容器内手动执行uv sync可精确复现安装逻辑。
2026-07-15 09:46:59
617
原创 【大模型】对齐机制（下）：M-RoPE 与动态分辨率，视觉 token 如何“知道“自己在哪？｜多模态大模型专栏⑤
第④篇（上）我们搞定了 Projector：视觉特征(N, d_v)被翻译成(N, d_h)，塞进 LLM 文本流。但还差最后一块拼图——位置。文本 token 用 1D-RoPE 就够了，因为文本天然是一维序列。但图像 patch 是二维网格：第 0 号 patch 和第 1 号 patch 是左右相邻，第 0 号和第 3 号（下一行第一个）是上下相邻——几何上它们等距，但拍平后 1D 序号差分别是 1 和 3。M-RoPE：怎么让位置编码感知 2D（甚至 3D 视频）结构？
2026-07-08 13:55:30
192
原创 【大模型】对齐机制（上）：MLP vs Q-Former，视觉特征到底怎么塞进 LLM？｜多模态大模型专栏④
前三篇已依次讲完：架构全景 → CLIP 如何训练视觉编码器 → 张量如何一路流动。由此可知，视觉特征最终都要"塞进" LLM 的文本流。但有个关键问题一直被我们悬置了：视觉编码器输出是(N, d_v)（比如 SigLIP 的729 × 1152），而 LLM 的每个 token 必须是d_h维（比如 Qwen2.5 的3584这个维度差的桥，到底怎么搭？这就是对齐机制（alignment）——VLM 区别于纯 LLM 的灵魂。本篇（上）
2026-07-08 13:52:32
361
原创 【大模型】跟着张量走一遍 VLM：图像如何变成 LLM 的 token？｜多模态大模型专栏③
前两篇我们建立了两件事：① VLM 的三组件架构；② CLIP 如何训练出那双"眼睛"。架构图和损失函数都懂了，可一张图到底是怎么一步步变成 LLM 能处理的 token 序列的，脑子里还是糊的。这很正常——因为中间隔着太多 shape 变换，光看公式记不住。写一个玩具 VLM，打印每一个中间张量的 shape，跟着数据走一遍。零依赖：纯 Python，不用 torch/numpy，复制就能跑玩具维度：8×8 的小图、4 个 patch、d_v=8d_h=12——以。
2026-07-08 09:03:24
600
原创 【大模型】从零手写 CLIP：对比学习如何让模型“看懂“图文匹配？｜多模态大模型专栏②
上一篇建立了 VLM 的三组件心智模型：图像 →视觉编码器其中视觉编码器被形容为"租来的眼睛"——其权重在 VLM 训练开始前便已固定。那这双眼睛是怎么训练出来的？答案就是CLIP它开创的对比学习范式，至今仍是绝大多数 VLM（LLaVA、Qwen-VL、InternVL）视觉编码器的训练基础，SigLIP 更是它的直接改进版、当前 VLM 的默认编码器。✅ 画出 CLIP 的双塔架构，说清图文如何被拉到同一个向量空间✅ 逐行理解 InfoNCE 损失，知道"对角线"为什么是核心。
2026-07-08 08:59:48
413
原创 【大模型】多模态大模型（VLM）全景图：图像到底怎么喂给 LLM？｜从 NLP 到 VLM 专栏①
本文概述了视觉语言多模态大模型（VLM）的核心架构与训练流程，将其提炼为三个关键组件：视觉编码器、投影器和LLM。文章通过一张发票识别的实例，详细拆解了图像从输入到输出的完整处理流程，包括预处理、编码、位置编码、维度映射和序列拼接等步骤。同时揭示了VLM训练特有的三阶段渐进解冻策略，强调了投影器预训练阶段的必要性。最后提供了专栏的路线图，涵盖视觉基础、对齐机制、训练优化及评测部署等主题，为读者构建完整的VLM认知框架。全文以技术原理与工程实践并重，突出多模态与纯文本LLM的核心差异。
2026-07-08 08:56:01
706
原创 【大模型、工程实践】LLM Wiki 技术原理剖析:三层架构与四阶段检索管线
本文是「LLM Wiki 实战」系列第 4 篇(完结篇)。前三篇分别讲了入门全流程、火电报告实战、四大亮点。本篇把镜头拉到底层,讲透整个系统是怎么运作的:三层架构的职责边界、四阶段检索管线的数据流、关联度算法的计算、级联删除与可靠性工程。适合想理解「为什么这样设计」的读者,也是你二次开发或借鉴思路的参考。
2026-07-07 16:14:33
288
原创 【大模型、工程实践】LLM Wiki 亮点深挖:知识图谱、MCP、深度研究、两步摄入是怎么实现的
本文是「LLM Wiki 实战」系列第 3 篇。上一篇用一批火电报告跑了完整实战。本篇拆解四个最有工程含金量的功能,讲清楚它们——算法、依赖、配置、代码组织,而不只是「点这个按钮」。如果你只看 UI,LLM Wiki 像是个「导入 PDF → 聊天」的普通应用。
2026-07-07 16:13:24
433
原创 【大模型、工程实践】LLM Wiki 实战:用 6 份行业报告 PDF 构建一个能跨文档问答的知识库
本文是「LLM Wiki 实战」系列第 2 篇。—— 跑通了安装到问答的完整闭环。本篇用一批真实的行业报告,演示如何从「一堆 PDF」变成「一个能跨文档问答、能看图谱聚类的知识库」。
2026-07-07 16:11:40
401
原创 【大模型、工程实践】LLM Wiki 入门指南:用 AI 自动构建你的个人知识库
(任意 OpenAI 兼容端点,适合接 DeepSeek、通义、Moonshot 等)
2026-07-07 16:08:37
589
原创 【大模型】强化学习中的 On-Policy 与 Off-Policy
在强化学习中，策略（Policy）是智能体在给定状态下选择动作的规则，通常记为，表示在状态下采取动作的概率。方法适合场景不适合场景On-Policy需要高稳定性、在线交互可行、策略更新频繁样本获取昂贵、无法存储历史数据Off-Policy样本稀缺、可离线训练、需高样本效率策略差异大导致估计偏差、训练不稳定%24s%24%24a%24。
2026-01-28 15:14:29
935
原创 【工程实践】昆仑芯环境下离线部署 Dify 与插件安装完整复盘
Dify 1.10.1 在昆仑芯 + 内网离线 + Docker Compose环境下的部署问题，本质上不是“配置错误”，而是运行时假设与真实资源模型不匹配导致的一系列系统级失败。
2025-12-25 17:00:56
1544
原创 【大模型】Qwen3-Next
Qwen3-Next是Qwen系列最新升级的大模型，采用稀疏专家架构（80B总参/3B激活参）和混合注意力机制，显著提升训练效率和推理速度。在32K token长文本处理中，其prefill和decode阶段速度比前代快约10倍。通过"思考/非思考"双模式设计，可灵活应对不同复杂度任务。该模型在保持Qwen3性能优势的同时，降低了75%的训练成本，使大模型在文档处理、客服等长文本场景中的实用化成为可能，为资源受限环境提供了高性能AI部署方案。
2025-10-09 10:16:42
801
原创 【大模型】DeepSeek MoE架构
把激活专家区分为共享专家（Shared Experts）和路由专家（Routed Experts）。对于共享专家，输入数据无需经过路由模块的计算，所有数据都会通过共享专家进行处理。对于路由专家，输入数据会先经过路由模块，该模块根据输入数据的特征选择最合适的专家进行计算。
2025-03-15 17:10:43
354
原创 【大模型】DeepSeek-R1-Zero的强化学习
DeepSeek-R1-Zero通过纯强化学习框架、创新的奖励设计及自我进化机制,实现了推理能力的显著提升。其核心贡献在干验证了RL在无监督场景下激发模型复杂推理能力的可行性.
2025-03-10 15:55:43
304
原创 【大模型】DeepSeek-R1与DeepSeek-R1-Zero
通过引入数千条高质量的冷启动数据进行初始微调，解决了DeepSeek-R1-Zero的可读性和语言混杂问题，显著提升了模型的可读性和多语言处理能力。
2025-03-10 15:45:36
315
原创 【大模型】强化学习算法PPO
RLHF 主要分为奖励模型训练和近端策略优化两个步骤。奖励模型通过由人类反馈标注的偏好数据来学习人类的偏好，判断模型回复的有用性以及保证内容的无害性。奖励模型模拟了人类的偏好信息，能够不断地为模型的训练提供奖励信号。在获得奖励模型后，需要借助强化学习对语言模型继续进行微调。OpenAI 在大多数任务中使用的强化学习算法都是近端策略优化算法（Proximal Policy Optimization, PPO）
2025-03-08 18:02:56
294
原创 【大模型】强化学习
而使用强化学习方法，则可以通过定制奖励函数，将正确答案赋予非常高的分数，放弃回答的答案赋予中低分数，不正确的答案赋予非常高的负分，使得模型学会依赖内部知识选择放弃回答，从而在一定程度上缓解模型幻觉问题。动作会在环境中执行，环境会根据智能体采取的动作，给出下一个状态以及当前动作所带来的奖励。强化学习（Reinforcement Learning，RL）研究的问题是智能体（Agent）与环境（Environment） 交互的问题，其目标是使智能体在复杂且不确定的环境中最大化奖励（Reward）。
2025-03-08 17:18:05
352
原创 【大模型】使用AutoAWQ量化大模型
AutoAWQ是一个易于使用的4位量化模型包。与FP16相比，AutoAWQ将模型速度提高了3倍，内存需求降低了3倍。AutoAWQ实现了用于量化LLM的激活感知权重量化（AWQ）算法。AutoAWQ是在麻省理工学院的原始工作基础上创建和改进的。以下是使用AutoAWQ的三种量化方法对大模型进行量化的代码。更详细的教程可以参照github地址。1.2.
2025-02-27 16:18:58
1625
原创 【大模型】使用open-webui管理本地大模型
Open WebUI 是一个开源的工具，用于运行和管理大语言模型 (LLM) 及其他人工智能功能。它的主要目的是简化的本地部署和操作，让用户能够方便地通过浏览器界面与各种 AI 模型进行交互。
2025-02-27 11:17:36
836
原创 【大模型】使用vllm启动DeepSeek-R1-Distill-Qwen-1.5B
使用vllm启动DeepSeek-R1-Distill-Qwen-1.5B。
2025-02-26 15:39:38
300
原创 【大模型】大模型量化
最后，在知道了这么多量化方法后，对于如何选择量化，关于LLAMA-3 量化相关的论文中的相关结论。1. 8bit 量化是免费午餐，无损失。2. AWQ 4bit量化对8B模型来说有2%性能损失，对70B模型只有0.05%性能损失。可以说也是免费午餐了。3. 参数越大的模型，低bit量化损失越低。AWQ 3bit 70B 也只有2.7%性能损失，完全可接受。4. 综合来说，如果追求无任何性能损失，8B模型用8bit量化，70B模型用4bit量化；
2025-02-25 17:41:37
2280
原创 【大模型】DeepSeek-R1技术解读
对于同个问题，产生N个回答，计算群组内的相对奖励来估计基线，相对奖励是平均值。奖励模型本身也是基于同一个问题的输出进行一个preference的比较训练。GRPO是在计算组内优势值的时候，进行一个相对值的计算，提升组内好回答的比例，降低组内坏回答的比例，具有天然的相对优势。GRPO分为两种，第一种是基于结果监督的GRPO。
2025-02-25 11:56:22
852
原创 【大模型】基于规则奖励模型复现deepseek-r1-Zero
根据qwen2.5-0.5b和基于规则设计的奖励模型，使用GRPO强化学习复现deepseek-r1-Zero。
2025-02-21 17:37:07
554
原创 【大模型】从DeepSeek-R1看对齐技术的革新之路
在以往大模型的训练过程中，"Pretrain → SFT → RL"的三步训练范式统治着大语言模型（LLM）的开发流程。但是当模型参数量突破千亿级别后，单纯增加训练数据量和计算资源带来的边际效益急剧下降。DeepSeek在R1系列模型中提出的“分阶段交替增强训练框”架设计打破了传统的"预训练-SFT-RL"三阶段范式。
2025-02-21 16:11:00
685
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人