- 博客(345)
- 收藏
- 关注
RSS订阅原创 agent的评测:短预算评测会给出反向结论
聊完形态，回到一个更基础也更稀缺的能力：你怎么知道它变好了。没有这一层，前面所有设计都无法验证。这一节单独成章，因为在面向 agent 的调研中，"会做评测"是性价比最高的差异化能力。国内分析里明确把"Agent 评测 / AI Safety"列为"小众但极度稀缺"的方向。
2026-11-06 14:16:28
270
原创 Loop 工程：包含元素与常见失败模式
Loop 工程是设计自动化控制结构的实践：它以计划或事件为触发，反复调用 coding agent；每个 agent 循环都被一个机器可检查的停机条件约束。一个工程化良好的循环会：跨循环持久化状态；独立于实现 agent 来验证结果；限制推理成本；限制无人值守循环可以不经批准就改动什么；并定义人类应该在何时介入。这一定义比任何博客都完整，因为它把"工程良好"拆成了五个可验收的条件。判断一个 loop 做得好不好，对照这五条即可。
2026-11-05 18:33:24
94
原创 Harness 层：OpenAI、Anthropic、Stripe、DeepSeek 四家 Agent 工程范式拆解（2026）
Thoughtworks 的 Birgitta Böckeler 提供了一个我认为最实用的思维模型，它把 harness 分成内层（模型厂商内置的，比如系统提示、代码检索机制）和外层（用户自己搭的，比如指令文件、MCP server、自定义 skill）。这条光谱的实践含义是：扩展深度与扩展安全性是一根轴的两端，不是两个可以分别优化的指标。但要注意一个诚实的分寸：那篇广为流传的"harness 决定了 70% 性能"的说法，其作者自己承认 70% 是个记忆性的框架数字，不是任何单一研究的结论。
2026-11-05 18:19:23
684
原创 agent厂商与产品汇总：以及一些观察到的现象和趋势
把这一点和上面那条安全含义放在一起，结论就是：它确实降低了"造工具"的门槛，但同时也降低了"在你机器上装一个你不完全理解的工具"的门槛。它的口号是"你的 Harness，由你定义"——你用自然语言描述想要的功能，agent 把它写成插件、装进自己运行的环境。它比传统漏洞更棘手的地方在于"合规"：用的是官方提供的插件管理工具、官方文档教的流程，界面上就是一个日常操作。如果落后在治理和成熟度，而领先在可替换性，那不是落后的产品，是面向另一群人的产品——而"另一群人"的数量，往往被星标数严重高估。
2026-11-05 17:56:03
407
原创 上下文工程和它的难点：上下文投毒，上下文分心，上下文混淆，上下文冲突，上下文惯性与解决方式
超预算不是报错，而是尾部直接不再进入 prompt、且不写任何日志——所以他们专门写了个 persona-check 工具来报溢出的确切数字、报警同一事实被写进两个文件（会被注入两遍）、报没有日期的行，并在发现密钥时直接拒绝。技能里堆积了各种奇怪的修补，通用 agent 用一种方式解决了一个任务，又用另一种方式重新发现了类似任务的解法，指令和记忆开始互相冲突。把这两个样本和前面几节并排放，会看到一个不太舒服的对称：本章上半部分在证明"记住太多会坏"，这两个插件在证明"记不住是因为没人负责"。
2026-11-05 17:22:31
325
原创 什么时候用单agent，什么时候用多agent
他们同时也诚实地说了收益：==多 agent 配置在内部研究评测上比单个 Claude Opus 4 agent 高 90.2%，而且仅 token 用量就解释了约 80% 的性能方差。==但附带了明确的适用条件——只有任务价值足以支撑这个开销时才划算，而需要 agent 之间共享上下文的任务受益最小。
2026-11-05 16:18:03
424
原创 agent工程师需要掌握的技能，从全网多个网站汇总的面试问题和答案，agent开发应用vicecoding
本文是《Agent 工程全景》的配套知识总结，将Agent工程知识分为五层能力模型（L1-L5），从概念理解到判断力逐级递进，揭示多数人止步于L2，而L3评测与L5判断力为分水岭。通过155个高频知识点的主题地图与12个核心主题的要点精讲，系统梳理了上下文管理、工具调用、多agent架构、评测体系等关键问题，并提供“自我追问四问”检验掌握程度。文中强调反直觉认知：提升表现先看可harness性，多agent需算成本，自演化需正则化。最后以Anthropic自建Scion系统为例，揭示Agent时代基础设施正
2026-11-04 14:22:31
135
原创 Qwen 3.5 / 3.6 / 3.7 / 3.8：开源 MoE 与 Dense 模型的通用能力指标汇总
本文对比Qwen 3.5、3.6、3.7、3.8四代模型的通用能力，涵盖知识、推理、编码、Agent与多语，数据源自Hugging Face官方Model Card，未做换算。强调三处易误读点：评测集版本迭代、对照模型不同、报告口径收紧。3.5为唯一全尺寸开源系列，显示参数规模与性能非线性增长；3.6聚焦agentic任务，3.8引入2.4T-A95B等大模型并开源。关键发现：MoE在低激活下接近Dense表现，397B级模型在长程与多语任务显著领先。所有分数基于思考模式，默认开启。
2026-11-03 16:00:33
371
原创 上下文token压缩量化kvcache等节省技术全面预览，2023到2026，从压缩到kv, 从token到agent
2026年，AI Agent的Token成本飙升，上下文压缩成为刚需。本文系统梳理2023–2026年主流压缩技术：从截断、摘要到KV Cache压缩（如H₂O、KIVI、GraceKV），实现压缩比达128倍；引入可学习软提示与信息熵筛选（如Selective Context）提升效率；最终迈向智能自适应与场景专用（如AdaComp、TaC），并拓展至多模态领域。技术演进呈现“由外而内、由人工到学习、由通用到专用”趋势，标志着从学术研究迈向工程落地的产业化浪潮。
2026-09-18 14:00:34
428
原创 github上关于节省token的项目一览，上下文压缩，节省token,agent优化skill,热门项目
2026年5月至8月，GitHub涌现以“省Token”为核心的开源浪潮，推动AI Agent工作流深度产品化。头部项目如Headroom（可逆压缩）、caveman（输出精简）、pxpipe（视觉偷渡）等，通过智能中间件、行为优化、多模态降本等六大学派路径，实现90%以上Token节省。这些技术融合学术成果与工程创新，将压缩从算法层延伸至流程、接口与计费策略，形成低成本、高效率的AI开发新范式。
2026-09-10 16:07:32
581
原创 常用的optimizer优化器和优化函数::[掩码SkipUpdate-＞Magma]
长期以来，密集梯度更新几乎是大语言模型训练的默认前提。但 Magma 的出现证明了，面对 Transformer 极度复杂和异质的优化空间，与其一味追求计算昂贵的二阶矩阵预处理，不如巧妙引入结构化的随机性。这种基于动量对齐的参数掩码策略，不仅从底层逻辑上实现了有效的几何正则化，更为当下亟需降低训练成本、提升稳定性的基础模型开发，提供了一条极具潜力的工程新路径。
2026-02-25 15:21:04
829
原创 MoE 模型的训练–推理差异:R2-＞R3-＞MiniRL
RL 训练中的“训练-推理不匹配”难题:引擎差异、序列ort oken级奖励：重要性采样IS/切回 FP16精度/直接优化token奖励MoE 模型的训练–推理差异:Rollout Routing Replay（R3）MoE 模型的训练–推理差异:R2-＞R3-＞MiniRL
2025-12-10 11:50:57
617
原创 RL 训练中的“训练-推理不匹配”难题:引擎差异、序列ort oken级奖励：重要性采样IS/Clip/切回 FP16精度/直接优化token奖励
虽然理论上 μ = π，但由于数值精度和硬件优化差异，实际上它们并不相等。
2025-12-10 11:40:08
1255
原创 MoE 模型的训练–推理差异:R2-＞R3-＞MiniRL
θ：模型参数。πθ：目标策略（待优化）。μθold：Rollout 策略（用于采样回复）。注意，这里区分了 π（训练引擎中的策略）和 μ（推理引擎中的策略）。x：输入 Prompt，y：回复，R(x,y)：序列级标量奖励。
2025-12-09 17:59:10
829
原创 MoE 模型的训练–推理差异:Rollout Routing Replay（R3）
max_seq=65536，batch=64，交互步≤50，lr=2e-6，mini_step=1。表 2 显示，无 R3 的 GRPO 约 90 步崩溃，GRPO+R3 稳定至 160 步，最终 Pass@1 达 38.6，提升 6.8 分。图 2d 的累积分布曲线也表明，R3 使“训练-推理概率比”过大的 token 频率降低约一个数量级，直观验证了差异的显著缩小。即便输入序列一模一样，MoE 模型在 Megatron 引擎的两次前向中，最终输出的 token 概率仍可能不同。
2025-12-09 14:35:00
1341
原创 RL 训练中的“训练-推理不匹配”难题:根源分析于解决办法（重要性采样IS 、 切回 FP16精度）
为了解决训练不稳定和难以收敛的问题，业界提出了各种复杂的算法补丁（如Token-level Importance Sampling等）。
2025-12-08 20:21:32
804
原创 MoE 模型 Post-Training 的核心难点
首先，路由机制在微调阶段极易失稳。MoE 模型依赖一个可学习的 router 来决定每个 token 应该分配给哪些 expert。在预训练阶段，模型通过海量数据学习到一个相对均衡的专家激活分布。但一旦进入 Post-Training 阶段，训练数据量锐减、任务目标高度聚焦（如指令微调、工具调用、安全对齐等），router 很容易陷入“马太效应”——少数专家被频繁激活，而其他专家逐渐“失活”。这种失衡不仅导致模型容量浪费，还会显著降低泛化能力。
2025-12-05 11:16:35
1178
原创 训练时可以调整的参数
学习率是微调LoRA（Low-Rank Adaptation）模型时的一个关键超参数，它对模型的训练动态和最终性能有着显著的影响。
2025-12-05 11:14:08
831
原创 LOKI::AAAI-26 Oral | 对抗灾难性遗忘的LLM微调
论文： https://arxiv.org/abs/2505.22120代码： https://github.com/Nexround/LoKI （支持集成到 Llama-Factory！LoKI 的全称是 Low-damage Knowledge Implanting（低损伤知识植入）。思路：不要搞“大水漫灌”式的更新，要搞“精准滴灌”。
2025-12-05 11:03:44
326
原创 WSD（Warmup-Stable & Decaying）、WSM（Warmup-Stable & Merge）训练策略
对比这些同期工作，我们希望从更general的角度讨论 CKPTs merging 和 LR decay 的双向转换关系，并在正式模型训练中用 CKPTs merging 全面替换 LR decay，使其作为Ling的训练策略帮我们得到更好的CKPTs，而不仅仅是模型观测的手段。也希望WSM能带给社区更多启发。与 WSD 策略必须提前定好decay token量不同，WSM 赋予了我们极大的灵活性——我们可以在训练结束后，离线尝试不同的合并窗口大小，从中选出最优的合并方案，而无需任何额外的训练成本。
2025-12-05 11:01:26
1099
原创 MoE模型的核心架构---专家网络---门控网络/路由器
MoE架构并非单一固定的设计，但其核心组件和工作流程具有共通性。一个典型的MoE层通常嵌入在Transformer架构中，用于替代其中的前馈网络（Feed-Forward Network, FFN）层。关键的技巧在于：并不为每个 token 启用所有的专家模块（experts），而是由一个「路由器（router）」为每个 token 挑选出其中一小部分进行激活。MoE 的这种设计使得模型拥有极大的参数容量，在训练阶段能吸收更多知识；但在推理时由于稀疏激活，大幅降低了计算开销。
2025-12-04 16:47:23
1609
原创 DSA---deepseek sparse attn
论文通过引入 DeepSeek 稀疏注意力（DSA）机制，成功地在保持高性能的同时，显著提升了大型语言模型在长上下文场景下的训练和推理效率。提出了一种有效的稀疏注意力架构（DSA）：通过结合一个轻量级的“闪电索引器”和一个细粒度的 Top-k Token 选择机制，DSA 实现了一种灵活且高效的动态稀疏注意力模式。这种“先粗筛，后精算”的范式，在理论和实践上都被证明是可行的。
2025-12-03 19:47:16
1342
原创 RL更新稀疏性&full rank------RLVR避开主权重，而SFT瞄准它们，The Path Not Taken: RLVR Provably Learns Off the Principal
论文1：Reinforcement Learning Finetunes Small Subnetworks in Large Language Models作者对上述稀疏性的原因进行了进一步探究。
2025-12-01 15:57:39
1091
原创 强化学习后训练框架--共置式--分离式
LLM强化学习后训练框架大致可以分为共置式（Task-Collocated）与分离式（Task-Separated）两类。共置框架下，各个计算任务部署在整个集群上串行执行，构成一个时分复用的系统；而分离框架则允许部分或全部计算任务布放在不同的设备，构成一个空分复用的系统。PPO算法流程，包括三个阶段+四个模型+六个任务（图片来源：https://arxiv.org/pdf/2409.13221v1）
2025-12-01 15:14:58
766
原创 selected DPO ---训练数据应匹配模型能力,过难的训练样本反而可能严重损害模型对齐性能。
项目主页：https://github.com/glorgao/SelectiveDPO基于此，提出 Selective DPO：先过滤掉过难样本，再执行标准 DPO。无需算法大改，即可在 AlpacaEval 2 上比 DPO 基线提高 9–16 个点的 win rate，超过一系列 DPO 变体。
2025-11-28 18:04:55
1179
原创 序数回归：损失函数：ordinal_regression_loss
在医疗 AI 领域，很多分类任务具有有序类别的特性，如疾病严重程度（轻度→中度→重度）、肿瘤分级（G1→G2→G3）等。这类任务被称为序数回归（Ordinal Regression），需要特殊的损失函数设计。本文将深入解析序数回归损失函数的原理及其实现代码。
2025-11-26 14:36:10
510
原创 大模型知识蒸馏的方法: DeepSeek， Llama 4 & Gemma 3中使用的技术
在用于按物种对动物图像进行分类的模型中，最早的隐藏层可能只是辨别照片的一部分中存在动物形状;捕捉样本之间的关系或特征间的关联性，例如通过对比学习的方式传递相似性信息。这些关系和相关性可以通过多种方式进行建模，包括特征图之间的相关性、表示不同层之间相似性的矩阵、特征嵌入或特征表示的概率分布。例如，在主要用于图像分割等计算机视觉任务的卷积神经网络中，随着数据在网络中传输，每个连续的隐藏层都会逐渐捕获更丰富的细节。同时也将相同的数据输入未经训练的学生模型，获取它的 softmax 概率分布。
2025-11-24 17:12:10
1051
原创 测试时扩展，如何选择最优扩展策略，COT，自洽性解码，思维树，MCTS
这个公式表示，总的验证分数是所有验证器评分的乘积。验证器增强推理 是一种通过使用验证器（Verifier）来检查模型生成的答案的正确性，从而提高推理准确率的技术。事实验证器：知识库检索验证。例如，可以使用知识库来检索相关信息，然后判断模型生成的答案是否与知识库中的信息一致。乘积的原因：使用乘积的原因是，如果有一个验证器的评分很低，则总的验证分数也会很低，这表示答案的可靠性较低。其他组合方式：除了乘积之外，还可以使用其他的组合方式，例如，加权平均。可以构建一个多层验证体系，对模型生成的答案进行多方面的验证。
2025-11-21 11:54:37
319
原创 模型汤Model Soups
使用模型汤 (Model Soups) 提升稳健性和性能：平均权重。无需额外成本，效果更佳。“模型汤”（可惜不是“模型砂锅菜”或“模型炒菜”）是一类模型集成技术，旨在减轻优化训练数据和模型超参数的成本。在训练神经网络时，您通常会尝试不同的数据和超参数值并多次训练，以寻找性能最佳的结果。训练在计算上非常昂贵，并且成本会迅速增加。相反，“模型汤”涉及使用不同的超参数和训练数据选择来训练多个模型——与您通常的做法相同——然后将它们组合起来。结果是比单个最佳模型性能更高、更稳健的模型。
2025-11-19 11:45:30
256
原创 常用的optimizer优化器和优化函数::[MUON-＞MuonClip-＞Gluon-＞AdaMuon-＞NAMO ]
Kimi.ai 的 Moonlight 模型（一个 16B 参数的 MoE 模型，使用 5.7T tokens 训练）成功采用 Muon 作为主要优化器，证明了其在工业级规模应用的可行性。
2025-11-18 20:52:38
1531
原创 常用的optimizer优化器和优化函数::[lion, tiger]
自Adam提出以来，由于其快速收敛的特性成为了很多模型的默认优化器。甚至有学者提出，这个现象将反过来导致一个进化效应：所有的模型改进都在往Adam有利的方向发展，换句话说，由于我们选择了Adam作为优化器，那么就有可能将很多实际有效、但是在Adam优化器上无效的改动都抛弃了，剩下的都是对Adam有利的改进，详细的评价可以参考《NEURAL NETWORKS (MAYBE) EVOLVED TO MAKE ADAM THE BEST OPTIMIZER》。
2025-11-17 21:00:41
823
原创 JEPA（联合嵌入预测架构），LeJEPA
Lｅｃｕｎ著名的“蛋糕论”：“然而，当时主流的SSL范式让他深感不满：对比学习 (Contrastive Learning): 这条路径的核心是“分辨异同”。它通过数据增强制造“相似的样本”（正样本），再将其与其他所有样本（负样本）进行对比，迫使模型学习到一个“物以类聚”的表示空间。生成式学习 (Generative Learning): 这是以BERT、GPT、Diffusion为代表的“完形填空”范式。通过遮盖一部分输入（像素、文字），让模型去预测并重建被遮盖的内容。
2025-11-17 20:25:20
1647
2
原创 搜索智能体
DeepResearch (深度研究) ：解决「我写不好」的问题。这类任务要求智能体围绕一个复杂主题进行综合研究，并生成一份高质量的报告，考验的是其信息整合与内容生成能力。DeepSearch (深度搜索) ：解决「我找不到」的问题。这类任务要求智能体挖掘隐藏深、难以发现的特定事实，考验的是其深度推理和信息挖掘能力。WideSearch 论文则提出了第三个范式，专注于解决「我能做，但工作量太大」的问题。保真度要求高：最终结果要求极高的完整性和准确性，任何一个信息点的遗漏、错误或冗余都可能导致整个任务失败。
2025-11-13 16:45:06
165
原创 自进化AI代理
自进化AI代理是自主系统，通过与环境的交互持续且系统地优化其内部组件，目标是在保持安全性和提升性能的同时适应变化的任务、上下文和资源。
2025-11-13 16:44:46
1037
原创 Meta-Chunking （2024.8.16） Late Chunking（jina 2024.8.4）Anthropic (2024.9.20)Small Language Model
它们不生成完整的文本块，而是输出关键点或子主题。简单来说，因为它只提取关键点或子主题，这就相当于抓住了片段的核心意思，通过文本的语义转换，来更准确地识别边界，保证文本块的连贯性。topic-qwen-0.5: 这个模型受到了思维链 (Chain-of-Thought) 推理的启发，它会先识别文本中的主题，比如“第二次世界大战的开始”，然后用这些主题来定义分块边界。
2025-11-13 16:44:05
868
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人