CodeWalker_c-优快云博客

原创自进化Agent新思路：Reflexion语言强化学习框架全解析

Reflexion提出一种轻量化语言强化学习范式，不微调模型，依靠文本自省反馈完成Agent迭代。本文拆解其三层模型架构、自反思循环流程，对比ReAct/CoT基线在环境决策、多跳问答、代码生成场景的提升效果，并梳理该方案优缺点与工程落地参考，适合做大模型自主规划、自动调试类业务开发者阅读。

2026-08-03 15:46:29 377

原创告别“失忆AI”：HINDSIGHT——一套能区分事实、记忆与主观观点的Agent结构化记忆架构

现有 Agent 记忆方案基于简单 RAG 向量检索，存在事实与主观观点混淆、长时序信息丢失、Agent 偏好前后不一致等痛点，MemGPT、Zep、Mem0 等主流架构均未从底层解决认知分层问题。Vectorize.io 等机构提出HINDSIGHT结构化记忆架构，将记忆划分为世界事实、Agent 经历、实体摘要、主观观点四大独立网络，实现客观信息与主观信念彻底隔离；依托 TEMPR、CARA 两大组件实现 Retain（结构化入库建时序实体图谱）、Recall（四路并行融合检索）、Reflect（带人

2026-07-27 16:35:33 425

原创 Anthropic Contextual Retrieval 深度拆解：根治RAG分块上下文丢失难题，检索失败率直降67%

传统RAG存在致命缺陷：文档切割成小块后代词、实体、时间等上下文信息断裂，向量检索极易漏召回关键段落，大幅降低知识库问答准确率。Anthropic 2024推出**上下文检索（Contextual Retrieval）**，通过**上下文嵌入+上下文BM25**双核心技术，在分块预处理阶段用Claude为每段文本生成专属前置说明，补齐丢失背景信息。多领域实测数据显示：仅上下文嵌入可降低35%检索失败；搭配上下文BM25下降49%；再叠加重排（Reranking）后，Top20检索失败率直接降低67%。

2026-07-24 14:00:50 329

原创突破前缀缓存局限：Prompt Cache模块化KV复用，LLM首包延迟最高降60倍

传统KV Cache仅支持**单请求内缓存复用**，Prefix前缀缓存又强制要求共享文本必须位于Prompt头部，无法适配RAG、代码生成、个性化推荐等大量模块化拼接Prompt的业务场景。耶鲁大学联合谷歌发布于MLSys 2024的Prompt Cache，提出**跨请求模块化注意力缓存复用**方案：通过自定义Prompt标记语言PML拆分可复用提示模块，解决Transformer位置编码导致的跨片段KV复用难题，无需修改模型权重即可实现任意位置静态文本段的KV预计算与全局复用。实测GPU推理首toke

2026-07-23 17:09:59 352

原创 ReAct 深度解析：让大模型边思考边行动，打通推理与工具交互的Agent底层范式

大模型Chain-of-Thought（CoT）仅依赖内部知识推理，易产生事实幻觉；纯行动式Agent仅执行工具调用，缺少高层规划导致任务迷失。ICLR 2023论文《ReAct: Synergizing Reasoning and Acting in Language Models》提出**推理+行动交错生成**的全新范式，通过「Thought（思考）-Action（动作）-Observation（环境反馈）」循环闭环，实现“思考指导行动、行动补充思考”的双向协同。本文基于论文完整实验，拆解ReAct核心

2026-07-20 17:24:51 265

原创一文讲透：到底什么是RAG？普通人&开发者都能看懂

本文全面解析了RAG（检索增强生成）技术，旨在解决通用大模型在企业应用中面临的私有知识缺失、信息过时及幻觉等痛点。文章详细阐述了RAG的核心架构，包括离线知识构建链路与在线问答链路，并深入探讨了从基础版到智能体版的演进路径。此外，文中还建立了包含检索质量、生成质量及系统性能的评估体系，论证了RAG如何通过“基于证据生成”实现可信、可控的知识应用，是连接通用大模型与私有数据的关键桥梁。

2026-07-12 12:58:54 399

原创【Transformer详解·下】解码生成逻辑！BERT/GPT/Cross-Encoder架构差异全梳理

本篇聚焦 Transformer 解码器 Decoder、掩码自注意力与跨注意力机制，完整还原机器翻译端到端推理流程；结合检索落地场景，对比区分仅 Encoder 的 BERT、仅 Decoder 的 GPT、拼接输入交互的 Cross-Encoder 三类主流衍生模型，清晰说明 Bi-Encoder 粗召回与 Cross-Encoder 精排的工程分工；最后汇总 Transformer 全部核心组件，给出文本生成、语义检索等不同业务场景下的模型选型方案，打通理论与工业落地。

2026-07-06 17:45:00 255

原创从Seq2Seq到Transformer，彻底读懂AI大模型底层基石

本文从传统 Seq2Seq 模型的固有缺陷切入，梳理 Transformer 诞生的技术背景，完整介绍 Transformer 基础输入处理逻辑（词嵌入 + 位置编码），逐层拆解 Encoder 编码器结构与核心多头自注意力机制，讲解 QKV 计算、多头注意力原理、残差连接与前馈网络的作用，阐明自注意力如何解决 RNN 长依赖、信息压缩丢失等痛点，搭建起 Transformer 编码器的完整知识框架，为下篇 Decoder 与各类衍生模型讲解铺垫基础。

2026-07-04 11:49:44 464

原创别再混淆机器学习与深度学习！从底层原理到业务选型全解析

当下生成式大模型普及，多数技术从业者仍分不清机器学习与深度学习的本质边界。本文从AI、机器学习、深度学习、大模型四层从属体系切入，拆解传统机器学习依赖人工特征工程的完整业务流程，结合金融风控、电商用户运营真实落地案例分析其优劣；同时系统讲解深度学习端到端自动特征提取核心能力，从神经元、激活函数、正反传播梳理神经网络底层运行逻辑，对比两类技术算力、数据、可解释性、适用场景的核心差异，给出标准化工程选型方案，最后串联深度神经网络与Transformer大模型的底层同源关系，帮助程序员建立完整AI知识框架，解决项

2026-07-01 14:02:41 425

原创终于有人把大模型讲明白了：一个正在改变世界的“超级大脑”

大模型是一个由海量数据训练而来、拥有超千亿参数的“超级文字接龙高手”，它通过计算概率生成内容，并借助RAG、函数调用等“外挂”技术，正进化为能独立完成复杂任务的AI智能体。

2026-06-30 19:42:51 392

followin_g的博客