<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[Ricky Yang的专栏]]></title><description><![CDATA[做难而正确的事]]></description><link>https://blog.youkuaiyun.com/yangyy753</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; yangyy753]]></copyright><item><title><![CDATA[多智能体协同系统：从理论到实践的深度解读]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/163046878</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/163046878</guid><author>yangyy753</author><pubDate>Mon, 20 Jul 2026 14:37:12 +0800</pubDate><description><![CDATA[摘要 多智能体协同系统（MAS）通过多个自主智能体的交互协作，能够解决单一智能体无法处理的复杂任务。随着大语言模型（LLM）的发展，基于LLM的多智能体系统展现出强大能力。本文从理论基础、技术演进和实现细节三个方面系统阐述了多智能体协同技术。在核心原理部分，文章形式化定义了MAS系统，分析了协同机制、通信协议和任务分解的数学模型。技术演进部分梳理了从早期分布式AI到深度强化学习，再到基于LLM的多智能体系统的发展历程。实现细节部分展示了现代LLM智能体的架构设计和协同策略的代码实现，为构建高效多智能体系统提]]></description><category></category></item><item><title><![CDATA[Diffusion扩散模型：生成式AI的核心引擎深度解读]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/162522844</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/162522844</guid><author>yangyy753</author><pubDate>Thu, 02 Jul 2026 15:57:06 +0800</pubDate><description><![CDATA[扩散模型是当前生成式AI领域最前沿的技术之一，通过模拟数据从噪声到真实样本的逆向过程实现高质量生成。其核心原理基于马尔可夫链和变分推断，通过训练神经网络预测噪声分布来实现去噪。相比传统GAN，扩散模型具有生成质量高、训练稳定等优势。技术演进上，从DDPM到DDIM实现了采样加速，结合CLIP等模型进一步拓展了文本到图像生成能力。典型实现采用U-Net架构，融入时间嵌入和注意力机制。该技术已在图像生成等领域展现强大潜力，成为AI研究的重要方向。]]></description><category></category></item><item><title><![CDATA[多智能体协同技术深度解读]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/162272288</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/162272288</guid><author>yangyy753</author><pubDate>Wed, 24 Jun 2026 14:38:43 +0800</pubDate><description><![CDATA[多智能体协同技术正在从学术研究走向工业应用，其核心价值在于通过专业化分工和协作，突破单一模型的能力边界。当前实践中，层级协作和角色扮演范式已证明有效，但仍面临通信效率、一致性保证、安全性验证等挑战。随着LLM推理能力的持续提升和工具生态的完善，多智能体系统将在软件开发、科学研究、企业运营等领域发挥关键作用。未来研究方向包括：更高效的通信协议、自适应任务分解算法、跨模态协作机制，以及可解释性和可控性保障。理解并掌握多智能体协同技术，是构建下一代智能系统的必备能力。参考文献。]]></description><category></category></item><item><title><![CDATA[SFT深度解读：从预训练到指令遵循的关键桥梁]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/162106450</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/162106450</guid><author>yangyy753</author><pubDate>Thu, 18 Jun 2026 18:32:07 +0800</pubDate><description><![CDATA[本文探讨了大语言模型（LLM）中的监督微调（SFT）技术。SFT通过在高质量指令-响应对上进行有监督训练，使预训练模型从"知识库"转变为"智能助手"，解决了指令对齐这一核心问题。文章详细阐述了SFT的数学基础、指令格式设计、梯度更新特性以及数据质量要求，并梳理了SFT的技术演进历程：从早期单任务微调，到多任务指令微调，再到InstructGPT等现代指令遵循模型。最后，文章提供了SFT实现的具体细节，包括数据准备、模型配置和超参数设置等实践要点。SFT作为连接预训练与对齐的关键环节，对构建高质量语言模型具有]]></description><category></category></item><item><title><![CDATA[RLAIF技术深度解读：AI反馈驱动的大模型对齐新范式]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/162070904</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/162070904</guid><author>yangyy753</author><pubDate>Wed, 17 Jun 2026 15:35:06 +0800</pubDate><description><![CDATA[本文深入探讨了RLAIF（基于AI反馈的强化学习）技术，重点分析了其核心原理、技术演进和实现细节。文章指出，RLAIF通过使用AI模型替代人类进行反馈标注，解决了RLHF依赖大量人工标注的瓶颈问题。其技术框架包含监督微调、AI生成偏好数据与奖励建模、强化学习优化三个阶段。 文章对比了RLAIF与RLHF的优势与局限，强调RLAIF在可扩展性、一致性和速度方面的优势，同时也指出AI评估器能力上限和偏见传递等挑战。技术演进部分梳理了从RLHF到RLAIF的关键突破，包括Constitutional AI、Cha]]></description><category></category></item><item><title><![CDATA[BLIP：自举式语言-图像预训练的统一多模态理解与生成框架]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161901187</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161901187</guid><author>yangyy753</author><pubDate>Thu, 11 Jun 2026 19:38:28 +0800</pubDate><description><![CDATA[本文介绍了多模态视觉-语言预训练模型BLIP系列的核心原理与技术演进。BLIP通过多模态混合编解码器（MED）架构，统一了图文对比学习、图文匹配和语言生成三种预训练目标，显著提升了参数效率和模型性能。其创新的CapFilt数据清洗机制通过自举循环提升训练数据质量。BLIP-2进一步提出Q-Former架构，以轻量级模块桥接冻结的视觉编码器与大语言模型，奠定了多模态大模型的基础范式。文章系统梳理了BLIP系列从模型架构、训练策略到技术演进的全貌，揭示了多模态学习从早期区域特征对齐到当前LLM驱动范式的发展路径]]></description><category></category></item><item><title><![CDATA[GLM架构深度解读：清华大模型的核心技术]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161868684</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161868684</guid><author>yangyy753</author><pubDate>Wed, 10 Jun 2026 19:03:19 +0800</pubDate><description><![CDATA[本文系统介绍了GLM（General Language Model）架构的核心原理、技术演进与实现细节。GLM创新性地提出自回归填空预训练方法，通过统一的自回归填空框架融合了自编码与自回归两种范式，支持双向注意力与自回归生成的混合计算。其关键技术包括二维位置编码、特殊注意力掩码设计以及文档级与句子级多任务目标。自2021年提出以来，GLM架构经历了从110M参数的初代模型到千亿级GLM-130B的演进，并支撑了ChatGLM系列对话模型和最新的GLM-4多模态模型发展。文章详细解析了GLM的预训练数据处理流]]></description><category></category></item><item><title><![CDATA[CLIP：多模态视觉-语言预训练模型的革命性突破]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161854569</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161854569</guid><author>yangyy753</author><pubDate>Wed, 10 Jun 2026 11:06:34 +0800</pubDate><description><![CDATA[摘要： CLIP（Contrastive Language-Image Pre-training）是OpenAI提出的突破性多模态模型，通过对比学习将图像和文本映射到统一语义空间，实现视觉与语言的深度融合。其核心采用双塔架构（图像编码器可选ResNet/ViT，文本编码器为Transformer），利用对称损失函数优化4亿互联网图像-文本对的匹配关系。CLIP的创新在于零样本迁移能力，无需微调即可通过自然语言描述完成分类等任务，显著拓展了AI应用的灵活性。后续研究（如ALIGN、BLIP）进一步验证了数据规]]></description><category></category></item><item><title><![CDATA[MCP（Model Context Protocol）技术深度解读]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161806332</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161806332</guid><author>yangyy753</author><pubDate>Mon, 08 Jun 2026 19:04:02 +0800</pubDate><description><![CDATA[在大型语言模型（LLM）快速发展的今天，如何让AI助手安全、高效地与外部系统交互成为关键挑战。传统的API集成方式存在标准化程度低、安全性难以保障、开发成本高等问题。为了解决这些痛点，Anthropic公司于2024年推出了Model Context Protocol（MCP），这是一个开放标准协议，旨在统一LLM与外部数据源、工具的交互方式。MCP通过客户端-服务器架构，实现了上下文管理、工具调用、提示词模板等核心能力的标准化，为AI应用开发带来了革命性变化。本文将从技术原理、演进历程、实现细节等多个维度]]></description><category></category></item><item><title><![CDATA[TensorRT推理加速：深度学习模型部署的性能优化利器]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161725337</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161725337</guid><author>yangyy753</author><pubDate>Fri, 05 Jun 2026 17:21:07 +0800</pubDate><description><![CDATA[TensorRT深度学习推理优化技术解析 摘要：本文深入剖析了NVIDIA TensorRT的核心原理与技术实现，该工具通过计算图优化、精度量化和内核调优等关键技术大幅提升深度学习推理性能。文章详细介绍了TensorRT的层融合、常量折叠等图优化技术，INT8量化的KL散度校准方法，以及针对不同硬件的自动内核调优机制。同时分析了TensorRT从1.0到8.0的技术演进路线，展示了其如何适应从CNN到Transformer的架构变迁。通过实际代码示例，说明了模型转换流程和INT8校准实现方法，为工业级AI应]]></description><category></category></item><item><title><![CDATA[GRPO：Group Relative Policy Optimization 深度解读]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161688295</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161688295</guid><author>yangyy753</author><pubDate>Thu, 04 Jun 2026 14:41:35 +0800</pubDate><description><![CDATA[本文介绍了DeepSeek团队提出的GRPO（Group Relative Policy Optimization）算法，这是一种用于大语言模型（LLM）对齐训练的创新强化学习方法。GRPO通过引入组内相对优势估计机制，克服了传统PPO算法依赖价值网络、训练不稳定等缺陷。其核心思想是在同一prompt生成的多个回复之间进行相对奖励比较，直接使用组内相对优势替代传统优势函数估计。这种设计不仅简化了训练流程（无需价值网络），还能显著降低梯度方差，提升训练效率和稳定性。文章详细分析了GRPO的理论基础、技术演进路]]></description><category></category></item><item><title><![CDATA[BERT：双向编码器的革命性突破]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161623613</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161623613</guid><author>yangyy753</author><pubDate>Tue, 02 Jun 2026 14:19:27 +0800</pubDate><description><![CDATA[本文深入解析了BERT模型的核心原理、技术演进和实现细节。BERT通过双向Transformer编码器和Masked Language Model（MLM）、Next Sentence Prediction（NSP）两个预训练任务，实现了上下文相关的语言表示学习，在NLP领域取得突破性进展。文章详细介绍了BERT的架构设计、训练策略，对比了其与早期词嵌入方法和后续改进模型的差异，并提供了PyTorch实现示例。BERT的"预训练-微调"范式大幅提升了NLP任务性能，为后续大模型发展奠定了基础。]]></description><category></category></item><item><title><![CDATA[SGLang：结构化生成语言推理框架深度解读]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161592704</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161592704</guid><author>yangyy753</author><pubDate>Mon, 01 Jun 2026 14:22:58 +0800</pubDate><description><![CDATA[SGLang是由斯坦福大学和加州大学伯克利分校联合提出的高性能大语言模型推理框架，针对复杂多轮对话、结构化输出等场景优化。其核心创新包括： RadixAttention机制：通过基数树数据结构实现跨请求的KV Cache自动复用，避免重复计算共享前缀 跳跃前瞻解码：对格式化输出中的固定模板部分直接填充，仅采样变量槽位，提升3-5倍生成速度 约束解码引擎：通过正则表达式和JSON Schema保证输出严格符合预定义格式 声明式DSL：提供类Python的编程接口简化复杂推理流程开发 相比传统框架，SGLang]]></description><category></category></item><item><title><![CDATA[DPO直接偏好优化深度解读：无需奖励模型的RLHF革新]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161517438</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161517438</guid><author>yangyy753</author><pubDate>Fri, 29 May 2026 14:43:52 +0800</pubDate><description><![CDATA[摘要 DPO（Direct Preference Optimization）是一种革新性的大语言模型对齐技术，通过数学推导将传统的RLHF两阶段流程（奖励建模+强化学习）压缩为单阶段监督学习。其核心创新在于利用Bradley-Terry模型将偏好概率直接映射到策略优化目标，隐式实现奖励信号，无需显式训练奖励模型。相比RLHF，DPO在保持性能优势的同时大幅降低了计算成本和工程复杂度，成为当前开源社区的主流对齐方法。后续研究还衍生出IPO、KTO、ORPO等多种改进版本，推动了模型对齐技术的快速发展。]]></description><category></category></item><item><title><![CDATA[RAG检索增强生成深度解读：知识检索如何赋能大语言模型]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161489923</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161489923</guid><author>yangyy753</author><pubDate>Thu, 28 May 2026 17:06:29 +0800</pubDate><description><![CDATA[本文深入解析了检索增强生成（RAG）技术的核心原理、技术演进与实现细节。RAG通过将外部知识库与大语言模型结合，有效解决了知识时效性、幻觉问题和领域局限三大挑战。文章系统介绍了RAG的核心架构、稠密检索技术、重排序机制和上下文压缩方法，梳理了从稀疏到稠密检索的范式转变，以及混合检索、多阶段优化等技术演进路径。在实现层面，详细探讨了向量数据库选型、索引优化等工程实践要点。RAG已成为提升大语言模型准确性和可靠性的关键技术，在智能客服、法律咨询等领域展现出重要价值，最新研究正向着长文本处理和层次检索方向深入发展]]></description><category></category></item><item><title><![CDATA[vLLM推理加速深度解读：PagedAttention如何提升10x吞吐量]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161459100</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161459100</guid><author>yangyy753</author><pubDate>Wed, 27 May 2026 17:28:05 +0800</pubDate><description><![CDATA[在大语言模型（Large Language Models, LLMs）快速发展的今天，推理效率已成为制约模型落地的关键瓶颈。GPT-4、LLaMA、Claude等模型虽然能力强大，但推理成本高昂、延迟较长，严重限制了商业化应用。统计显示，部署一个ChatGPT级别的服务，推理成本占据总运营成本的70%以上。]]></description><category></category></item><item><title><![CDATA[RLHF深度解读：从博弈论到超级对齐的技术演进]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161425915</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161425915</guid><author>yangyy753</author><pubDate>Tue, 26 May 2026 16:12:54 +0800</pubDate><description><![CDATA[摘要 本文深入探讨了强化学习人类反馈（RLHF）的理论基础与技术前沿。从Bradley-Terry模型到纳什均衡，揭示了RLHF的博弈论本质，分析了传统方法的理论缺陷并提出改进方案：Plackett-Luce模型处理循环偏好、贝叶斯奖励建模应对不确定性、信息瓶颈理论解释KL约束等。重点介绍了2024-2025年前沿进展，包括直接偏好优化（DPO）绕过奖励建模、宪法AI实现自我批评与递归对齐等突破性技术。文章系统性地阐述了RLHF从"模仿+强化"到融合偏好学习、分布式优化、对抗训练的演进过程，为大规模语言模型]]></description><category></category></item><item><title><![CDATA[RLHF深度解读：从人类反馈到ChatGPT的关键技术]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161424749</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161424749</guid><author>yangyy753</author><pubDate>Tue, 26 May 2026 15:27:41 +0800</pubDate><description><![CDATA[强化学习人类反馈（RLHF）已成为大语言模型与人类意图对齐的关键技术，通过三阶段流程（监督微调、奖励模型训练、PPO强化学习优化）显著提升模型输出的有用性和无害性。从InstructGPT到ChatGPT，RLHF技术不断演进，结合宪法AI、过程监督等创新方法，在对话系统、代码生成等领域取得突破。最新研究如直接偏好优化（DPO）进一步降低了训练成本。尽管RLHF已取得显著成果，未来仍需探索可扩展监督和多智能体协同等方向，以实现更可信赖的通用人工智能。]]></description><category></category></item><item><title><![CDATA[Transformer深度解读：注意力机制如何革新深度学习架构]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161387307</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161387307</guid><author>yangyy753</author><pubDate>Mon, 25 May 2026 11:56:16 +0800</pubDate><description><![CDATA[本文深入解析了Transformer架构的核心原理与技术演进。Transformer通过自注意力机制和多头注意力彻底革新了序列建模，解决了传统RNN的并行化难题。文章详细阐述了其数学表达、位置编码、前馈网络等关键组件，并对比了不同变体的设计差异。从2017年诞生到BERT、GPT系列的演进，Transformer已成为AI领域的基础架构，推动了大语言模型和多模态系统的发展。文章不仅涵盖理论基础，还提供了现代改进方案，是理解当前AI前沿技术的必备指南。]]></description><category></category></item><item><title><![CDATA[参数高效微调技术：大模型时代的轻量化适配范式]]></title><link>https://blog.youkuaiyun.com/yangyy753/article/details/161275972</link><guid>https://blog.youkuaiyun.com/yangyy753/article/details/161275972</guid><author>yangyy753</author><pubDate>Thu, 21 May 2026 10:46:08 +0800</pubDate><description><![CDATA[《参数高效微调技术：大模型时代的轻量化适配范式》 摘要：随着大模型参数量突破千亿级，传统微调方法面临显存占用高、存储成本大等挑战。参数高效微调(PEFT)技术通过仅更新0.01%-1%的参数实现高效适配，成为重要研究方向。本文系统梳理了LoRA低秩分解、Adapter结构和Prompt-Tuning等核心技术，分析其在医疗影像、工业检测等场景的应用效果。研究表明，PEFT技术显著降低了大模型应用门槛，为AI普惠化发展开辟新路径。文章还探讨了模型轻量化、多模态融合等未来趋势。 关键词：参数高效微调；低秩自适应]]></description><category></category></item></channel></rss>