<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[我的技术栈碎碎念空间]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/qq_16763983</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; qq_16763983]]></copyright><item><title><![CDATA[Codex CLI版本的用户目录安装方案]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/160407670</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/160407670</guid><author>qq_16763983</author><pubDate>Wed, 22 Apr 2026 14:16:06 +0800</pubDate><description><![CDATA[摘要：在服务器上全局安装OpenAI Codex时因权限问题报错，可通过修改npm全局安装路径解决。具体步骤为：创建用户目录下的.npm-global文件夹，设置npm前缀路径，更新环境变量后重新安装。这样无需root权限即可完成Codex的安装和使用。该方法适用于无管理员权限的服务器环境。]]></description><category></category></item><item><title><![CDATA[Claude Code中配置Kimi K2等Coding Plan（最新版）]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/158544109</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/158544109</guid><author>qq_16763983</author><pubDate>Sun, 01 Mar 2026 21:50:10 +0800</pubDate><description><![CDATA[本文介绍了如何配置Claude Code并订阅Kimi Coding Plan。首先获取Kimi Code的API key，然后在~/.claude/settings.json中配置相关参数，包括API基础URL、认证令牌、超时设置和默认模型映射。配置完成后，通过终端激活模型即可使用。文章指出配置中的模型名称仅作为用户友好的映射标识，实际调用的模型由订阅的API key决定。配置过程简单明了，配图展示了终端激活效果。]]></description><category></category></item><item><title><![CDATA[【计算机系统】从Roofline Model到大模型性能分析总结]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/156151290</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/156151290</guid><author>qq_16763983</author><pubDate>Mon, 22 Dec 2025 16:15:46 +0800</pubDate><description><![CDATA[摘要：Roofline模型是分析计算平台性能上限的理论工具，通过计算强度（计算量/访存量）划分两种瓶颈：当计算强度低于平台最大值时为memory-bound（受带宽限制），高于时为compute-bound（受算力限制）。在大模型推理中，prefill阶段因大规模矩阵运算多为compute-bound，而decoding阶段因频繁读取KV cache多为memory-bound。该模型仅反映平台理论性能极限，实际模型性能受多种因素影响可能无法达到上限。]]></description><category></category></item><item><title><![CDATA[如何用vscode/cursor快速绑定并操作远程Github仓库]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/156077808</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/156077808</guid><author>qq_16763983</author><pubDate>Fri, 19 Dec 2025 12:57:23 +0800</pubDate><description><![CDATA[本文介绍了使用VSCode/Cursor进行Git版本控制的基本流程：1）安装Source Control插件；2）添加/更换远程仓库；3）将修改文件提交至暂存区；4）编写提交信息并提交；5）推送更新到远程仓库；6）检查Github更新。特别提醒当前默认分支为main而非master，可通过编辑器底部查看分支信息，多分支管理可能涉及merge/rebase等操作。文中配有详细操作截图辅助说明每个步骤。]]></description><category></category></item><item><title><![CDATA[大模型的On-Policy Distillation（在线蒸馏策略）]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/154883404</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/154883404</guid><author>qq_16763983</author><pubDate>Sat, 15 Nov 2025 23:15:40 +0800</pubDate><description><![CDATA[《On-Policy Distillation》结合在线策略与知识蒸馏的后训练方法，提出了一种新型大模型优化范式，通过融合强化学习的在线策略（on-policy）和知识蒸馏的密集奖励信号，有效解决了传统方法的局限性。相比纯在线策略的稀疏反馈问题，以及离线策略（off-policy）的误差累积缺陷，该方法让学生模型基于自身生成的推理轨迹（rollout），借助教师模型对每个token进行评分，使用反向KL散度作为损失函数进行优化。实验表明，这种混合方法既能保持强化学习的自适应优势，又能获得知识蒸馏的细粒度指导]]></description><category></category></item><item><title><![CDATA[美团龙猫大模型LongCat-Flash总结]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/154800344</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/154800344</guid><author>qq_16763983</author><pubDate>Thu, 13 Nov 2025 22:26:24 +0800</pubDate><description><![CDATA[美团近期推出的龙猫大模型(LongCat-Flash)引发关注，这是一个560B参数的MoE架构模型。其核心创新包括：1)引入零计算专家机制，通过动态分配计算资源提升效率，平均每个token激活27B参数；2)提出ScMoE架构优化通信开销；3)采用方差对齐技术解决模型扩展性问题。该模型在30天内完成20T token训练，推理速度达100 token/秒，成本低至每百万token 0.7美元。通过预训练和后训练结合的方式增强Agent能力，在多种任务上展现竞争力。]]></description><category></category></item><item><title><![CDATA[GPT-OSS大模型Attention架构设计]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/154455587</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/154455587</guid><author>qq_16763983</author><pubDate>Wed, 05 Nov 2025 21:48:16 +0800</pubDate><description><![CDATA[摘要：GPT-OSS模型针对大模型推理中的attention sink问题提出创新解决方案，通过可学习bias项修正注意力机制。该方法在QK计算后添加head-wise的bias token，调整softmax分母，有效规避无效的初始token过度关注现象。同时采用分层混合策略，交替使用全注意力(GQA)和滑动窗口注意力(window=128)，在120B大模型中实现高效推理。数学上相当于给注意力分母增加exp(S)项，既保持计算效率又提升注意力分配的合理性。]]></description><category></category></item><item><title><![CDATA[【大模型】DeepSeek-OCR新鲜出炉总结]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/153708309</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/153708309</guid><author>qq_16763983</author><pubDate>Wed, 22 Oct 2025 02:36:29 +0800</pubDate><description><![CDATA[DeepSeek推出创新多模态模型DeepSeek-OCR，通过将文本视为图像模态处理，有效解决长文本推理难题。该模型采用双模块架构：DeepEncoder（380M参数）负责视觉特征提取，DeepSeek-3B-MoE解码器（激活570M参数）实现多模态生成。实验显示，其OCR解码精度在10倍压缩率下达97%，在OmniDocBench测试中超越现有模型。模型还支持图像理解、PDF转换等功能，单卡日生成20万+训练页面，展现出强大的多模态处理能力。（148字）]]></description><category></category></item><item><title><![CDATA[并行计算策略]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/153341074</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/153341074</guid><author>qq_16763983</author><pubDate>Thu, 16 Oct 2025 16:28:44 +0800</pubDate><description><![CDATA[本文介绍了深度学习中几种并行训练策略：数据并行（DP）通过多GPU处理不同数据子集，但存在主GPU负载过重等问题；分布式数据并行（DDP）采用Ring-AllReduce算法实现均衡同步；模型并行（MP）将模型层拆分到不同GPU，但通信成本高；流水线并行（PP）通过微批处理减少GPU等待；张量并行（TP）进一步拆分单层参数。最终3D并行结合数据并行、张量并行和流水线并行，实现高效的大模型训练。这些方法各有优缺点，需根据模型规模和硬件条件选择合适策略。]]></description><category></category></item><item><title><![CDATA[【大模型】DeepSeek-V3.2-Exp中的DSA稀疏注意力设计]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/152736282</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/152736282</guid><author>qq_16763983</author><pubDate>Wed, 08 Oct 2025 22:22:53 +0800</pubDate><description><![CDATA[本文介绍了DeepSeek的稀疏注意力机制DSA，包含Lighting Indexer和Token Selection两个模块。DSA采用FP8低精度计算、ReLU激活和更少头数来降低复杂度，并通过top-k选择重要token。训练分为两步：CPT阶段先预热Indexer使其接近原始attention分布，再训练模型适应稀疏模式；后训练阶段结合专家蒸馏和混合RL训练（GRPO算法），融合推理、工具调用和对齐三大目标。该架构基于MLA并采用MQA，通过分层优化策略提升模型性能。]]></description><category></category></item><item><title><![CDATA[Deep Think with Confidence]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/150701110</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/150701110</guid><author>qq_16763983</author><pubDate>Sun, 24 Aug 2025 15:04:59 +0800</pubDate><description><![CDATA[本文提出利用置信度指标提升大模型推理性能的新方法。针对传统self-consistency技术效率低下的问题，研究提出细粒度的置信度评估指标Group Confidence和Tail Confidence，能更准确捕捉推理轨迹中的关键错误。方法包含两种模式：Offline模式通过置信度加权投票聚合答案；Online模式利用Lowest Group Confidence实现early stopping，并采用自适应采样动态调整轨迹数量。实验表明，新指标能有效区分正确与错误推理路径，在保证准确率的同时显著提升推]]></description><category></category></item><item><title><![CDATA[【大模型】强化学习算法总结]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/150222793</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/150222793</guid><author>qq_16763983</author><pubDate>Mon, 11 Aug 2025 20:23:30 +0800</pubDate><description><![CDATA[本文介绍了强化学习中的策略模型（Policy/Actor）、价值模型（Critic/Value）、奖励模型（Reward）和参考模型（Reference）等核心概念。重点对比了监督学习和强化学习的区别，并详细分析了基于策略的强化学习方法，特别是PPO和GRPO算法。PPO采用Actor-Critic架构，通过优势函数和clipping机制实现稳定训练；GRPO则简化结构，利用组内相对奖励作为优势估计。两种算法都通过KL散度约束确保策略更新不会偏离初始模型太远。文章还提供了直观的类比说明和算法结构图，帮助理解]]></description><category></category></item><item><title><![CDATA[【大模型】ReAct Agent知识梳理及代码解析]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/149433905</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/149433905</guid><author>qq_16763983</author><pubDate>Fri, 18 Jul 2025 02:49:21 +0800</pubDate><description><![CDATA[本文介绍了Agent的基本概念及其实现方式。Agent是一种能够感知环境并自主决策的实体，具备任务规划、记忆和工具调用等能力，模仿人类的决策流程。文章重点讲解了ReAct推理模式（Reasoning-&gt;Action-&gt;Observation），并展示了如何使用LangChain框架构建一个ReAct Agent。具体包括：1）Agent作为调度器的核心组件；2）规范定义工具的方法；3）通过Python代码示例演示了商品查询、下单和支付三个工具的实现。该实现展示了Agent如何通过多轮工具调用完成]]></description><category></category></item><item><title><![CDATA[Windows系统无法正常使用conda activate env]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/149286196</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/149286196</guid><author>qq_16763983</author><pubDate>Sat, 12 Jul 2025 01:15:33 +0800</pubDate><description><![CDATA[摘要：Windows系统安装Anaconda后，若直接使用conda activate命令会报错，需先执行conda init并重启终端。若出现红色报错信息，这是权限问题导致，可通过执行Set-ExecutionPolicy -ExecutionPolicy RemoteSigned -Scope CurrentUser命令快速解决。该问题为Windows+Anaconda的常见配置问题，解决方法简单有效。]]></description><category></category></item><item><title><![CDATA[【大模型】到底什么是Function Calling和MCP，以及和ReAct推理的关系是什么？]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/149139386</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/149139386</guid><author>qq_16763983</author><pubDate>Sat, 05 Jul 2025 18:14:25 +0800</pubDate><description><![CDATA[Function Calling和MCP是增强大模型能力的两种方案。Function Calling赋予大模型解析工具列表、选择工具、处理结果的能力，通过代码实现工具调用逻辑。MCP则是一套协议规范，通过MCP Host和Server架构实现外部工具调用，无需大模型直接参与协议。两种方法都能解决大模型知识时效性问题，Function Calling侧重模型能力，MCP强调标准化协议。实际应用中，Function Calling可直接实现工具调用，MCP则需借助第三方Server提供服务。参考资料提供了两种方]]></description><category></category></item><item><title><![CDATA[【大模型】TableLLM论文总结]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/148172449</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/148172449</guid><author>qq_16763983</author><pubDate>Sat, 24 May 2025 17:35:51 +0800</pubDate><description><![CDATA[本文摘要了三篇关于大语言模型处理电子表格的最新研究。EMNLP 2024论文提出了一种高效编码方法，通过结构锚点识别、倒排索引和数值格式聚类来压缩75%内容，同时保留97%边界信息。arXiv 2025的TableLoRA设计了特殊标记编码器和2D LoRA，以增强模型对二维表格结构的理解。arXiv 2025的TablePilot则提出了一个四阶段框架，通过采样、模块化分析、优化和排序推荐符合人类偏好的表格分析方案。这些研究共同解决了电子表格处理中的结构理解、效率优化和结果推荐等核心挑战。]]></description><category></category></item><item><title><![CDATA[【力扣Hot 100+经典题型】刷题记录（Python版）]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/147866621</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/147866621</guid><author>qq_16763983</author><pubDate>Thu, 15 May 2025 01:52:27 +0800</pubDate><description><![CDATA[力扣hot 100刷题记录]]></description><category></category></item><item><title><![CDATA[ValueError: Converting from Tiktoken failed, if a converter for SentencePiece is available]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/146510085</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/146510085</guid><author>qq_16763983</author><pubDate>Tue, 25 Mar 2025 18:58:03 +0800</pubDate><description><![CDATA[【代码】ValueError: Converting from Tiktoken failed, if a converter for SentencePiece is available。]]></description><category></category></item><item><title><![CDATA[【大模型推理】vLLM推理框架基本使用及注意事项]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/146152772</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/146152772</guid><author>qq_16763983</author><pubDate>Mon, 10 Mar 2025 14:21:51 +0800</pubDate><description><![CDATA[LLM是加载和推理大模型的包，SamplingParams是生成时采样参数。]]></description><category></category></item><item><title><![CDATA[【DeepSeek-R1训练笔记】随手记录一些训练log]]></title><link>https://blog.youkuaiyun.com/qq_16763983/article/details/145503590</link><guid>https://blog.youkuaiyun.com/qq_16763983/article/details/145503590</guid><author>qq_16763983</author><pubDate>Fri, 07 Feb 2025 22:24:55 +0800</pubDate><description><![CDATA[# 背景说明
* DeepSeek系列解读请移步我的上一篇blog：[【完整版】DeepSeek-R1大模型学习笔记（架构、训练、Infra）](https://blog.youkuaiyun.com/qq_16763983/article/details/145434745?spm=1001.2014.3001.5501)
* 代码仓库【科大的大四老哥太太太太太值得倾佩了】：[https://github.com/Unakar/Logic-RL](https://github.com/Unakar/Logic-RL)]]></description><category></category></item></channel></rss>