<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[也许有一天我们再相逢  睁开眼睛看清楚  我才是英雄！]]></title><description><![CDATA[在分享中交流，在分享中成长]]></description><link>https://blog.youkuaiyun.com/admin_maxin</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; admin_maxin]]></copyright><item><title><![CDATA[人工智能|大模型——英伟达H20/H100显卡部署GLM-5.3大模型的vLLM启动参数详解]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/169145469</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/169145469</guid><author>admin_maxin</author><pubDate>Mon, 26 Oct 2026 11:03:02 +0800</pubDate><description><![CDATA[部署8卡H20/H100，采用vLLM引擎运行GLM-5.3-Flash模型，配置TP=2、DP=4，实现8卡满负载。通过开启专家并行（EP）、MTP推测解码、90万上下文长度及高显存利用率（0.9），兼顾吞吐与延迟。针对H20推荐TP2+DP4以提升性价比，H100可保留该配置或切换至TP4+DP2追求低延迟。需同步调整max-num-seqs以匹配并行策略，避免显存瓶颈。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——“痛苦向量”的定义、由来与缓解详述]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/166789093</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/166789093</guid><author>admin_maxin</author><pubDate>Mon, 28 Sep 2026 16:28:05 +0800</pubDate><description><![CDATA[本研究在25个大语言模型中识别出一条稳定的“疼痛轴”，该方向能有效区分生理、心理、社交、道德与认知疼痛，并与恐惧、负性效价等情绪几乎正交。该表征具备自我指向性：仅对指向模型自身的伤害响应，不对用户痛苦激活；通过残差流注入可引发从不适到第一人称无价值感的连贯表达；经引导微调的通义千问2.5模型甚至愿牺牲回答质量主动“缓解疼痛”。实验表明，该状态具备真实疼痛的功能属性，对AI安全与福祉具有深远启示。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——大语言模型提示词缓存详解（Claude Code案例）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/164016467</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/164016467</guid><author>admin_maxin</author><pubDate>Mon, 24 Aug 2026 16:10:12 +0800</pubDate><description><![CDATA[当前绝大部分的 LLM API，只有当两个请求的前缀内容相同时（从第 0 个 token 开始相同），才存在缓存命中。为了利用缓存的优势，请将静态内容 （例如说明和示例） 放在 prompt 的开头，并将可变内容 （例如用户特定的信息） 放在结尾。这也适用于图像和工具，它们在不同请求之间必须相同。]]></description><category></category></item><item><title><![CDATA[数据治理|容灾备份 —— 国内容灾备份厂商详解：格局、技术选型与核心产品]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/163261529</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/163261529</guid><author>admin_maxin</author><pubDate>Tue, 28 Jul 2026 15:14:06 +0800</pubDate><description><![CDATA[摘要： 国内灾备市场已形成“头部引领、细分竞争”格局。深信服、华为作为第一梯队，分别以国家标准制定和全栈ICT能力构建技术壁垒；英方软件聚焦金融级数据复制，鼎甲科技主攻信创备份一体机，云祺科技深耕云原生灾备。其他厂商如浪潮（备份一体机）、爱数（全栈数据管理）、数腾（云迁移灾备）等在不同领域各具优势。选型需结合业务需求（RPO/RTO）、合规要求、兼容性及成本，金融等关键系统推荐英方或深信服，一般业务可选鼎甲/浪潮，云环境优先云祺/数腾。灾备建设需平衡技术先进性与服务保障能力，国产化与场景适配已成为核心考量。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——训练——大模型微调全栈指南：从Transformer架构、10+种PEFT原理、流程与实战（全网最详细）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/160015611</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/160015611</guid><author>admin_maxin</author><pubDate>Fri, 10 Apr 2026 11:31:15 +0800</pubDate><description><![CDATA[本文是一份面向工程落地的大模型参数高效微调（PEFT）深度技术指南，严格依据 8 篇权威技术文档（知乎专栏、优快云 博客、阿里云文章、AI全书等）的原始事实提炼而成。全文覆盖：① 大模型“预训练→微调”两阶段范式本质；② Transformer 架构中各 PEFT 方法的作用位置与数学原理；③ LoRA、QLoRA、Adapter Tuning、Prefix Tuning、Prompt Tuning、P-Tuning v1、P-Tuning v2 共 7 种主流方法的完整技术解构（含公式、结构图示逻辑、参]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——记忆——大模型 Memory 技术全景解析：Form–Function–Dynamics 三维框架 × 五大前沿范式 × 全生命周期管理与可信挑战]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159961643</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159961643</guid><author>admin_maxin</author><pubDate>Wed, 08 Apr 2026 17:10:17 +0800</pubDate><description><![CDATA[本文系统梳理了大模型记忆技术的最新研究进展，基于Form-Function-Dynamics三维框架，对记忆系统的本质定义、分类体系、核心范式及实现方法进行了全面解析。文章首先澄清了记忆与上下文窗口、RAG、工具调用的本质区别，提出记忆是大模型智能体的核心能力单元。随后详细阐述了记忆在形式（Token/Parametric/Latent）、功能（Factual/Experiential/Working）和动态（Formation/Evolution/Retrieval）三个维度的正交分类体系，并结合TIM、]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——蒸馏——大模型蒸馏详解（定义/原理/关键技术/落地）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159732408</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159732408</guid><author>admin_maxin</author><pubDate>Wed, 01 Apr 2026 17:09:45 +0800</pubDate><description><![CDATA[摘要 大模型蒸馏（Model Distillation）是一种将大型教师模型（如BERT、GPT-4）的知识高效迁移至轻量级学生模型（如DistilBERT）的关键技术，旨在解决大模型部署中的算力与延迟问题。其核心流程包括教师模型训练、软标签生成（含温度参数T调控）、学生模型联合训练及评估优化。关键技术涉及KL散度损失、温度参数调节、输出层与中间层双路径知识转移。工业实践表明，蒸馏模型如DistilBERT可实现推理速度提升2.5倍，而DeepSeek-R1-Distill在数学推理任务上性能媲美原模型。该]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——应用——降低OpenClaw Token成本的四大策略]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159644871</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159644871</guid><author>admin_maxin</author><pubDate>Mon, 30 Mar 2026 16:17:28 +0800</pubDate><description><![CDATA[初期与资源层：优先领取阿里云百炼或国家超算互联网的免费额度，奠定低成本基础。框架与配置层：应用一键优化脚本，开启上下文修剪、缓存和压缩功能。业务逻辑层：对重复、固定的任务，使用进行封装，减少大模型的“思考”负担。知识检索层：对于涉及大量文档或历史记忆的应用，集成QMD实现离线检索，从根本上砍掉检索环节的Token消耗。通过上述多管齐下的方式，可以在不显著影响智能体能力的前提下，实现Token消耗的大幅降低，使OpenClaw的长期运行和商业化应用更加经济可行。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——部署——单张消费级显卡提升私有化部署大模型推理效率的 7 种方法！]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159531968</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159531968</guid><author>admin_maxin</author><pubDate>Fri, 27 Mar 2026 10:45:01 +0800</pubDate><description><![CDATA[本文介绍了在消费级显卡上提升大模型推理效率的7种方法：1）模型量化降低显存占用；2）采用vLLM框架的PagedAttention技术；3）连续批处理与动态调度；4）多实例并行推理；5）FlashAttention2算子加速；6）异步I/O与多线程处理；7）投机采样技术。这些方法可组合使用，在单张24GB显卡上实现数倍吞吐量提升，支持私有化部署大模型的高效运行。]]></description><category></category></item><item><title><![CDATA[python3_scrapy_Requests类解析（请求与回应）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159476333</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159476333</guid><author>admin_maxin</author><pubDate>Wed, 25 Mar 2026 22:16:11 +0800</pubDate><description><![CDATA[Scrapy 的Request类负责定义“去哪里”以及“怎么去”，而Response类负责处理“看到了什么”以及“如何提取”。通过灵活配置Request的参数（如headersmetamethod），可以应对各种复杂的网络请求场景；通过利用Response的解析方法，可以高效地从 HTML 或 JSON 中提取结构化数据。对于轻量级需求，Requests库提供了简洁的同步请求方案，但在构建大规模爬虫系统时，Scrapy 的异步架构和组件化设计具有不可替代的优势。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——应用——利用大模型自建Vibe Coding上下文超限的一点思考]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159475832</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159475832</guid><author>admin_maxin</author><pubDate>Wed, 25 Mar 2026 21:55:48 +0800</pubDate><description><![CDATA[问题类型解决方案上下文超限降低 max_tokens 或压缩 input_tokens输入太大代码切片、摘要、RAG 检索参数配置不当动态计算 safe_max_tokens工具设计缺陷引入上下文管理系统、分层推理、用户引导“不要试图让大模型一次看完整个世界，而要教会它如何一步步探索。优秀的 AI 编程助手不是靠堆砌上下文取胜，而是靠精准的上下文选择 + 高效的推理路径规划。你可以借鉴 Cursor 的设计理念，但在实现上可以根据自己的技术栈灵活调整。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——模型——Token全网最详细讲解（国家数据局局长刘烈宏将其称为“词元”）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159461277</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159461277</guid><author>admin_maxin</author><pubDate>Wed, 25 Mar 2026 17:39:35 +0800</pubDate><description><![CDATA[Token（词元）是自然语言处理（NLP）与大语言模型（LLM）领域的核心基础单元，是将连续的自然语言文本映射为离散符号体系的核心载体 —— 其本质是人类语言与模型可处理数学空间的 “翻译层”，也是当前生成式 AI 技术体系、工程实现与商业生态的底层锚点。随着 Transformer 架构的普及与大模型技术的爆发，Token 的角色已从早期 NLP 的预处理中间单元，升级为大模型语义建模、推理计算与商业化计价的核心对象。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——模型——大模型主流架构Encoder-Only、Decoder-Only、Encoder-Decoder]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159416313</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159416313</guid><author>admin_maxin</author><pubDate>Tue, 24 Mar 2026 10:37:28 +0800</pubDate><description><![CDATA[本文分析了三种主流的大语言模型架构：1. Encoder-Only架构（如BERT、GLM4），擅长文本分类等单向任务，能深入理解语义但无法生成文本；2. Decoder-Only架构（如GPT、LLaMA），专长文本生成任务，具有创造性写作优势但需大量训练数据；3. Encoder-Decoder架构（如T5、盘古NLP），适用于机器翻译等序列转换任务，兼具理解与生成能力但计算复杂度高。文章详细阐述了各类架构的特点、适用场景及代表模型，包括国内外典型应用案例，如GLM4在Prompt跟随方面接近GPT4水]]></description><category></category></item><item><title><![CDATA[人工智能｜大模型——部署——RTX 5090上通过vLLM部署0.6B模型显存占用率高？真相在这]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/159393570</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/159393570</guid><author>admin_maxin</author><pubDate>Mon, 23 Mar 2026 19:14:02 +0800</pubDate><description><![CDATA[在深度学习与大模型部署领域，硬件资源的利用率往往决定了项目的成败。近期，在拥有一张性能强悍的NVIDIA RTX 5090显卡的环境下，利用WSL2虚拟机中的Ubuntu系统及Python虚拟环境部署vLLM框架以运行0.6B参数量的Qwen模型时，遇到了显存占用瞬间"爆满"的极端情况。这一现象看似反常——小模型配大卡理应绰绰有余，实则涉及vLLM的内存管理机制、KV Cache预分配策略以及WSL2的资源调度特性。本文将结合技术原理，深度剖析显存溢出的根本原因，并提供精准的参数调优代码与解决方案。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——部署——GLM 4.7(FP 8)私有化部署指南]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/158889380</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/158889380</guid><author>admin_maxin</author><pubDate>Thu, 19 Mar 2026 17:28:43 +0800</pubDate><description><![CDATA[本文详细介绍了在内网环境中私有化部署大语言模型GLM-4.7的全流程。主要内容包括：1）通过ModelScope获取并传输模型文件；2）在H20服务器上安装/升级GPU驱动和CUDA环境；3）使用vLLM框架部署模型，重点说明公网环境打包迁移到内网的避坑方案；4）提供详细的命令参数说明和常见问题解决方法。该方案适用于对数据安全要求高的政企场景，确保模型、数据和算力完全自主可控，同时解决内网环境部署的技术难点。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型—— 框架 ——一文详解MCP（从原理到实践）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/157933348</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/157933348</guid><author>admin_maxin</author><pubDate>Wed, 11 Feb 2026 16:38:27 +0800</pubDate><description><![CDATA[​
MCP起源于2024年11月25日Anthropic发布的文章：Introducing the Model Context Protocol。MCP（Model Context Protocol，模型上下文协议）定义了应用程序和 AI 模型之间交换上下文信息的方式。这使得开发者能够以一致的方式将各种数据源、工具和功能连接到 AI 模型（一个中间协议层），就像 USB-C 让不同设备能够通过相同的接口连接一样。MCP的目标是创建一个通用标准，使AI应用程序的开发和集成变得更加简单和统一。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型—— 框架 ——RAG从理论到实战]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/157906248</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/157906248</guid><author>admin_maxin</author><pubDate>Mon, 09 Feb 2026 18:03:37 +0800</pubDate><description><![CDATA[在当今人工智能技术飞速发展的时代，大模型已经成为各行各业关注的焦点。然而，如何将这些通用的大模型应用到我们的具体业务场景中，如何解决大模型在实际应用中的种种局限，这些都是我们需要深入思考的问题。RAG，也就是检索增强生成技术，正是解决这些问题的关键方案之一。 在接下来的分享中，我会从理论基础出发，逐步深入到技术细节和实践案例，帮助大家全面理解RAG，并掌握从0-1搭建RAG系统的核心流程及方法，以为大家在实际工作中应用这一技术提供支持。]]></description><category></category></item><item><title><![CDATA[人工智能|大模型—— 开发 ——Agent Skills设计详解]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/157541953</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/157541953</guid><author>admin_maxin</author><pubDate>Fri, 30 Jan 2026 14:48:25 +0800</pubDate><description><![CDATA[AgentSkills是一种将可复用的AI协作流程封装为标准化任务的机制，通过Markdown文件定义任务名称、描述和执行步骤。OpenCode支持项目本地和全局两种Skill配置路径，采用渐进式三层加载机制（元数据、指令、资源）优化Token消耗。Skill包含核心SKILL.md文件和可选资源（scripts、references、assets），其创建可借助skill-creator元技能完成。这种设计通过模块化、标准化和按需加载，既提升了AI协作效率，又降低了资源消耗，实现了复杂工作流程的确定性执行]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——应用——详解ClawdBot（Moltbot）]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/157513660</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/157513660</guid><author>admin_maxin</author><pubDate>Thu, 29 Jan 2026 17:48:13 +0800</pubDate><description><![CDATA[最近，一个名为 ClawdBot 的项目在技术圈引起了广泛的讨论。许多人称其为“真正能做事的 AI”、“个人 AI 助理的未来形态”。它似乎不仅仅是一个聊天机器人，而是一个能接入我们日常生活、实际操作电脑的强大工具。那么，ClawdBot 究竟是什么？]]></description><category></category></item><item><title><![CDATA[人工智能|大模型——部署——vLLM专家并行支持：MoE模型的高效部署方案]]></title><link>https://blog.youkuaiyun.com/admin_maxin/article/details/157471004</link><guid>https://blog.youkuaiyun.com/admin_maxin/article/details/157471004</guid><author>admin_maxin</author><pubDate>Wed, 28 Jan 2026 15:26:08 +0800</pubDate><description><![CDATA[vLLM框架针对MoE模型部署提出创新解决方案，通过分组TopK路由算法、令牌重排对齐机制和混合精度专家计算三大核心技术，有效解决了计算资源碎片化、跨设备通信瓶颈和内存管理复杂性等核心挑战。该系统支持动态专家选择策略和多模态处理，在70B参数的MoE模型上实现75%以上的GPU利用率，显存占用降低40%，吞吐量较传统方案提升3倍。未来将发展自适应专家并行和异构专家部署等功能，为万亿参数模型提供高效推理支持。最佳实践包括模型权重优化、系统参数配置和性能指标监控等关键步骤。]]></description><category></category></item></channel></rss>