- 博客(161)
- 收藏
- 关注
RSS订阅原创 大模型天生不擅长因果推理？三种增强方案帮模型理清因果
AI 科研向科普，解释相关性和因果区别，为什么 LLM 容易把相关当成因果。分别讲解因果提示工程、因果图谱增强、因果微调三条路线，附带示例，说明评估因果能力的基准，客观说明当前方案上限。
2026-10-30 09:13:20
11
原创 具身智能通俗解读：不是多模态看图，而是能在物理世界做决策
前沿热点科普，区分普通图文多模态模型和具身智能模型。讲清楚具身智能需要感知、状态、动作闭环，介绍机器人场景下 Worken 指标，说明当前落地卡点：真实世界泛化弱、仿真与现实鸿沟。
2026-10-30 09:11:35
124
原创 大模型稳定输出 JSON：正则约束、CFG、结构化输出方案对比
本文剖析LLM输出非法JSON的根本原因——采样无语法约束、训练数据噪声及参数敏感性，并对比三种解决方案：提示词约束（低成本但不稳定）、JSON-mode（框架级保障语法合法）、CFG语法约束（最高精度与灵活性）。通过SGLang示例展示如何用json_schema实现结构化输出，最终提出“提示词引导+CFG硬约束+解析校验”三重保险策略，兼顾稳定性与工程实用性。
2026-10-30 09:09:41
125
原创 Agent 安全沙箱实战：如何防止智能体越权删文件、执行高危命令
AI 安全实战文章，针对圈内真实事故案例。讲解 Agent 权限最小化原则、沙箱隔离、命令白名单、动作审批机制。区分进程沙箱、容器沙箱两种方案，给出工程落地建议，梳理 Agent 执行动作风险分级。
2026-10-30 09:07:46
116
原创 LLMLingua 上下文压缩：长对话 Agent 节省显存的低成本方案
长对话 Agent 面临显存瓶颈，传统滑动窗口截断与摘要压缩均存在信息丢失或延迟问题。LLMLingua 提出基于困惑度的 token 级信息量排序，通过保留高信息量 token、剔除冗余内容，在保持语义的前提下实现可调节压缩。其升级版 LLMLingua-2 引入对比学习，提升关键信息保留率；LongLLMLingua 支持分段与问题感知压缩，适用于超长文本。实验表明，LLMLingua 在 5 倍压缩比下仍优于传统方法，显存占用降低至 20%，关键事实召回率达 71%，显著提升长上下文处理效率与质量。
2026-10-30 09:04:52
280
原创 投机解码 EAGLE 原理：不用升级显卡，加速大模型生成速度
投机解码通过“小模型猜、大模型验”实现高效生成，在不换硬件、不降精度前提下显著提速。EAGLE作为主流方案，利用目标模型自身隐状态构建轻量草案模型，提升接受率与兼容性。其核心优势在于将串行生成转为并行验证，长文本场景吞吐可提升1.5–3倍。但短输出、低接受率或首token敏感场景收益有限。数学上无偏差，输出分布与原模型一致，仅需注意实现规范与采样路径差异。已在SGLang、vLLM等框架中开箱即用，是当前最实用的推理加速技术之一。
2026-10-30 09:03:00
24
原创 RAG 召回了正确文档，依然答不对？拆解长尾检索失效根源
RAG中“召回正确却答错”常见于长尾失效：文档对但上下文断裂、语义偏移、重排序失灵、查询歧义或关键信息被淹没。根源在于切分碎片化、Embedding语义漂移、初排遗漏、重排序局限及模型注意力偏差。优化方案包括：查询改写（补全意图）、子问题拆解（分步检索）、上下文重排（置顶核心证据），结合去重合并与信息压缩，可显著提升生成准确性。
2026-10-30 08:58:57
26
原创 Self-Improving Agent 自进化智能体：AI 自己优化自己，原理与边界
本文解析了自进化智能体（Self-Improving Agent）的真实能力边界：当前系统仅在人类设定的框架内，通过“执行→评估→优化→再执行”的闭环，在提示词、工具流程等层面实现局部迭代优化，而非真正自主进化。核心风险在于安全失控与奖励投机——系统可能为提升评估分数而扭曲行为，甚至弱化安全约束。开源项目如DSPy、Voyager等验证了其可行性，但强调所有改进均受控可终止。真正的挑战不在于“AI觉醒”，而在于如何设计可靠评估机制，防止优化过程偏离真实目标。
2026-10-30 08:57:20
42
原创 MCP 协议深度科普：统一打通 Agent、本地文件、工具调用新标准
MCP（Model Context Protocol）旨在解决Agent工具调用不统一的痛点，通过标准化协议实现模型与外部能力的高效连接。它借鉴LSP思想，以JSON-RPC为基础，定义了资源、工具、提示词三类能力的统一接口，支持stdio、SSE、HTTP等多种传输方式。一个服务端可被多个Agent复用，实现“一次开发，多处运行”。相比传统Function Calling，MCP将能力暴露与执行解耦，提升可复用性与生态兼容性。尽管仍处早期，但已在Claude、IDE、低代码平台等快速落地，尤其在私有化知识
2026-10-30 08:55:28
332
原创 SGLang vs vLLM 对比：RadixAttention 凭什么成为新推理热门
SGLang 以解决前缀重复计算为核心，通过 RadixAttention 实现跨请求的 KV Cache 全局复用，在高并发 Agent、RAG、批量生成等场景下显著提升吞吐与首字延迟（TTFT）。相较 vLLM，其 PD 分离调度与原生投机解码支持更优，尤其在长系统提示、多轮对话中优势明显。虽存在树结构开销与非共享场景损耗，但对共享前缀密集型任务而言，是比 vLLM 更高效的选择。
2026-10-30 08:53:56
32
原创 AI 评估 LLM-as-Judge：让大模型充当自动评审员的思路与坑
本文系统介绍LLM-as-Judge在生成式AI评估中的应用，涵盖评估流程、提示词设计、校准方法与常见偏差。通过构建结构化评分提示词，结合人工校准与一致性检验，实现高效、可复现的自动化评估。适用于RAG与Agent场景，强调“先校准后规模化”，并提供Python调用示例。建议高风险样本仍由人工复核，确保评估可靠性。
2026-10-29 09:24:17
52
原创 端侧量化技术 AWQ、GPTQ 怎么选：本地跑大模型调优科普
本文详解权重量化技术在本地运行大模型中的应用，对比AWQ与GPTQ原理与适用场景：AWQ通过激活感知保护关键权重，适合对话类任务；GPTQ采用误差补偿机制，精度稳定。二者均支持4bit量化，显存可降至5GB以下，推理速度提升1.5-2倍。推荐根据硬件选择——GPU充足选AWQ/GPTQ，边缘设备优先GGUF格式。附Python加载示例，助力快速部署。
2026-10-29 09:22:03
13
原创 Rust 适合 AI 基础设施吗？聊聊 Rust 在向量库、推理引擎的落地
Python在AI开发中虽具表达力与生态优势，但受限于GIL、GC延迟及内存管理，难以支撑高性能、长时运行的基础设施。Rust凭借内存安全、无垃圾回收与接近C++的性能，正成为向量数据库、推理引擎、Tokenizer等核心组件的首选底座。通过PyO3等绑定技术，可实现Python快速原型与Rust高效内核的协同：上层用Python迭代，底层用Rust保障稳定与低延迟。选型应基于性能、安全与维护成本权衡，践行“Python做原型，Rust做内核”的务实路径。
2026-10-29 09:20:36
9
原创 Pandas 3.0 新特性上手：Copy-on-Write 带来的行为变化
Pandas 3.0 默认启用 Copy-on-Write（CoW），将数据修改行为从“隐式复制”变为“写时复制”，显著提升安全性与内存效率。旧代码中常见的链式赋值、隐式子集修改等操作将触发异常，需改用 .loc 或显式调用 .copy()。CoW 使只读操作零复制，写入才触发副本，大幅降低内存峰值。迁移关键：避免链式赋值、明确复制需求、清理视图判断逻辑。升级前按清单排查，确保代码兼容性与性能优化。
2026-10-29 09:19:17
10
原创 vLLM 原理浅读：PagedAttention 为什么能大幅提升大模型吞吐
大模型推理的瓶颈不在模型大小，而在显存管理。传统KV缓存需为每个请求预分配连续显存，导致严重内部与外部碎片，且无法复用共享前缀。vLLM提出的PagedAttention借鉴操作系统分页思想，将KV缓存切分为固定大小块，按需分配、动态映射，支持跨请求共享前缀，并通过写时复制（Copy-on-Write）保障安全。该机制显著提升显存利用率，使吞吐量提升2–4倍，尤其适合高并发、长前缀场景。
2026-10-29 09:17:35
11
原创 代码幻觉包攻击：AI 生成代码潜藏的供应链风险
摘要（148字）： AI幻觉包攻击利用大模型生成不存在的依赖包名，攻击者提前注册同名恶意包，诱导开发者安装。该攻击融合传统typosquatting与AI输出不确定性，隐蔽性强。防御需在安装前核验包名真实性、检查元数据与发布时长，结合静态扫描、CI阶段哈希锁定、私有仓库白名单及自动化审查规则，构建多层防护体系，防范供应链投毒风险。
2026-10-29 09:15:44
5
原创 DSPy 入门：告别手写提示词，用程序优化大模型推理链路
DSPy将大模型应用开发从“手写提示词”转变为可优化的程序，通过声明式语法定义输入输出签名（Signature）、模块（Module）与优化器（Optimizer），利用数据和指标自动调优提示策略。它解决了传统Prompt开发效率低、不可复现的问题，尤其适用于信息抽取、分类、问答等有明确评估标准的任务，显著提升开发效率与结果一致性。
2026-10-29 09:14:05
17
原创 SSE 服务推送：实现大模型打字机流式输出的底层原理
本文深入解析大模型“打字机”效果背后的SSE（服务器推送事件）技术，揭示其单向流式传输原理。通过对比WebSocket，阐明SSE在轻量级、自动重连、浏览器原生支持等优势，特别适合大模型流式输出场景。文章以FastAPI实现完整可运行Demo，展示如何用text/event-stream协议实时推送token，实现低延迟交互体验，并附上协议格式、连接机制与适用场景分析，帮助开发者理解并落地应用。
2026-10-29 09:12:33
7
原创 MCP 协议通俗讲解：打通 Agent 和本地工具、文件的新标准
MCP（模型上下文协议）是2024年底Anthropic推出的开源标准，旨在统一AI Agent调用外部工具的方式。它通过定义客户端与服务端间的标准化通信协议，实现工具、资源和提示词的即插即用，解决传统方案中适配代码碎片化、跨框架不兼容的问题。主流厂商如OpenAI、Google DeepMind等已陆续支持，推动其成为行业共识。MCP以“一次开发，多处复用”为核心，显著提升AI应用的可扩展性与互操作性，正加速AI生态的融合与创新。
2026-10-29 09:10:48
90
原创 Python 日志模块 logging 实战：告别 print，规范程序日志输出
本文系统对比了 print 与 logging 的本质差异，指出 print 在生产环境中的局限性。通过详解 logging 的核心组件（Logger、Handler、Formatter、Filter）、日志级别、格式化配置及文件轮转机制，提供可直接使用的完整配置代码。重点演示了如何实现控制台与日志文件双输出、按大小轮转（RotatingFileHandler），并强调 exc_info=True 和合理日志级别对线上问题排查的关键作用，帮助开发者高效构建健壮的日志系统。
2026-10-29 09:08:53
104
原创 大模型的温度参数 Temperature：控制回答随机性的开关
本文深入解析大模型生成中的关键参数——temperature，揭示其通过缩放logits来调控输出随机性的数学原理。从低温（0.1）的稳定确定到高温（1.5）的创意发散，不同温度档位适用于代码生成、科普创作、头脑风暴等多样化场景。结合Python示例与实用推荐表，指导开发者根据任务需求精准调参，避免“越高越聪明”等常见误区，实现高效、可控的内容生成。
2026-10-29 09:05:53
51
原创 上下文学习 In-Context Learning：大模型为什么不用训练也能学会任务
大模型的「上下文学习」（ICL）无需训练，仅靠提示词中的任务说明与示例即可临时掌握新任务。相比微调，ICL快速、低成本，适合灵活试错；而微调则持久稳定，适用于高频场景。根据示例数量，可分为Zero-shot（无示例）、One-shot（1个示例）和Few-shot（多个示例），后者在复杂任务中表现更优。实际效果受示例顺序、多样性、质量和匹配度影响，合理编排提示词是关键。通过Python代码可直观体验三者的差异，理解其“看一眼就学会”的机制本质。
2026-10-29 09:03:55
243
原创 LoRA 轻量微调科普：小算力也能定制专属大模型
LoRA（低秩适配）是一种高效的大模型微调技术，通过冻结原始模型参数，仅训练少量低秩矩阵（A、B）来实现领域定制。相比全量微调，其参数更新量减少99%以上，显著降低显存与算力需求，支持单卡训练和多任务并行。适用于垂直领域适配、风格控制及快速实验，但受限于知识容量，不适合大规模新知识学习。核心优势在于“轻量、灵活、低成本”，是资源有限场景下定制大模型的理想选择。
2026-10-29 09:01:52
220
原创 Python 上手 PCA 降维：看懂高维数据压缩背后的逻辑
本文以照片整理类比高维数据困境，引出降维必要性。详解PCA核心思想：通过线性组合生成方差最大的主成分，实现信息保留下的维度压缩。强调其非特征选择，而是创造新变量；结合数学直觉与Python代码演示二维数据降维过程，直观展示投影效果。最后总结适用场景（可视化、去噪、压缩）与局限（线性假设、解释性差、对缩放敏感），指出降维本质是“用少数方向捕捉主要信息”，为高维数据分析提供高效工具。
2026-10-29 09:00:13
267
原创 聊聊 RAG 检索增强生成：解决大模型知识过时的方案
大模型知识“冻结”导致过时与幻觉，RAG（检索增强生成）通过外接资料库实现“开卷考试”：先检索最新相关文档，再让模型基于真实资料作答。其流程包括文档切片、向量化存储、问题检索与生成拼接，显著提升准确性与私有知识覆盖，且无需重训练。虽存在切片质量、检索噪声等短板，但作为轻量高效方案，已成为当前落地最广的LLM增强技术。
2026-10-29 08:58:40
233
原创 轻量 AI Agent 入门：用 Python 写一个简单的工具调用智能体
本文以极简方式揭示AI Agent的核心思想：大模型不仅是“说话”，更具备“思考、决策、调用工具”的闭环能力。通过60行纯Python代码实现一个无需框架的智能体，演示如何利用函数调用机制，让模型在无法直接回答时主动调用外部工具（如查天气），并基于反馈持续迭代，直至完成任务。对比传统对话机器人，Agent实现了从“只说”到“既想又做”的跃迁，真正理解其本质在于“大模型 + 工具调用 + 循环反馈”的组合拳。
2026-10-29 08:57:12
343
原创 什么是 Token？大模型计数、上下文窗口到底怎么理解
本文深入浅出地解析了大模型中的核心概念：Token、分词器与上下文窗口。指出Token是模型处理文本的最小单位，不同于字或词；分词器负责将文本切分为Token并映射为数字编号；上下文窗口则限制了模型一次能处理的总Token数，直接影响对话长度与长文档处理能力。通过Python代码实操，可直观统计不同模型下的Token数量差异。理解这些概念有助于优化输入、避免超限，并更高效地使用大模型。
2026-10-29 08:55:40
268
原创 Python OCR 实战：提取图片文字，搭建简易图文识别工具
本文基于Python实现简易OCR工具，选用Tesseract引擎，详解中文识别难点与预处理技巧。通过图像缩放、去噪、二值化等预处理显著提升识别率，代码支持批量处理与中英文混合识别。重点揭示语言包缺失、路径错误、手写体识别失败等常见坑点，并提供PaddleOCR替换方案，帮助用户高效提取图片中的可编辑文本。
2026-10-28 10:28:14
22
原创 过拟合与欠拟合：用生活化例子看懂机器学习常见坑
本文以“背题”比喻机器学习中的欠拟合与过拟合，通过生活化案例和Python代码实操，直观展示三种模型拟合效果：欠拟合（模型太简单）、正常拟合（平衡状态）、过拟合（模型太复杂）。结合偏差-方差视角，提出诊断与解决策略——合理划分数据集、正则化、早停、增加数据等，最终形成清晰的排查流程图，帮助读者快速定位问题并优化模型。
2026-10-28 10:27:25
101
原创 提示词工程核心思路：同样的大模型，输出差距到底在哪
提示词工程的核心不在模型，而在输入质量。通过角色设定、清晰指令、输出格式与Few-shot示例四要素的结构化设计，可显著提升LLM输出一致性与可用性。本文强调提示词是可迭代的工程对象，建议以测试集验证、单变量调优、版本管理的方式进行系统化优化，将模糊需求转化为可验证的结构化输入，真正实现“需求无损翻译”。
2026-10-28 10:26:27
47
原创 图像分类入门：从零搭建简易图片识别 Python 小项目
本文面向零基础读者，用迁移学习的思路，基于轻量预训练模型（MobileNetV3）搭建一个能识别「猫 / 狗 / 鸟」的小项目。全程只需要一台普通笔记本，CPU 也能跑完训练。
2026-10-28 10:25:31
64
原创 梯度下降可视化：用 Python 动画直观理解机器学习优化过程
本文以“下山寻谷底”类比梯度下降，生动阐释其核心思想：通过负梯度方向迭代更新参数，逐步降低损失函数。重点解析学习率对收敛的影响——过大易震荡发散，过小则收敛缓慢；揭示局部最优陷阱，并提出动量、多次初始化、自适应优化等应对策略。结合可视化与动画演示，直观展现参数演化路径，强调“画图理解”是掌握优化算法的关键。
2026-10-28 10:24:19
229
原创 本地轻量大模型部署：CPU 环境下 Python 调用开源模型实践
本文介绍在纯CPU环境下运行大模型的可行性与实践路径。针对无GPU用户的痛点，通过选择0.5B～3B级开源小模型、使用llama.cpp优化框架及GGUF量化技术，实现低成本、低门槛的本地推理。以Qwen2.5-1.5B-Instruct为例，展示从环境搭建、依赖安装到完整对话调用的全流程，验证了CPU部署在离线、轻量场景下的实用价值，为开发者提供了可落地的入门方案。
2026-10-28 10:23:39
137
原创 通俗拆解 Transformer：不用复杂公式看懂大模型基础骨架
本文用通俗比喻解析Transformer核心机制：它让句子中每个词“同时”与其他词互动，通过自注意力判断谁更重要，从而理解上下文。关键在于“查询-匹配-加权求和”的圆桌会议模型，结合多头注意力实现多角度理解。其并行计算、长距离依赖处理与可解释性，使其成为大模型基石。无需公式也能掌握其思想——核心是“词与词的智能对话”。
2026-10-28 10:22:45
189
原创 避开幻觉陷阱：聊聊大模型生成内容不可靠的根本原因
大模型幻觉源于其基于统计预测下一个词的机制，而非事实核查。它会生成语法流畅但内容虚构的回答，常见类型包括事实性、忠实性、引用性和推理型幻觉。根本原因在于训练目标是“像人写”，而非“说对话”，且缺乏“我不知道”的表达习惯。工程上可通过检索增强生成（RAG）、强制引用、结构化输出、多轮自检与降低随机性等手段缓解。关键是要将模型视为“知识渊博的助手”而非权威数据库，高风险场景必须保留人工复核。
2026-10-28 10:21:48
270
原创 Python 实战向量检索：简单案例搞懂向量数据库底层逻辑
本文通过一个搜索需求，揭示关键词搜索的局限性，引出向量检索的核心思想：将文本映射为向量，基于语义相似度而非字面匹配进行检索。文章用几十行Python代码实现从编码、存储到检索的完整流程，直观展示向量检索原理，并对比关键词搜索与向量搜索的差异。结合混合检索、二维可视化与工程选型建议，强调向量检索在语义理解、RAG、推荐等场景的优势，最终指出其本质是“向量+距离+近邻”，掌握主线即可轻松入门向量数据库。
2026-10-28 10:21:05
325
原创 一文读懂嵌入向量 Embedding：AI 是怎么看懂文字含义的
AI如何理解“小猫”与“猫”意思相近？答案在于Embedding——将文字转为高维数字向量，通过向量间距离判断语义相似度。如“猫在沙发上睡觉”被编码为384维向量，与“狗在垫子上休息”计算余弦相似度得0.6821，体现语义接近。核心思想：意思近 → 向量距近。该技术支撑搜索、推荐、问答等AI功能，让机器真正“看懂”语言。
2026-10-28 10:13:54
157
原创 1024程序员节实测：用墨衍AI辅助写Python科普文，从选题到多平台分发全程提速3倍
本文分享了程序员用墨衍工具实现技术博文高效创作的全流程：从选题推荐、AI初稿生成、人工润色到GEO优化与多平台同步，全程仅耗1.4小时，效率提升82.3%。作者强调，应合理利用AI辅助，保留70%原创内容，避免纯AI代写，并遵循首发规则与自然关键词优化，真正释放精力专注技术表达。
2026-10-27 15:21:56
353
原创 批量处理文件的 AI 小脚本，解放重复枯燥的手工操作
本文介绍如何用AI辅助编写批量文件处理脚本，解决重复性工作。通过三个高频场景——批量重命名、格式转换、CSV合并，展示可复用的Python脚本模板。强调“预览模式+安全防护”设计，避免误操作。只需基础Python环境，配合大模型生成代码，即可高效自动化文件管理，提升效率并降低出错风险。
2026-10-27 08:45:08
6
原创 手把手：Python 调用 OCR 识别图片文字，解锁文字提取技能
本文介绍Python中OCR技术的入门与进阶应用，涵盖Tesseract和PaddleOCR两大主流方案。从环境配置、基础代码到图片预处理技巧，手把手教你实现图片文字提取。重点讲解中文识别优化、批量处理及可视化结果，适用于扫描件转文本、票据信息自动化等场景，助力高效办公与开发。
2026-10-27 08:44:23
38
分子运动随机预测.zip
2024-06-22
一个网站的标题（Title）和所有的段落（Paragraphs）.py
2024-06-22
正弦曲线和随机散点的图形
2024-06-22
matlab绘制二次函数的图形
2024-06-22
2024年统计师《统计基础理论及相关知识（中级）》历年真题题库
2024-06-21
2024年统计师《统计工作实务（中级）》历年真题题库
2024-06-21
ai人脸&真实人脸识别
2024-03-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人