- 博客(53)
- 收藏
- 关注
RSS订阅原创 Ontology Development 101 中英对照
本文是《本体开发 101：创建你的第一个本体指南》的中英对照版本，由斯坦福大学的 Natalya F. Noy 与 Deborah L. McGuinness 撰写。文章系统介绍了本体开发的基础知识，包括为什么要开发本体、本体中包含什么、一套简单的知识工程方法学、如何定义类与类层次结构、定义槽与实例、定义本体中的刻面，以及相关的其他资源和结论。文中以葡萄酒与食物搭配为例，详细演示了使用 Protégé-2000 进行本体建模的完整流程，并强调本体设计是一个创造性的过程，对任何领域都不存在唯一正确的本体。
2026-10-16 11:18:27
118
原创 大模型Agent：MCP协议 + FastAPI + Client/Server
基于 MCP+FastAPI+LangGraph 的多 Agent 架构，通过 Client/Server 模式实现工具解耦与动态插拔，拆解完整调用链路。
2026-09-06 20:42:00
374
原创 MinerU 跨页表格实现
MinerU 跨页表格用 "逐页版面检测 + 跨页合并后处理" 实现，按列数、宽度、表头相似度判定后合并为完整表格，pipeline 与 VLM 双后端，并配合带表头切片与 VLM 兜底保证 RAG 入库语义完整。
2026-09-06 20:37:06
368
原创 向量数据库索引详解｜FAISS、FLAT/IVF 系列 / HNSW + 相似度度量
做 RAG、语义检索时，文本、图片经过 Embedding 模型转为高维向量。没有索引时，查询向量必须和库内所有向量逐个计算相似度，向量数量越大，检索速度越慢。索引的作用就是在可控的召回损失前提下，大幅降低检索计算量。FAISS（Facebook AI Similarity Search）是 Meta 开源的 C++ 编写、提供 Python 接口的向量检索库，专门做高维向量近邻搜索。它不具备传统数据库的事务、持久化管理等能力，只聚焦向量检索，大量向量库底层都复用 FAISS 的索引实现。
2026-09-05 11:37:00
269
原创 深度学习正则化方法详解｜Dropout / BN / L1&L2 正则
模型容量过大时，很容易记住训练数据里的噪声，而不是学到通用规律，也就是过拟合。正则化不是提升模型在训练集上的精度，而是约束模型复杂度，提升测试集泛化性能。 常用三大正则手段：Dropout、BatchNormalization 批量归一化、L1/L2 权重惩罚。
2026-09-05 11:06:43
195
原创 模型部署｜Flask 框架 + Docker 容器化部署
在算法项目落地流程中，模型训练完成只是第一步，如何把模型封装成可调用服务、保证环境一致性，是上线的关键。本文讲解使用 Flask 搭建模型推理 API，再通过 Docker 打包容器实现跨环境部署，包含工程代码、Dockerfile 编写、镜像构建与容器启动，适合大模型、NER/POS、传统机器学习模型上线。
2026-09-05 10:43:47
211
原创 EDA探索性数据分析最全详解：流程、清洗方案、适用场景（机器学习/大模型通用）
EDA（探索性数据分析）是所有机器学习、深度学习、大模型训练必备的上游数据预处理核心环节。很多模型效果差、收敛慢、泛化能力弱的根本原因不是模型结构问题，而是数据脏、分布不均、存在异常与噪声。本文系统讲解EDA标准流水线、各环节作用、数据问题解决方案、适用边界、高频面试问答，覆盖表格数据、NLP标注数据、大模型预训练语料场景。
2026-09-05 10:34:26
860
原创 7大机器学习范式：有监督/自监督/半监督/主动学习/弱监督/自训练/迁移学习
深度学习与大模型面试中经常混淆各类机器学习学习范式，本文系统梳理**有监督、自监督、半监督、主动学习、弱监督、自训练、迁移学习**7 大核心范式，结合 NLP 任务 SFT、POS 词性标注、NER 命名实体识别讲解定义、特点与落地场景，辨析范式间边界、常见误区，串联完整 LLM 训练链路，适合算法面试复习与工程实践参考。
2026-09-05 10:23:44
756
原创 LoRA 核心超参详解：搞懂这 4 个参数，调优不再盲试
LoRA 是当前大模型轻量化微调的主流方案，但多数开发者在训练时常常盲目调参，容易出现模型过拟合、特征生效弱、生成画面崩坏等问题。本文针对 LoRA 训练中**r (秩)、alpha 缩放因子、lora_dropout、target_modules 注入层**四大核心超参数进行原理拆解，梳理各参数的取值逻辑与调优策略，配套微调速查表以及快速实验、正式微调、极致细节三套可直接落地的工程配置方案。旨在帮助开发者理解 LoRA 底层参数作用，减少无意义试错，高效完成风格、角色等任务的 LoRA 微调。
2026-09-03 11:04:24
356
原创 Agent‑RAG 处理复杂 PDF：从 Demo 走向生产级
在 RAG 项目开发中，直接把 PDF 转纯文本再切片，是 Demo 级别的简单做法。面对真实业务 PDF：多栏排版、表格、扫描件、图表、合同层级页眉页脚，简单文本切片会带来上下文断裂、表格信息损坏、无法溯源等一系列问题。本文梳理工业界 Agent+RAG 处理 PDF 的四层架构，讲清楚生产环境 PDF RAG 完整落地思路，同时说明如何规避大模型幻觉问题。
2026-09-02 19:17:02
366
原创 Agent 的 Checkpoint 机制深度解析：生产级长任务状态快照设计
Checkpoint 是 Agent 长周期任务的核心工程能力，很多开发者简单把 Checkpoint 等同于对话记忆快照，忽略生产环境下服务重启、跨机器路由漂移、长时间人工审批等现实问题。本文从业务、存储选型、生命周期 TTL、状态复苏三要素、Time Travel 高阶能力完整讲解 Agent Checkpoint 机制，同时区分面试入门、进阶、高手版回答思路，可直接用于 Agent 开发实践以及技术面试。
2026-08-30 16:56:00
314
原创 生产级Agent 如何支持长任务的暂停、恢复、续跑？
长周期任务是 Agent 落地的核心难点，很多方案简单将加载对话历史等同于任务续跑，无法保证执行确定性。本文讲解基于 Checkpoint 存档的长任务断点方案，包含状态边界与意图识别、存档结构设计、环境校验、幂等防护、HITL 人工兜底等工程要点，厘清 “恢复记忆” 和 “恢复执行状态” 的本质区别。
2026-08-30 15:58:29
347
1
原创 Agent 生产级意图识别：三层漏斗架构 + 数据飞轮，平衡准确率、成本与延迟
针对智能 Agent 与对话系统意图识别普遍存在的推理成本高、响应延迟、模型幻觉、长尾识别不准等痛点，本文提出一套**三层漏斗式意图识别架构**，搭配 OOD 拒识防护与数据迭代飞轮。该架构依次通过规则快速通道拦截高频固定指令、微调 5B/7B 小模型承载主流意图分类、大模型兜底处理长尾复杂场景，将核心意图 Top1 准确率稳定至 94%~95%，同时推理成本降低一个数量级；并构建 “数据强化 - Badcase 扩充 - 金标准评测 - 用户信号挖掘” 的闭环飞轮持续迭代优化，在识别准确率、响应速度与算力
2026-08-30 15:35:58
722
原创 大模型 Agent 落地：多维评估体系、工程难点与自动化评测方案
针对基于 LangGraph 动态 DAG、SpringCloud 工具网关构建的大模型 Agent 应用，本文梳理 Agent 落地阶段典型工程难点，搭建结果、过程、系统三层量化评估体系，并介绍规则断言、环境状态机、LLM-as-a-Judge 相结合的自动化评测流水线，形成一套可复用的 Agent 质量评估与迭代方案，为 Agent 线上稳定落地提供支撑。
2026-08-30 13:33:25
477
原创 大模型Agent动态DAG
在AI Agent开发中，传统静态工作流无法适配开放式、多样化的用户需求，固定的任务流程需要频繁改代码、维护成本极高。而动态DAG作为新一代Agent核心编排技术，可通过LLM实时拆解任务、生成执行流程，一套通用框架适配所有业务场景。本文通俗拆解动态DAG核心概念、与静态DAG的区别、完整工程架构、落地实现方案，同时厘清LangGraph与动态DAG的关系，附带真实业务场景，帮助开发者系统掌握相关技术原理与落地方法。
2026-08-29 20:59:49
356
原创 CLIP vs SigLIP
本文详细对比了 CLIP 与 SigLIP 两大主流图文对齐模型，二者整体双塔架构一致，核心差异集中在损失函数设计。CLIP 采用 InfoNCE Softmax 全局对比损失，训练强依赖超大 Batch；SigLIP 使用 Pairwise Sigmoid 逐对损失，摆脱了全局负样本依赖，训练更稳定、分布式开销更低、泛化与零样本能力更强。目前 SigLIP 已替代传统 CLIP 成为新一代多模态大模型的主流视觉编码器。
2026-08-28 18:34:13
382
原创 多Agent项目落地技术选型全维度指南（含闭环评估体系·工程实战
本文梳理多 Agent 项目七大技术选型维度，重点详解闭环评估完整流程与落地坑，可用于多 Agent 架构设计与面试复习。
2026-08-28 18:26:46
372
原创 大模型训练、微调、对齐、推理、量化、优化、数据集等
本文系统梳理了大模型从预训练、持续预训练、SFT 微调、RLHF/DPO 对齐、主动学习、KV 缓存、注意力优化、模型量化、归一化处理到数据集范式与评测体系的核心知识，重点面向 AI 面试与工业落地场景，兼顾理论原理和工程实践，适合作为大模型技术学习、面试复习和技术博客收藏参考。
2026-08-25 15:17:28
452
原创 模型收敛、震荡、本质特征与泛化能力的区别
在模型训练、大模型微调（LoRA/PEFT）过程中，收敛、震荡是高频出现的核心概念。很多初学者极易混淆：将模型收敛等同于学到数据本质特征，将训练震荡误认为过拟合、欠拟合。
2026-08-24 15:57:15
305
原创 大模型参数高效微调：PEFT、LoRA、QLoRA、DoRA原理与对比
大模型全参微调硬件门槛极高，PEFT参数高效微调成为工业界主流方案。本文讲解PEFT核心概念，对比LoRA、QLoRA、DoRA三者原理、优缺点、适用场景，附带代码示例与选型建议，帮助快速落地大模型微调。
2026-08-24 13:32:22
397
原创 双塔模型 vs 交叉模型：原理、优缺点、适用场景完整对比
在推荐系统、信息检索、RAG检索排序链路中，双塔模型与交叉模型是两类最核心的匹配学习架构。双塔主打解耦编码、向量检索、高吞吐，多用于召回粗排；交叉模型主打全量特征交叉、细粒度匹配、高精度，多用于精排重排。本文从原理、计算方式、性能、效果、工程落地、适用阶段全方位对比两者差异，梳理工业界标准的“双塔召回+交叉精排”流水线逻辑。
2026-08-23 15:11:00
487
原创 大模型推理核心原理：KV Cache、Prefill、Decode、TTFT、vLLM、算子
大模型自回归推理分为 Prefill 与 Decode 两个核心阶段，KV Cache 是推理加速的关键数据缓存机制。本文从底层原理出发，系统讲解 KV Cache 工作逻辑、GPU 算子执行机制、vLLM 分页优化方案，并解析 TTFT、TPOT 两大推理性能指标，串联大模型部署完整链路，帮助开发者理解推理性能瓶颈与工程优化思路
2026-08-23 10:59:32
444
原创 vLLM 核心作用与业务定位：解决什么问题、处在系统哪个环节
本文系统讲解了 vLLM 的核心定位、业务链路职责与核心加速原理，对比原生 Transformers 推理的性能短板，阐述了 PagedAttention 与连续批处理的优化优势。同时结合政企私有化、智能 Agent、C 端高并发服务、批量数据生成等落地场景，列举真实工程应用案例，从推理性能、硬件资源、业务体验、场景专项指标多维度，搭建完整的 vLLM 部署效果量化评估体系，帮助开发者全方位掌握 vLLM 工程落地、部署优化与效果验收方法。
2026-08-22 16:42:06
400
原创 BERT预训练原理详解：MLM掩码预测 + NSP句子预测
介绍 BERT 预训练的 MLM 掩码语言模型、NSP 下一句预测两项自监督任务，分析任务实现细节与存在问题，梳理 BERT 预训练流程、下游微调方法以及 RoBERTa、ALBERT 等变体模型的核心改进
2026-08-22 14:57:21
564
原创 ArcFace 论文阅读：Additive Angular Margin Loss for Deep Face Recognition
论文信息 标题：ArcFace: Additive Angular Margin Loss for Deep Face Recognition 作者：Jiankang Deng, Jia Guo, Niannan Xue, Stefanos Zafeiriou arXiv 预印本：2018‑01‑23，arXiv:1801.07698 会议发表：CVPR 2019 开源项目：GitHub - deepinsight/insightface: State-of-the-art 2D and 3D Face
2026-08-21 11:25:13
348
原创 从Softmax到ArcFace：度量学习损失函数的迭代与优势
在人脸识别、行人重识别、图像检索等度量学习任务中，传统Softmax损失函数早已无法满足高精度特征匹配需求。Softmax仅能完成基础的闭集分类任务，无法约束特征的类内紧凑性与类间分离度，且存在训练推理不一致的问题。而ArcFace作为经典的角度间隔损失函数，通过归一化特征与权重、添加角度裕度，完美适配开集识别场景，成为工业界主流方案。本文将从零详解Softmax、ArcFace原理，梳理Softmax缺陷、ArcFace优化逻辑，并完成多维度对比，弄懂度量学习损失函数的迭代核心。
2026-08-21 10:59:50
945
原创 深入理解Softmax与CLIP InfoNCE损失的不对称性：负采样的核心必要性
Softmax交叉熵损失是分类、对比学习的基础损失函数，其与生俱来的梯度不对称性是深度学习训练中各类训练问题的核心诱因。CLIP模型使用的InfoNCE损失本质是跨模态版Softmax损失，完整承袭了该固有特性。本文从数学原理、梯度特性、训练弊端三个维度拆解Softmax不对称性，延伸分析CLIP InfoNCE的训练缺陷，最终详解负采样（难负样本挖掘）的核心作用与优化逻辑，系统梳理分类学习与多模态对比学习的底层共性问题。
2026-08-20 19:48:49
627
原创 （继上一篇）解决 CloudStudio SSH 频繁断开！cpolar 动态隧道更新 + tmux 任务保活实操
（继上一篇《CloudStudio + cpolar 内网穿透实现外网 SSH 免密远程连接 GPU 容器》） 上一篇讲解了整套 SSH 免密登录的搭建流程。但在实际长期使用 CloudStudio 免费 GPU 容器过程中，会遇到两个核心痛点：容器重启后 cpolar 隧道地址动态变化、SSH 连接经常被远端强制断开。本文承接上文，针对这两个实战难题，整理隧道地址快速更新流程、SSH 断线兜底方案、tmux 后台任务运行、容器防休眠保活脚本全套解决方案，适合使用 CloudStudio 免费 GPU 开展
2026-08-17 10:46:50
195
原创 CloudStudio + cpolar 内网穿透实现外网 SSH 免密远程连接 GPU 容器
CloudStudio 免费 GPU 容器仅支持网页 IDE 访问，无法直接通过 SSH 远程连接。本文采用 cpolar 内网穿透，将容器 22 端口 SSH 服务暴露至公网，搭配 SSH 密钥免密登录方案，实现 Windows WSL2 终端一键远程登录云端容器，方便本地开发、远程模型训练。同时整理实操过程大量踩坑点，适合新手完整复现。
2026-08-15 21:23:06
403
原创 RAG 面试题：压缩摘要丢失关键信息如何兜底
文档切片后完整保留原始 chunk 原文片段。摘要仅用于粗粒度检索，送入大模型做推理的上下文使用原始 chunk，即使摘要丢失数字、约束，原始切片依然完整。压缩摘要为了精简语义，很容易丢失精确数字、阈值、边界约束等信息，我们不会将摘要作为唯一事实来源，从存储层、检索层、应用层三层做兜底。重点：摘要只做检索，传给大模型生成答案永远优先使用原始 chunk，而不是压缩摘要，从根源规避摘要信息丢失带来错误输出。就算抽取结果错误，模型输出依旧完全依赖原始 chunk，不会直接使用元数据的值，不会造成答案错误。
2026-08-10 10:19:03
192
原创 进程内Agent与独立微服务Agent深度解析
在AI Agent项目开发中，很多开发者都会遇到一个核心架构选型问题：Agent逻辑应该内嵌在业务进程中，还是拆分为独立微服务部署？这两种部署模式决定了项目的性能、可用性、可扩展性和运维成本，也是企业级Agent落地的核心知识点。本文将通俗易懂地讲解进程内Agent和独立微服务Agent的核心原理、优缺点、适用场景，附带可运行Python实战代码和生产选型方案，适合新手学习、面试复盘和项目落地参考。一、核心概念总览。
2026-08-09 22:14:52
347
原创 【PyTorch 零基础】张量(Tensor)创建与数据类型详解
本文详细介绍了PyTorch中张量(Tensor)的创建与数据类型规则。核心内容包括：1）小写torch.tensor()根据数据自动推断类型（整数默认int64，浮点list默认float32，numpy array继承原类型）；2）大写torch.Tensor()按形状创建未初始化张量，固定为float32；3）四种创建方式对比及自动推断规则；4）常见报错场景（字符串数据和randint参数格式）。重点强调实际开发应显式指定dtype避免混淆，并总结了大/小写Tensor的核心区别和使用场景。全文提供了
2026-06-05 21:26:37
312
原创 为什么大模型依赖张量计算？一文吃透矢量化和张量化底层逻辑
在深度学习与大模型开发中，数据要经历「Python 列表→Numpy 数组→PyTorch 张量」三次形态转换。矢量化将原生列表转为规整数组，摆脱循环低效运算，是传统机器学习与数据预处理的底层支撑；张量化基于数组生成张量，依托 GPU 硬件加速、自带自动求导，是 Transformer、LLM 大模型的核心算力底座。本文从数据格式、适用场景、代码实例区分矢量化与张量化，理清大模型最底层的数据运行逻辑。
2026-06-04 15:01:19
252
原创 矢量化 张量化 数列 数组 张量 这几个词的关系
原生 Python 数列 list →【矢量化】→Numpy 数组（机器学习计算）→【张量化】→Torch 张量（大模型深度学习核心计算）
2026-06-04 14:50:33
226
原创 前端常用的设计模式有哪些？并说明使用场景
需求指导设计，设计指导开发，这里的设计是指技术方案、组件结构，API,数据结构等的设计。proxy可以理解为，在目标对象之前假设一层“拦截”，外界对该对象的访问，都必须先通过。这层拦截，因此提供了一种机制，可以对外界的访问进行过滤和改写。原意是代理，用在这里表示由它来“代理”某些操作，可以译为“代理器”2，Java是支持多线程的，创建单例要考虑锁死线程。1，使用者不能直接访问对象，而是访问一个代理层。1，用一个工厂函数，来创建实例，隐藏new。前端常用的设计模式有哪些？1，JS是单线程的，创建单例很简单。
2026-03-11 10:41:51
369
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人