- 博客(12)
- 收藏
- 关注
原创 MCP技术深度指南:从开发到测试的完整实战手册
MCP技术实战指南:从开发到测试 MCP(Model Context Protocol)是AI领域的统一接口标准,旨在解决AI助手的"功能孤岛"问题。本文介绍了使用FastMCP框架快速构建MCP服务器的完整流程: 环境搭建:推荐使用uv工具快速初始化Python环境 基础开发:通过装饰器定义工具、资源和提示模板 进阶示例:建材产品查询服务的完整实现 关键特性:支持异步操作、进度报告和动态URI FastMCP框架让开发者能以最Pythonic的方式快速构建功能完整的MCP服务器,为AI
2026-03-31 14:01:55
816
原创 多模态搜索系统实现详解:从文本到图像的智能检索架构
多模态搜索系统架构解析 本摘要概述了一个先进的建材产品多模态搜索系统,融合文本、图像和混合搜索功能。系统核心架构包含以下关键组件: 数据处理层: 从MySQL提取产品数据并进行清洗转换 图像预处理流程包括下载、格式转换和智能压缩 严格的数据质量评估标准确保数据可靠性 向量数据库层: 采用Milvus实现高性能向量检索 精心设计的表结构支持多模态特征存储 分离式架构确保可扩展性和高可用性 核心功能特点: 支持文本语义搜索和以图搜图 实现跨模态的图文混合检索 结合属性过滤和智能结果重排 该系统通过深度学习模型实
2026-04-08 11:04:50
478
原创 深度学习-为什么自注意力如此重要?(图文讲解)
本文深入解析了深度学习中的自注意力机制原理及其优势。自注意力机制通过让序列中的每个位置直接关注所有其他位置,解决了传统RNN的三个核心问题:无法并行计算、长距离依赖衰减和梯度传播病理。文章从直觉理解出发,通过人类阅读的类比,解释了注意力机制的本质。重点剖析了自注意力的数学实现,包括Query-Key-Value三元组、注意力分数计算、缩放处理和Softmax归一化等关键步骤。自注意力机制因其并行计算能力、直接连接特性和动态权重分配,成为Transformer架构的核心,极大提升了模型处理长序列数据的效率。
2025-09-05 21:57:41
1113
原创 大模型训练技术:2-知识注入分析
摘要:大模型微调阶段能否注入新知识取决于知识类型和微调方法。增量预训练(CPT)和Fact-basedSFT可实现有限知识注入(如领域术语、任务特定事实等),但无法处理动态知识和复杂体系。LoRA适配器主要用于调整模型行为而非知识注入。技术选型建议:深度领域专业化采用CPT+Fact-basedSFT,轻量任务适配使用LoRA微调,动态知识需求结合RAG方案。知识注入需平衡新旧能力,避免遗忘风险。(149字)
2025-09-04 10:33:03
927
原创 深度学习-正则化和归一化(图文讲解)
模型训练中常见过拟合和收敛问题,可通过正则化和归一化解决。正则化通过添加惩罚项控制模型复杂度,L1正则化产生稀疏权重,L2正则化保持权重均衡。归一化将数据统一到相同尺度,包括批量归一化(图像处理)、层归一化(文本处理)、实例归一化(风格迁移)和组归一化(医学图像)。两者结合能有效提升模型泛化能力和训练效率。
2025-09-04 10:31:33
1037
原创 大模型训练技术:1概述
大模型训练分为预训练和后训练两阶段。预训练通过自回归或自编码方法从海量文本中学习通用语言知识;后训练则通过监督微调、强化学习等技术实现任务适配与偏好对齐。关键技术包括SFT(监督微调)、RLHF(人类反馈强化学习)、DPO(直接偏好优化)等,不同方法可组合使用:轻量任务用SFT+RSFT,高安全需求需SFT→DPO→领域适配。后训练流程需分阶段实施,先建立基础能力再优化生成质量,最终实现价值观对齐和领域专业化。
2025-09-04 10:28:11
1171
原创 深度学习-激活函数和损失函数(图文讲解)
深度学习模型中,激活函数和损失函数是关键组件。激活函数(如ReLU、Sigmoid)为网络引入非线性能力,使模型能拟合复杂数据模式;损失函数(如MSE、交叉熵)则评估预测误差,指导参数优化。二者协同工作于前向传播和反向传播过程中,共同推动模型训练。不同类型的激活函数适用于不同网络层(如Softmax用于输出层),而损失函数的选择则取决于任务性质(回归/分类)。合理搭配二者对模型性能至关重要。
2025-09-03 10:58:39
830
原创 深度学习-前向传播和反向传播(图文讲解)
深度学习模型通过前向传播和反向传播循环优化性能。前向传播将输入数据经加权计算和激活函数逐层传递至输出层;反向传播则根据损失函数梯度反向调整网络参数。该过程包括:1)前向计算预测值;2)反向计算误差梯度;3)使用优化算法更新权重。隐藏层负责特征提取,输出层生成最终结果,通过迭代训练使模型预测更准确。
2025-09-03 10:39:42
720
原创 深度学习-从神经网络入门(图文讲解)
深度学习利用多层神经网络进行复杂模式识别,主要模型包括感知机和前馈神经网络(FFNN)。感知机是最简单的两层神经网络,用于线性二分类问题。FFNN则包含输入层、隐藏层和输出层,通过非线性变换处理复杂问题。FFNN的训练过程包括参数初始化、前向传播、反向传播和参数更新,最终最小化损失函数。FFNN在Transformer等模型中发挥重要作用,通过非线性变换和特征整合处理复杂任务。
2025-09-03 10:24:28
943
原创 深度学习-贝叶斯神经网络(BNN)(图文讲解)
本文探讨了AI系统如何表达"不确定性"的问题,重点介绍了贝叶斯神经网络的工作原理。文章从贝叶斯定理的基础概念出发,通过医生诊断流感的案例说明贝叶斯推理的核心思想:根据先验知识和新证据更新判断。相比传统神经网络给出确定答案,贝叶斯神经网络将参数视为概率分布,能同时提供预测结果和可信度评估。这种"诚实的不确定"在高风险领域(如医疗诊断)尤为重要,使AI系统具备"自知之明",避免虚假确定性带来的风险。
2025-09-02 21:08:09
1302
原创 RAG(Retrieval Augmented Generation)检索增强技术解析
RAG(检索增强生成)技术解决了大语言模型的知识局限性问题。其核心流程分为检索和生成两个阶段:首先通过语义检索从知识库中获取相关内容,再结合检索结果生成准确回答。语义检索利用向量化技术将文本转换为数字向量,通过计算向量相似度找出语义相近的内容。系统构建涉及文本拆分、向量化、索引优化等步骤,并可通过重排序和提示工程提升回答质量。RAG的优势包括知识实时更新、回答可追溯、准确性高等特点,已成为增强大模型知识能力的重要方案。
2025-09-02 11:42:38
1002
原创 “搜不到、搜不准”,提升RAG检索召回率
本文探讨了优化RAG系统检索环节的关键策略。在索引构建方面,提出了智能分块、父文档检索器、生成QA对等方法来提升检索精准度;在查询处理方面,介绍了查询扩展、RAG-Fusion、后退一步提示等意图理解技术;最后阐述了融合关键词与向量搜索的混合检索方案。这些方法共同解决了"找不准"和"找不到"的核心问题,通过优化数据源和查询入口,显著提升了RAG系统的检索效果。
2025-09-01 11:10:54
1251
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅