- 博客(9)
- 资源 (2)
- 收藏
- 关注
原创 RAG 评估体系:用 RAGAS 量化你的检索质量
本文系统介绍了RAGAS框架在RAG系统评估中的应用。作者指出RAG评估的三大难点:多维度性、缺乏明确标准答案、各环节相互影响。RAGAS通过八大核心指标(如忠实度、答案相关性、上下文精确度等)实现量化评估,这些指标分为生成质量、检索质量和端到端质量三类。文章详细讲解了每个指标的定义、计算方法和应用场景,并提供了评估数据集构建、自动化流程和持续监控的实践方案。最后通过完整案例演示了如何用RAGAS评估优化效果,强调"没有评估的优化是盲目的",建议将评估纳入RAG开发的每个环节。
2026-06-03 21:57:16
555
原创 RAG 检索优化:从基础到高级的 10 种策略
本文系统总结了RAG检索优化的10种策略,从基础到高级分为四个层级:基础检索策略(语义检索、BM25、混合检索)、召回后优化(重排序、多路召回融合)、查询侧优化(查询重写、HyDE、多查询检索)以及上下文感知检索(上下文检索、自查询)。文章首先强调了检索质量评估的重要性,介绍了Recall@K、Precision@K等核心指标及其实现方法。每种策略都详细阐述了其解决的问题、实现原理、代码实现和应用场景,并提供了综合对比和组合选择指南。
2026-05-19 22:11:47
833
原创 Python asyncio 深入理解:从协程到事件循环
本文深入探讨了Python asyncio异步编程的核心概念与实践。作者从实际开发中的困惑出发,系统性地解析了协程的本质、事件循环的调度机制以及Task的并发管理。文章通过同步与异步的直观对比,阐述了异步编程"在等待I/O时不阻塞"的核心思想,并详细介绍了协程函数与协程对象的区别、可等待对象类型以及常见并发控制方法。最后通过一个高并发API网关的实战案例,验证了异步编程的性能优势。全文包含大量代码示例和实用建议,既适合初学者理解基础概念,也为进阶开发者提供了避坑指南和性能优化技巧。
2026-05-16 22:39:53
953
原创 流式输出SSE原理与Python实现
本文深入探讨了流式输出(SSE)技术原理及其在Python中的实现。文章从OpenAI API的stream参数出发,逐步解析SSE协议的工作机制,包括HTTP长连接、分块传输等底层技术。作者详细对比了SSE与WebSocket、轮询等实时通信方案的差异,并提供了使用FastAPI和Starlette构建SSE服务端的完整实现方案。此外,文章还涵盖了前端EventSource API的使用、逐字渲染效果实现以及生产环境中常见问题的解决方案。通过理论与实践相结合的方式,帮助读者全面掌握流式输出技术的应用。
2026-05-14 23:34:16
710
原创 向量数据库选型与实践:Chroma、Milvus、Pinecone、Faiss、Elasticsearch 对比
本文系统对比了五大主流向量数据库(Chroma、Faiss、Milvus、Pinecone、Elasticsearch)的核心原理与适用场景。作者从RAG应用需求出发,首先解析向量数据库的核心概念,包括ANN算法(HNSW、IVF等)和关键性能指标(QPS、召回率等)。随后对每个数据库进行深度剖析:Chroma适合轻量级入门,Faiss专注高性能检索,Milvus提供分布式能力,Pinecone是全托管云服务,Elasticsearch支持混合检索。文章提供了功能矩阵对比、性能基准测试和成本分析。
2026-05-13 22:07:55
608
原创 OpenAI API 进阶指南
本文总结了OpenAI API进阶应用中的关键优化技术。针对基础功能完备但存在成本、效率和安全问题的AI聊天应用,提出了语义缓存、模型路由、内容安全过滤三大核心解决方案。通过Embedding技术实现语义相似度匹配,可降低30-70%的重复问题API调用成本;采用智能模型路由策略,根据问题复杂度自动选择不同价位模型;构建三层内容过滤架构保障合规安全。此外还介绍了MCP协议标准化工具集成、日志监控提升可观测性等配套措施,形成完整的进阶优化体系。
2026-05-12 16:26:44
1052
原创 OpenAI API 实战指南
本文是作者学习OpenAI API的实践总结,从Prompt设计到API实现的完整指南。文章详细介绍了Chat Completions API、流式输出(SSE)、Function Calling等核心功能,并提供了可运行的代码示例。内容涵盖环境配置、消息角色体系、Token计算、错误处理、多轮对话管理等关键技术点,最后通过一个AI对话应用项目验证所学。作者分享了从理论到实践的完整学习路径,特别推荐关注流式输出和Function Calling这两个关键功能。
2026-05-11 18:17:40
670
原创 Prompt工程指南:从原理到最佳实践
《Prompt工程完全指南》系统介绍了Prompt设计的核心要素与技术体系。文章首先阐述了Prompt工程在AI应用中的关键地位,指出Prompt质量决定了AI效果上限。随后详细解析了Prompt基础结构的五大要素:角色设定、任务指令、上下文注入、输出格式控制和约束条件,并对比了优劣Prompt的实际效果差异。 在进阶技术部分,文章涵盖了少样本提示、思维链推理、自洽性验证等5种推理方法,以及JSON、Markdown等4类结构化输出控制技术。
2026-05-10 21:36:34
598
原创 RAG文档分块策略
def llm_chunking_with_summary(text : str , llm : ChatOpenAI) - > list : """LLM 分块并生成每个 chunk 的摘要""" prompt = f"""请将以下文档按主题分为若干段落,并为每个段落生成一句话摘要。输出格式(JSON):{{"summary": "段落摘要", "content": "段落原文"}},...文档内容: {
2026-05-09 13:10:55
1511
基于Java的minio相关操作示例
2020-10-15
视频转码、截图、裁剪、拼接
2020-10-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅