- 博客(6)
- 收藏
- 关注
RSS订阅原创 DeepSeek是什么？为何出圈？
2022 年，在Google发布的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》中首次提出，通过让大模型逐步参与将一个复杂问题分解为一步一步的子问题并依次进行求解的过程可以显著提升大模型的性能。而这一系列推理的中间步骤就被称为思维链（Chain of Thought）。
2025-02-09 19:55:41
1806
原创 RAG 检索增强生成 | 基本概念
2020年5月，检索增强生成（RAG）框架在Meta发布的论文“Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”中首次被提出。通过一种通用的微调方法赋予预训练的参数化记忆生成模型非参数化记忆，我们称之为检索增强生成（RAG）。建立了RAG模型，其中参数内存是一个预训练的seq2seq转换器，而非参数内存是维基百科的密集向量索引，使用预训练的神经检索器访问。【原文地址】
2025-01-27 15:58:32
1789
原创 模型推理服务器Triton | 常用命令 (持续更新)
Index API提供了一种方法来确定哪些模型可以被Load API加载。使用HTTP POST向Index端点发出模型存储库索引请求。在相应的响应中，HTTP主体包含JSON响应。模型存储库扩展需要Index、Load和Unload的API接口。Triton在以下url中公开端点。N表示Bacth Size，数据存储结构为NCHW。--explicitBatch 显示批量，即。--fp16 输出精度设置为FP16；
2025-01-23 11:20:23
265
原创 计算机视觉 | 数据标注建议（持续更新）
数据标注是指通过人工或自动化工具，对图像、视频等数据进行处理，为其添加描述信息（如类别、位置等）的过程。在目标检测任务中，数据标注的主要目的是为算法提供足够的信息，使其能够学习并识别出图像中的目标物体。
2025-01-15 14:34:44
456
原创 RAG 检索增强生成 | 领域书籍分析
本书共分为3篇：预备篇、基础篇和高级篇。基础篇聚焦于经典RAG应用开发的核心要素与阶段，介绍关键模块的开发过程，剖析相关的技术原理，为后面的深入学习打下坚实的基础；高级篇聚焦于RAG应用开发的高阶模块与技巧，特别是在企业级RAG应用开发中的优化策略与技术实现，并探索了一些新型的RAG工作流与范式，旨在帮助你了解新的RAG应用技术发展，掌握RAG应用的全方位开发能力。作者结合自身丰富的实战经验，详细阐述了RAG的基础原理、核心组件、优缺点以及使用场景，同时探讨了RAG在大模型应用开发中的变革与潜力。
2025-01-07 17:14:23
678
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人