AI魔修-优快云博客

原创【企业实战】HunyuanOCR并发读图实战

本文介绍了一个基于HunyuanOCR的大模型并发推理实践，在单卡4090、CUDA130环境下，通过设置10个线程并发处理图片识别任务。文章详细展示了代码实现，包括图片base64编码处理、多线程并发请求、结果汇总统计等功能模块。测试使用10张图片进行并发处理，最终整个链路耗时7.83秒完成，成功实现了高效的并发推理。代码中通过ThreadPoolExecutor实现多线程并发，并提供了完整的错误处理和结果统计功能，可作为大模型并发推理的参考实现方案。

2025-12-05 00:37:37 504

原创【企业实战】本地部署HunyuanOCR实战

本文介绍了腾讯混元OCR（HunyuanOCR）的安装部署流程及使用示例。首先通过uv创建虚拟环境并安装vllm，然后从ModelScope下载模型。部署时使用vLLM的API服务器，设置GPU内存利用率为0.35，端口8001。成功启动后，通过Python代码调用API，将图片转为base64格式并发送请求，模型可提取图片中的表格信息并以HTML格式返回。示例展示了从测试图片中成功提取包含TYPE、ASCII和HTML三列的表格数据。整个过程实现了图片表格内容的自动化识别与结构化输出。

2025-12-04 00:45:12 1567

原创【LangChainV1.0 从0到1项目落地】调用模型

本文介绍了大模型的分类方法及LangChain 1.0调用各类大模型的实践。大模型主要按模态（文本、视觉、多模态、音频）和功能（对话、代码、科学计算等）分类。LangChain调用示例包括：1）语言模型（DeepSeek-V3.1）生成诗歌；2）多模态模型（Qwen3-VL-235B）分析图表；3）向量模型（Qwen3-Embedding-8B）处理文本嵌入。通过魔搭社区获取API密钥，使用ChatOpenAI等接口实现模型调用。

2025-12-01 23:57:06 1431

原创【RAG全栈】Task06：项目实战一图优化

本文介绍了基于知识图谱的图RAG（检索增强生成）系统的实现过程。系统通过Neo4j构建结构化知识图谱，支持多跳推理和复杂关系查询，具有事实性和可解释性优势。详细说明了环境配置步骤，包括创建Python虚拟环境、使用Docker部署Neo4j数据库（含APOC插件）、数据导入流程。系统整合了Milvus向量索引、混合检索（BM25+向量检索）和智能查询路由功能，以烹饪知识库为例展示了完整工作流程，包括知识图谱构建（323个菜谱、2906个食材节点）、文档分块（1138个文本块）和检索生成过程。

2025-11-29 23:41:52 1024

原创【RAG全栈】Task05：项目实战一

本文介绍了基于RAG（检索增强生成）技术的菜谱问答系统实现方案。系统采用树形结构处理菜谱数据，将完整菜谱（父文档）分割为多个子块（介绍、原料、步骤等），检索时精确匹配子块，生成时整合父文档保证上下文完整。技术实现包括：1）使用FAISS构建向量索引并实现缓存机制；2）结合向量检索和BM25检索的RRF混合排序算法；3）支持元数据过滤检索；4）集成大语言模型生成回答。系统能智能处理"推荐简单素菜"等查询，自动过滤难度和分类，并通过流式输出返回结果。

2025-11-29 00:41:45 1431

原创【LangChainV1.0 从0到1项目落地】数据格式化输出

大模型输出结果是非结构化的，输出的文本程序无法理解，这时我们需要让大模型输出的结果是结构化，比如常用来解析的JSON、XML等格式。

2025-11-26 21:29:09 449

原创【RAG全栈】Task04：检索优化

{'author': '二次元的Datawhale', 'source': 'BV1ug4y157xA', 'view_count': 19602, 'title': '《吴恩达 x OpenAI Prompt课程》【专业翻译，配套代码笔记】02.Prompt 的构建原则', 'length': 1063}描述: 一条金色的中华龙在祥云间盘旋，它身形矫健，龙须飘逸，展现了东方神话中龙的威严与神圣。描述: 一条金色的中华龙在祥云间盘旋，它身形矫健，龙须飘逸，展现了东方神话中龙的威严与神圣。

2025-11-26 00:32:02 1327

原创【RAG全栈】Task03：索引构建

摘要 Embedding将离散数据转化为低维向量，相似对象向量距离更近，常用余弦相似度、点积和欧氏距离衡量。RAG中，离线构建向量数据库，在线查询时计算相似度召回相关文档。多模态大模型可直接处理图像等数据，通过向量转换实现跨模态相似度计算。向量数据库（如Pinecone、Milvus）专门优化高维向量存储检索，解决传统数据库效率问题。Milvus支持多种部署模式，从Lite到分布式，满足不同规模需求，提供高效相似性搜索和分析能力。索引优化可进一步提升检索性能。

2025-11-20 21:33:31 1143