yyp_似旧-优快云博客

原创 SenseVoice 适配华为昇腾NPU，高效推理

SenseVoice 是阿里通义实验室开源的高精度多语言语音识别模型，支持 50+ 语言及情感识别。本文详细介绍如何在华为昇腾 Atlas 800I A2 / 300I Pro 上完成 SenseVoice 的 ONNX 转换、ATC 编译及 OM 模型推理全流程。适合需要在国产算力平台上落地 ASR 服务的开发者参考。

2026-06-29 09:51:25 534

将输入的一段文本映射到预定义的离散标签集合中。模型不生成新的文本内容，而是输出每个类别的概率分布。让模型学习如何遵循人类指令，以特定的格式和风格生成回复。这是让基座模型（Base Model）变为对话模型（Chat Model）的关键步骤。训练一个模型来评估给定文本的质量或偏好程度，输出一个标量分数（Score）。它不生成文本，只负责“评判”。在不训练独立奖励模型的情况下，直接利用偏好数据对策略模型进行微调，使其更符合人类偏好。

2026-10-14 15:30:10 173

原创 Gensim 相似文本检索技术手册

Gensim（Generate Similar）是 Python 生态中专注于无监督主题建模、文档索引与相似度检索的开源库。内存无关性：通过流式处理（Streaming）支持远超内存大小的语料库算法专注性：不提供神经网络训练，专注于统计模型与向量空间模型工业级稳定性：经过十余年验证，API 设计成熟且向后兼容。

2026-08-05 09:19:48 469

原创 Gensim 中文语义分析实战手册：从原理到生产部署

Gensim是 Python 生态中专注于无监督语义分析的工业级库。所有核心算法均支持流式（Streaming）处理，单机即可处理 TB 级语料。提供 LDA、LSI、Word2Vec、FastText、Doc2Vec 等模型的最优实现。关键路径由 Cython/C 编写，多线程并行加速。Gensim 不是深度学习框架。它不包含 Transformer/BERT/GPT 等模型。在现代 NLP 栈中，Gensim 通常用于数据探索、基线构建、轻量级检索增强（RAG）及可解释性分析。

2026-08-04 08:39:07 667

原创 Gunicorn 完全指南：安装、部署、性能调优一站式教程

Gunicorn（Green Unicorn）是一个纯 Python 实现的 WSGI HTTP 服务器，用于运行 Python Web 应用程序。它采用预派生（pre-fork）工作模型，移植自 Ruby 的 Unicorn 项目。Gunicorn 通常部署在反向代理（如 Nginx）和 Web 应用（如 Django 或 Flask）之间，充当应用服务器的角色。它的核心作用是在 Web 应用与外界之间搭建桥梁，并发地处理大量 HTTP 请求。

2026-08-03 08:26:40 465

原创 FunASR 快速部署与调用指南

FunASR 是阿里巴巴达摩院与中科院自动化所联合开源的工业级语音识别工具包，集成了自动语音识别（ASR）、语音活动检测（VAD）、标点恢复、说话人验证、说话人日志、情感与事件检测等多重功能。它支持从嵌入式设备到云服务器的全场景部署，并提供 OpenAI 兼容的 API 服务。本文将系统介绍 FunASR 的部署与调用方法，涵盖多种部署路径、技术架构、性能优化和实用技巧。

2026-07-31 08:13:06 635

原创 ChatTTS安装与部署完整指南

ChatTTS是一款专为对话场景设计的开源文本转语音（TTS）模型。它最大的特点是生成的语音非常自然、富有表现力，能模拟出真人对话中的情感、停顿、甚至呼吸感。相比传统TTS模型（如Tacotron2），ChatTTS通过参数共享和模块化设计，将模型参数量压缩至50M以内，实现了轻量化。🎯 对话式TTS优化：专为LLM助手、对话式音频等交互场景设计，能生成流畅、自然的对话语音。🎤 多说话人支持：支持生成多个不同音色的说话人，便于制作互动式对话内容。🎛️ 细粒度控制。

2026-07-30 08:12:15 665

原创 MIS-TEI 安装与部署完整指南

MIS-TEI 是华为推出的基于昇腾 AI 处理器的文本嵌入推理（Text Embeddings Inference）解决方案，专为 Embedding 和 Reranker 类模型优化。它支持容器化快速部署、动态批处理和硬件加速，广泛应用于检索增强生成（RAG）、语义搜索等场景，是昇腾设备上部署文本嵌入模型的主流方案之一。

2026-07-29 09:10:53 969

原创 CosyVoice2 安装与部署完整指南

CosyVoice2 作为阿里巴巴达摩院的新一代流式语音合成模型，在合成质量、响应延迟和功能丰富度上都达到了业界领先水平。✅ 源码安装与 WebUI 快速体验✅ RESTful API 与 OpenAI 兼容接口✅ Docker 容器化一键部署✅ PAI-EAS 企业级高并发部署✅ vLLM 推理加速与性能优化✅ 语音克隆与多语言合成✅ 常见问题排查与解决方案根据你的实际需求选择合适的部署方式，即可快速将 CosyVoice2 集成到你的应用中。如有更多问题，可参考。

2026-07-28 09:09:10 667

原创 Scrapy IP 代理使用指南

对于需要动态轮换代理 IP 的生产环境，推荐通过自定义下载器中间件实现。基础方案：通过为单个请求设置代理进阶方案：编写自定义下载器中间件，实现代理的自动轮换和管理生产方案：接入动态代理池 API，配合重试、UA 轮换等策略，构建高可用的采集系统根据项目规模和需求选择合适的方案——小规模测试可用基础方法，生产环境建议采用自定义中间件 + 动态代理池的组合方案。

2026-07-27 10:29:16 637

原创 Qwen3-ASR生产级部署文档

Qwen3-ASR是阿里通义千问团队开源的语音识别模型系列，支持52种语言和方言的识别、自动语言检测、字/词级时间戳对齐，以及流式/离线两种推理模式。生产级部署方案采用All-in-One Docker镜像，将Qwen3-ASR（1.7B/0.6B）和强制对齐模型Qwen3-ForcedAligner-0.6B打包在一起，实现“运行时零下载”。对于10-20分钟的音频文件，如遇处理异常，需检查分段逻辑。对于长期运行的服务，建议配置systemd进行进程守护，实现崩溃自动恢复和资源隔离。

2026-07-24 09:01:08 535

原创 Docker 生产级单机部署指南

服务器资源有限、需要精细化控制每个容器启动参数、或希望深入理解 Docker 底层命令的生产环境。本指南完全基于docker run和原生 Docker 命令构建。

2026-07-23 09:10:25 324

原创 LangChain 实操指南：从零构建生产级 LLM 应用

2026年，大语言模型已经无处不在。仅靠API调用GPT，你只能做Demo，做不了产品。真正的价值在于——让LLM与外部工具交互、访问私有数据、执行多步骤推理。这正是LangChain登场的理由。LangChain不是"又一个SDK"，而是一套构建LLM驱动应用的完整框架。它抽象了Prompt管理、输出解析、检索增强、Agent决策等核心环节，让你从"调API工程师"进化到"AI应用架构师"。本文不会面面俱到地罗列API文档，而是从一个真实的企业知识库问答系统。

2026-07-22 15:01:31 364

原创 Milvus 向量数据库完全指南

3. **批量插入**：不要一条条插入，建议使用 `insert` 批量写入（每次 1000-5000 条），并定期调用 `flush()`。1. **向量归一化**：如果使用 `COSINE` 或 `IP`，务必在存入前对向量进行 L2 归一化，否则会影响精度。- **向量搜索**：搜“苹果手机”，能识别出“iPhone”、“Apple Phone”等语义相近的内容。| **Data Node** | 负责数据的持久化存储，将增量数据刷新到对象存储（MinIO/S3）。

2026-07-21 10:43:43 415

原创 Milvus 结合 Qwen3-Embedding-8B 相似度检索实战指南

在本地搭建一套完整的向量检索系统，往往是许多开发者从理论走向实践的关键一步。很多时候，我们手头有一堆非结构化的文本数据，想要快速实现“以文搜文”的功能，却常常卡在环境配置复杂、模型加载失败或者检索结果不准确这些琐碎问题上。特别是当涉及到像 Qwen3-Embedding-8B 这样的大参数模型时，显存管理和推理速度的平衡更是一个不小的挑战。其实，只要理清了从环境准备到最终检索优化的完整链路，整个过程并没有想象中那么神秘。

2026-07-20 09:46:22 633

原创 Scrapy 爬虫框架完整文档

在items.py中定义要抓取的数据字段：pythontext = scrapy.Field() # 名言文本author = scrapy.Field() # 作者tags = scrapy.Field() # 标签列表在中实现：python"""价格验证和调整的Pipeline示例"""else:python。

2026-07-17 11:08:38 1431

原创 Qwen3-Embedding-8B 模型快速部署与调用指南

在本地部署大语言模型进行文本嵌入和检索，已经成为许多开发者构建私有知识库、提升应用智能化水平的首选方案。相比于依赖云端 API，本地部署不仅数据完全可控，还能在离线环境下稳定运行，特别适合处理敏感文档或需要低延迟响应的场景。然而，从环境配置到最终实现高效的向量检索，中间涉及不少技术细节：如何选择合适的运行库？模型文件该放在哪里？面对海量数据如何批量处理而不爆显存？遇到报错又该如何快速定位？

2026-07-16 09:24:23 644

原创 Supervisor 进程守护实战指南

在 Linux 服务器运维中，我们常会遇到这样的尴尬场景：某个关键的后台脚本因为网络波动或内存溢出突然退出了，而直到用户投诉业务中断时，管理员才后知后觉地登录服务器重启服务。对于运行在单台机器上的小型应用或微服务集群而言，引入庞大的容器编排系统似乎有些杀鸡用牛刀，但完全依赖人工监控又显得捉襟见肘。这时候，一个轻量级、功能纯粹的进程管理工具就显得尤为重要。

2026-07-15 09:18:15 466

原创 vLLM-Ascend 快速部署与调用指南

摘要：本文详细介绍了在国产昇腾（Ascend）AI处理器上部署vLLM推理服务的关键步骤和注意事项。首先强调了环境准备的重要性，包括操作系统版本、Python虚拟环境创建及昇腾版PyTorch的安装。随后讲解了Ascend驱动与CANN工具包的配置细节，以及如何正确设置环境变量。源码编译vLLM-Ascend时需指定编译标志，并处理可能出现的依赖问题。模型加载和服务启动阶段需调整显存管理和精度参数以适应昇腾硬件特性。最后，文章展示了通过Python API和OpenAI兼容接口进行推理请求的两种方式，为开发

2026-07-14 09:41:07 653

原创 Ling-2.6-Flash 极速部署与调用实战指南

本地大语言模型部署全流程指南：从环境配置到优化策略本文系统介绍了本地部署大语言模型的完整流程，涵盖环境准备、参数配置、推理优化等关键环节。针对7B-30B参数规模的模型，详细解析了适合本地部署的核心特性与适用场景，特别强调了隐私敏感场景下的优势。文章提供了conda环境配置、PyTorch版本选择等具体安装步骤，并深入讲解配置文件参数调整技巧，包括显存管理、量化配置等优化方法。同时展示了命令行和Python API两种调用方式，给出可落地的代码示例。针对显存瓶颈，介绍了分页注意力、动态批处理等优化策略，并

2026-07-13 10:18:50 353

原创 FunASR + SenseVoice Small 在Nvidia上推理优化技术方案

max_single_segment_time=30000, # VAD 最大单段时长(ms)，避免切得太碎。merge_vad=True, # 合并 VAD 切片，减少模型调用次数。merge_vad=False, # 因为没做 VAD，此参数无效或设为 False。vad_model=vad_model_dir, # 建议保留 VAD，防止长音频显存爆炸。# vad_model=None, # 关键：不指定 vad_model 或注释掉。

2026-07-09 14:41:20 336

原创基于vLLM-Ascend 在华为昇腾NPU-300I Duo上部署 Qwen3-Embedding-8B

本文档介绍如何在华为昇腾 NPU（Atlas 300I DUO / 310I Duo）上，使用框架部署 Qwen3-Embedding-8B 文本嵌入模型。Qwen3 Embedding 模型系列是 Qwen 家族最新的专有模型，专为文本嵌入和排序任务设计，提供 0.6B、4B 和 8B 多种尺寸。vLLM Ascend 从 0.9.2rc1 版本开始支持该模型。

2026-06-29 16:09:30 966

qq_24211853的博客