happyweb的专栏

本文介绍了一种使用AI自动生成音视频文件会议纪要或课后笔记的方法。流程包括：1)使用ffmpeg提取16KHz单声道音频；2)通过ASR实时识别生成文本；3)利用大语言模型分段摘要并输出Markdown或者pdf格式纪要。

摘要：本文详细介绍开源语音合成系统CosyVoice3-0.5B的完整安装流程。主要内容包括：1)从GitHub克隆项目源码；2)创建Python3.10虚拟环境并安装依赖；3)通过ModelScope或SDK下载预训练模型；5)运行demo.py测试程序，需5.2GB GPU显存。文中指出系统对长文本处理会生成多个音频文件，断句位置可能不规范。

本文详细介绍了NVIDIA CUDA Toolkit和cuDNN的安装方法。全文提供了完整的命令行操作指南，帮助用户正确配置GPU开发环境。

本文详细介绍了开源语音合成项目Index-TTS2的安装与使用教程。内容涵盖环境准备（Linux系统、Python 3.10、CUDA 12.8+）、项目源码获取、依赖安装、模型下载等完整部署流程，并提供了四种核心API使用示例：基础语音克隆、情感控制合成、向量精确控制情感和文本引导情感。

本文介绍了阿里最新开源的文生图大模型Z-Image的本地部署方法。内容包括环境准备（创建Conda环境、安装diffusers、PyTorch等）、从ModelScope下载模型、编写生成图像代码并测试。示例生成了一张zwplayer播放器海报和一张女孩图像，模型运行需约22GB GPU内存，生成速度快且能较好理解提示词，尽管部分汉字渲染略有瑕疵。整体上，Z-Image是一个高效、可本地部署的文生图模型，适合开发者使用。

本方案构建了一套高并发、分布式AI模型数据处理管道，旨在可靠处理ASR、LLM、TTS等模型的高吞吐量输入输出数据。系统采用生产者-消费者模式与事件驱动架构，通过Kafka实现系统解耦与异步通信。Web API基于FastAPI实现高并发接入，消费者服务采用多实例并行处理，结合连接池与批量插入优化MySQL持久化。方案通过并行处理、消息缓冲、压缩传输等策略保障低延迟与高吞吐，支持水平扩展，并具备完整监控与容器化部署能力，为企业级AI应用提供可靠、可扩展的数据处理基础设施

本文将分享一个基于**可流式HTTP协议** 的MCP服务开发与接入实践。在该实践中，我们以**Cherry Studio**作为MCP客户端，通过配置大语言模型，实现了对话交互与MCP工具的调用。

简单记录了对于新开源的GLM4-9B-Chat模型进行LoRA微调的全部过程。

文本记录了在3090卡上对实时asr模型进行微调的过程，包括数据准备、模型微调、验证微调后的模型。

在Google的Colab上面采用unsloth,trl等库，训练数据集来自Google的云端硬盘，微调llama3-8b模型，进行推理验证模型的微调效果。保存模型到Google的云端硬盘可以下载到本地供其它使用。

编写python脚本，在同一台服务器上实际测试vllm的冰箱加速性能。采用的大语言模型为chatglm3-6b。

摘要：一个开箱即可使用的LangGraph示例，方便学习LangGraph的各种概念，并可以在PyCharm中跟踪调试各个变量的值。

主要说明向量数据库字符串查询要注意的问题，就是构建查询表达式要注意加单引号，否则会出现异常。

介绍了langchain中的提示词模板，并提供了几种常用的用法。