矢车菊二十七号

本文补充介绍vLLM的引导解码功能，基于vllm 0.16.0，演示如何通过JSON Schema和EBNF语法约束实现结构化输出。使用guided_json或grammar参数，可强制LLM生成符合格式的数组（如整数数组），提升输出准确性。关键在于提示词明确要求格式，并启用引导解码。通过定义合法的EBNF文法（如[1, -2, 34]），支持更复杂结构的生成，为后续代码生成等应用奠定基础。

本文介绍了在Windows系统上安装和使用OpenClaw AI助手的详细步骤。主要内容包括：1) 系统先决条件（LLM模型、NodeJS 24+）；2) 安装过程（通过npm安装、管理员权限配置）；3) 模型设置（本地Qwen3-1.7B模型配置、API密钥处理）；4) 网络代理和认证设置；5) 配置文件修改（调整token限制）。文章特别指出Windows权限管理的限制，并提供了完整的配置文件和参数说明，适合想在Windows体验OpenClaw的用户参考。

本文介绍了如何部署IndexTeam开发的IndexTTS-1.5文本转语音系统。首先通过ModelScope下载模型，配置基于WSL的Ubuntu 22.04环境（RTX4070显卡），使用pip创建虚拟环境并安装依赖项。重点说明了模型文件的放置位置和运行流程，包括参考音频的准备工作。测试结果显示单次推理时间约2.8秒，生成2.82秒音频，RTF值为0.9936。作者指出当前版本存在优化空间，计划后续将其改造为长期服务。文章提供了完整的部署指南，特别针对Windows WSL环境下的CUDA调用问题进行了

有时候我们希望LLM以格式化输出一些文本，比如json。这在LLM输出多种信息的时候尤其有用。下面的测试使用RTX4070显卡（12G显存），LLM为Qwen3-1.7B。

摘要：用户将WSL网络模式改为Mirrored后导致VS Code WSL远程连接失败，尝试删除.vscode-server目录和降低WSL插件版本均无效。最终解决方案是切换回NAT模式，不仅恢复了VS Code连接，还解决了之前uvicorn服务器本地访问问题以及LLM模型无法使用的问题。测试代码显示切换后Qwen3模型能正常返回结果，验证了NAT模式的稳定性。

部署LLM遇到的坑

这篇文章介绍用LM Studio和huggingface部署一个deepseek到自己的电脑上，应该不需要代码知识，至少不需要太多。