冰河雨欣-优快云博客

原创 DGX-Spark双机DeepSeek-V4-Flash-0731 1M 上下文

本文记录在两台DGX Spark GB10上部署DeepSeek-V4-Flash-0731模型的完整过程：基于vLLM实现TP=2跨节点推理，成功支持1M上下文（实测182,109 token输入正确命中），启用DSpark投机解码，草稿接受率达74.5%，吞吐达77.3 tok/s（c=1）和193.6 tok/s（c=6）。关键点包括：必须使用官方FP8权重（NVFP4 requant版会致接受率仅0.4%）、启用稀疏MLA KV内核、配置正确压缩比分层策略，并解决MoE截断门禁与镜像拉取问题。性能与

2026-09-29 12:43:57 515

原创 125B稀疏MoE模型双机部署实战

本文系统阐述Qwen3.8-Flash-Next-FP8（125B稀疏MoE模型）在双机DGX Spark上的部署与调优实践。基于FP8量化与混合注意力架构，实现每token仅激活6B参数，支持262,144上下文。通过vLLM框架完成双机TP+EP并行部署，实测单流吞吐达93.5 tok/s。重点总结四大关键点：必须启用专家并行（EP）、MoE后端需用deep_gemm、检查点缺失PLE dtype声明、reasoning_effort取值非标准。提供完整部署流程、API调用示例及避坑指南，为超大规模模型

2026-09-25 11:45:10 846

原创两台 DGX Spark 部署 MiMo-V2.6-Flash 全记录：309B MoE 双机 TP=2 环境准备、部署步骤、排错与性能测试

在双机DGX Spark GB10（TP=2）上成功部署309B参数、15B激活的MiMo-V2.6-Flash模型，采用vLLM+Ray跨节点张量并行。关键挑战包括镜像加载器静默丢弃FP8 qkv_proj.weight导致输出乱码、fused-QKV补丁几何不匹配引发崩溃，以及--kv-cache-dtype fp8静默降级。通过使用标准加载器与自研补丁修复后，实现单流24.4、突发C16达87.6 tok/s吞吐，长上下文（32K）4.6 tok/s，验证“中国首都是哪里？”正确输出“北京”。部署耗时

2026-09-23 01:02:50 1078

原创昇腾310P计算栈CANN8.0.0安装教程

本文为昇腾310P算力平台零基础安装指南，基于Ubuntu 26.04 + 内核7.0环境，详细演示如何在驱动已装（npu-smi可见10张卡）的前提下，通过root权限完成CANN 8.0.0计算栈的完整部署。重点解决系统Python 3.14过新（仅支持3.7~3.10）的问题，采用conda创建独立3.10环境，并分步安装toolkit与310P专用算子包。全程提供可复制命令、每步验证标准及常见报错处理方案，确保atc模型转换、pyACL推理调用功能正常，最终实现10张卡全量可用，安装体积约9.9GB

2026-09-22 21:53:20 213

原创 ubuntu昇腾310P驱动安装手册

本文记录了在内核7.0的Ubuntu 26.04上成功移植并安装昇腾310P（A300-3010）驱动的全过程。针对官方驱动因内核API变更导致编译失败的问题，通过替换驱动源码、修复30+处接口改动（如定时器、页表、MSI等），并配合官方安装器完成编译与部署，最终实现10卡全识别、健康状态正常，驱动与固件版本匹配。全程使用官方命令，不绕过安装流程，提供可复现的移植方案与踩坑指南，适用于新内核下昇腾NPU部署开发者。

2026-09-22 20:30:46 608

原创 DGX-Spark双栈模型切换

本文提出在两台DGX Spark GB10（128GB统一内存）上，通过单一脚本实现DeepSeek-V4-Flash与Qwen3.8-27B之间的无缝切换。方案基于vLLM引擎，利用模型别名vllm保持客户端零配置变更，通过容器级停启、端口释放与就绪探测机制，确保切换过程安全可靠。实测显示切换耗时181–285秒，支持自动回滚与冒烟校验，已在生产环境完成往返演练，显著提升多模型部署的灵活性与资源利用率。

2026-09-20 01:10:26 665

原创告别重复点击！用油猴脚本在 ZStack 云平台批量创建上千个账户

开源油猴脚本助力ZStack云平台批量创建账户，支持CSV/XLS等格式导入，自动创建计费价目并绑定，无需登录服务器或手动抓取token，兼容内网HTTP环境，实现“上传文件→一键建号→自动绑定”全流程自动化，大幅提升多租户场景下账号管理效率。

2026-09-19 16:14:21 55

原创 DGX Spark GB10 双机实战：从 Qwen3.8 -27B 单机优化到 DeepSeek-V4-Flash 双机 TP=2 部署与性能调优全记录

本文记录了在双台DGX Spark（GB10）上部署与优化大模型的完整实践：从Qwen3.8-27B单机SGLang部署（56 tok/s，256K上下文）到双机TP=2全链路验证，性能提升35–45%；进而成功运行284B参数的DeepSeek-V4-Flash-0731，实现73 tok/s吞吐与1M上下文长文检索。实测揭示三大反直觉结论：双机非线性提速、NVFP4权重无免费午餐、高GPU利用率仅耗42W。关键在于RoCE链路配置（MTU 9000、NCCL_GID_INDEX自动探测）、内存管理优化及

2026-09-19 15:24:17 1721

原创 DGX Spark 双节点 GB10 vLLM 正式部署手册

DGX Spark 双节点 vLLM 部署摘要本文详细介绍了在双节点DGX Spark集群上部署vLLM服务的完整流程。部署环境为两台各配备GB10 GPU的设备，使用Ray集群实现跨节点并行计算，并通过vLLM的Placement Group实现TP=2的分布式推理。主要内容包括：环境准备：包括设备检查、网络配置、Docker和模型文件准备部署步骤：从基础环境搭建到Ray集群启动的完整流程运维指南：服务状态检查、API验证和故障排查方法已验证配置：当前基线环境参数和性能指标模型更换：支持Qw

2026-07-21 14:17:13 752

2504_93801003的博客