- 博客(4)
- 收藏
- 关注
原创 Qwen3.8-27B 开源后,我用双 RTX 4090 跑通了:vLLM 0.27.1、128K 上下文与 MTP 实测
Qwen3.8-27B 发布后,我第一时间在现有双 GPU 服务器上重新搭了一套独立环境。这次没有沿用旧模型的 Python 环境,也没有只记录一条“能启动”的命令。我把模型下载、CUDA 版本、vLLM、systemd、API 鉴权、128K 长上下文和 MTP 都实际走了一遍。本文所有用户名、IP 和密钥都使用<USER><API_KEY>占位符。执行前必须替换为自己的值。
2026-08-18 11:35:46
1147
原创 MiniMax H3 接入 SageAttention 实测加速 <ComfyUI 启动 包含踩坑记录>
SageAttention 的安装难点不在一条,而在于确保 PyTorch Runtime、系统 CUDA Toolkit、目标 GPU 架构和编译并发彼此匹配。启用后的确可以观察到明显加速,但高分辨率非法内存访问也说明,性能优化必须保留随时回退到 PyTorch attention 的能力。对于生产环境,最稳妥的顺序仍然是:先跑通原生工作流,保存同条件基线,再安装加速组件,最后用固定 seed 和多轮中位数验证收益。
2026-08-06 09:23:44
2470
原创 MiniMax H3 量化版 Linux服务器部署实战 <ComfyUI启动 包含踩坑记录>
到这里,MiniMax H3 的量化权重、三种官方工作流和 systemd 常驻已经形成一个完整基线。先保留这个原生注意力基线,再安装加速组件,才能判断加速是否真实有效,也能在发生问题时快速回退。MiniMax H3 接入 SageAttention。
2026-08-05 22:29:55
1650
原创 幻兽帕鲁<Palworld>搭建专用服务器V1.0 版本|完整踩坑记录
最近准备和朋友重新玩《幻兽帕鲁》。相比购买只能运行游戏的托管服,我最终选择了一台通用云服务器:玩游戏时运行 Palworld Dedicated Server;以后不玩了,还可以继续做一些开发环境的使用。Ubuntu 24.04 环境初始化;SteamCMD 手动安装;Palworld Dedicated Server 下载和首次启动;10 人朋友服配置;systemd 开机自启及日志管理;官方内置备份和系统级压缩备份;服务端更新、恢复存档;部署期间遇到的实际错误及排查过程。
2026-08-04 16:33:19
493
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅