- 博客(2)
- 收藏
- 关注
原创 Intel Arc Pro B70 32GB 性能测试报告
关于Intel Arc Pro B70 4卡测试Qwen3.8-27B的推理性能。摘要需概括主要结果:输出吞吐峰值约1375.9 tok/s,并发128,软件栈优化空间,对比RTX5090等。控制字数。</think>实测Intel Arc Pro B70四卡跑Qwen3.8-27B(FP16,TP=4),输出吞吐峰值约1375.9 tok/s(瞬时1664),并发128内近线性扩展;带宽利用率约24%,软件栈仍有优化空间
2026-09-01 16:06:57
575
原创 8卡RTX5090实测Qwen3.6:性能边界与量化收益(一)
本文是系列文章的上篇,详细介绍了在8卡RTX 5090服务器上测试Qwen3.6模型性能的方法论和硬件环境准备。测试采用六阶段控制变量法,聚焦回答硬件边界和量化收益两大核心问题。文章阐述了测试目标、阶段划分、硬件配置(包括驱动切换解决GPU识别问题)、推理框架选择(vLLM用于知识库/RAG,SGLang用于Agent),以及9个逐级递进的测试用例设计。每个用例设定了严格的业务可用阈值,强调硬件峰值不能直接作为容量承诺。阶段一至三的准入验证全部通过,为后续性能测试奠定了基础。下篇将分析默认权重下的性能基线和
2026-05-29 10:52:20
614
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅