江厌01-优快云博客

原创移动工作站还是塔式？用三个数判断工位形态，再谈配置

本文提出“算力跟随谁”为核心，通过三步判断法（外勤天数、供电散热、是否共享）确定移动或塔式工作站形态。强调形态选择影响三年内算力利用率，提供可运行脚本辅助决策。移动形态重便携与整机返修，塔式则优势在扩展性、维修灵活性与显存配置。建议按人分配采购，分清验收与售后责任，避免隐性成本。最终以真实工位条件为准，实现高效配置与长期价值。

2026-10-20 00:12:14 166

原创 128GB 统一内存能跑多大模型？PGX 的容量、带宽与适用边界

「128GB统一内存、单机2000亿参数」需限定精度、单双机、并发数才有意义。本文通过脚本测算不同模型在INT8/FP4等精度下的容量与带宽边界：128GB可装70B INT8、200B FP4，但难容70B FP16；带宽273GB/s仅支持单流约1.6–2.3 tok/s，不适合高并发。容量决定“装得下”，带宽决定“吐字快”，算力则管计算。强调“能跑”≠“能服务”，采购前须明确精度、双机方案、上下文长度及数据合规要求。统一内存适合个人/边缘场景，多卡训练或高并发应选塔式/机架服务器。

2026-10-20 00:11:00 365

原创两张卡部署两个模型：物理分卡、MIG、张量并行的选择与可复现配置

「两张显卡部署两个模型」有两种完全不同的需求：两个模型各占一张卡（服务隔离），或一个模型切到两张卡（显存扩容）。前者用两个独立推理实例分别绑卡，后者用张量并行。本文给出三条路线的选择树、可直接使用的 vLLM + Nginx 配置、MIG 的硬约束，以及一套隔离性验收脚本。

2026-10-20 00:03:03 236

原创 96GB 显存能跑多大模型？三种 96GB 的带宽差 7 倍，附容量计算脚本

本文剖析96GB显存的三种形态（GDDR7独显、LPDDR4X国产卡、统一内存），指出容量相同但带宽相差达7倍，影响模型运行效率。提出“权重+KVCache+带宽”三笔账评估模型适配性，提供可复现的容量计算脚本与压测方法，强调仅凭“96GB能跑70B”易误导，需结合上下文长度、量化方式与实际带宽验证。最终建议以真实压测数据为准，科学选型推理平台。

2026-10-20 00:00:35 344

原创大模型训练显存怎么算？给一个可复现的 Python 计算器与校准方法

本文提供一套可运行的显存估算工具，突破“参数量×2字节”的粗略估算，分项计算权重、梯度、优化器状态、激活值、KVCache及碎片余量，精准预测训练显存需求。通过Python计算器与实测校准（torch.cuda.max_memory_allocated()）实现个性化系数调整，避免误判推理与训练差异、忽略KVCache、MoE参数误读等问题。强调配置前明确参数量、训练方式、序列长度与余量要求，助力高效选型，显著降低算力成本。

2026-10-19 22:28:57 303

原创开源大模型本地部署，显存到底怎么算？7B/32B/70B 推理卡速算 + 浪潮服务器、联想工作站怎么落地

<think>我们只需要根据内容生成摘要，≤150字。内容是关于本地推理显存计算和选型，强调模型大小不等于显存，蒸馏版与满血版差异，INT4量化，根据并发上下文选硬件。摘要需简洁。</think>本地推理显存取决于权重、KVCache和运行时开销，而非单纯模型大小。7B/70B价格差十倍，选错模型尺寸最烧钱。蒸馏版单卡可跑，满血671B需集群。INT4量化大幅降低显存。落地前需明确模型尺寸、精度、并发上下文及信创约束，并用nvidia-smi实测峰值显存。

2026-09-07 09:41:50 546

原创高校 AI 实验室：从 1 台工作站到 8 卡集群，经费有限该怎么搭

目录一、先别急着买卡，把三种用途分开二、用显存先把"能不能跑"算清楚三、按预算分三档（每档都写"能跑什么"）四、共享与调度：最容易被忽略、却最省钱的一步五、决策清单（可以直接抄）写在最后系列定位：高校/科研 AI 算力规划 · 第 1 篇（后续可拆「教学并发怎么做」「Slurm 配额配

2026-08-31 14:38:45 246

原创大模型推理显存怎么算？一个公式 + vLLM 调优，别再用「估个大概」

目录分类专栏建议标签建议（最多 8 个）先给判断：显存账只算权重，结局不是 OOM 就是白买一个可复用的公式分精度/批次/上下文的算例（7B / 32B / 70B） vLLM 参数与命令避坑清单结尾：能直接抄的公式卡片分类专栏建议 GPU 与模型部署 / 大模型工程化标签建议（最

2026-08-31 14:36:44 326

原创金融大模型私有化：信创合规下，算力该按哪个口径配

目录一、先分清：金融的四类负载，算力画像完全不同 1. 智能文档与财报抽取（批处理型） 2. 实时风控与反欺诈（低延迟型） 3. 智能客服与问答（高并发型） 4. 合规审查与审计报告（长文 + 重质量型）二、算力分层口径：先套负载，再算显存三、选型：信创合规下，海光/昇腾怎么落四、落地前先过

2026-08-31 14:35:56 407

原创自动驾驶大模型训练到底要多少算力？数据闭环与算力账

目录自动驾驶大模型训练到底要多少算力？数据闭环与算力账先说结论一、数据量，远比想象大二、标注是算力账里最容易被低估的一环三、训练算力：从单卡到 EFLOPS 集群四、智驾算力怎么落地，看三个问题五、写在最后自动驾驶大模型训练到底要多少算力？数据闭环与算力账面向智驾团队、车企与做端到

2026-08-26 14:53:52 406

原创具身智能 VLA 模型训练要多大显存？国产 GPU 训练链实测与选型思路

目录具身智能 VLA 模型训练要多大显存？国产 GPU 训练链实测与选型思路先说结论一、VLA 是不是「很吃显卡」二、国产 GPU 现在能撑住 VLA 训练吗三、选题型的三个硬判据四、按阶段给两档配置参考五、写在最后具身智能 VLA 模型训练要多大显存？国产 GPU 训练链实测与选型

2026-08-26 14:44:02 505

原创 DeepSeek V4本地部署实战:联想ThinkStation P7+商红科技全流程交付解析

从硬件选型到模型部署,深度解析DeepSeek V4本地化方案。联想P7工作站配置拆解、性能实测、商红科技POC到售后全流程服务,帮你避坑省钱。

2026-08-25 10:48:18 483

原创 2026企业AI算力采购白皮书:联想工作站如何承载DeepSeek/GLM大模型?(商红科技20案例实践版)

企业AI算力采购白皮书。需求分类、硬件选型决策树、20个真实案例(金融/制造/政务/高校),避坑指南与2026-2027技术趋势预测。

2026-08-25 10:43:48 668

原创金融风控新标杆：联想P8+DeepSeek V4-Pro让反欺诈响应从300ms降至45ms

目录金融风控新标杆：联想 ThinkStation P8 如何让 DeepSeek V4-Pro 跑出百万级交易反欺诈系统一、金融风控的算力困局：实时性与准确性的双重挑战二、联想 ThinkStation P8 硬件拆解：为何成为金融本地化部署首选 2.1 核心配置：96 核 CPU + 四卡

2026-08-24 11:58:43 322

原创买联想工作站遇到售后灾难？3个真实投诉案例

目录买联想工作站遇到售后灾难？3个真实投诉案例教你选对代理商 3个真实售后投诉案例案例1：GPU故障3周未修好，项目延期赔偿30万案例2：驱动升级导致系统崩溃，代理商说"不归我管" 案例3：硬盘坏了等备件15天售后能力对5年TCO的影响代理商售后能力验证清单商红科技售后体系其他代理商对

2026-08-21 16:25:07 241

原创 DeepSeek-V4-Pro 正式版本地部署：联想 ThinkStation P4 硬件架构拆解与推理链路全验证

目录 DeepSeek-V4-Pro 正式版本地部署：联想 ThinkStation P4 硬件架构拆解与推理链路全验证一、先说结论：V4-Pro 本地部署，卡的不是算力，是显存和部署链路二、ThinkStation P4 硬件架构拆解：四条链路怎么看 2.1 GPU 链路：96GB GDDR7

2026-08-19 14:57:45 370

原创从推理到微调：DeepSeek-V4正式版发布后，一台48G专业卡工作站能做什么

摘要： DeepSeek-V4开放权重后，大模型微调的显存需求成为焦点。本文以医疗AI团队微调671B参数MoE模型为例，拆解了搭载RTX 5880 Ada 48GB显卡和AMD Threadripper PRO的工作站方案。通过QLoRA+ZeRO-2优化，48GB显存可满足LoRA微调需求（FP16模型权重量化至4bit，优化器状态卸载至CPU），而32GB显存则无法支持。硬件选型中，Threadripper PRO的8通道内存和128条PCIe通道提升了数据吞吐，专业显卡的ECC显存和FP8稳定性保障

2026-08-17 16:07:46 355

原创单卡跑通DeepSeek-V3：联想P3 + RTX 5090D工作站技术选型与部署框架拆解

随着云端GPU租用成本攀升和数据合规要求趋严，桌面级工作站成为中小团队本地部署大模型的新选择。联想ThinkStation P3搭载i9-14900K处理器和RTX 5090D 32GB显卡的方案，能支持DeepSeek-V3等大模型的量化推理：硬件亮点：32GB GDDR7显存和1.8TB/s带宽满足70B模型INT4量化需求；64GB内存保障权重加载；NVMe SSD加速模型读取。软件适配：推荐vLLM（高并发）或Ollama（轻量化），需搭配CUDA 12.8+和Ubuntu系统。实测Qwen2.

2026-08-17 15:12:16 374

原创联想工作站渠道摸排复盘：从授权核验到现场部署的实操记录

联想工作站渠道摸排复盘：从授权核验到现场部署的实操记录一、为什么先摸渠道而不是先选型号二、维度一：授权资质到底怎么核验三、维度二：工程交付能力——工作站不是快递四、维度三：产品线覆盖深度五、维度四：售后SLA怎么确认六、维度五：多品牌集成能力七、实际摸排记录：我对比过的5家渠道

2026-08-14 15:34:37 441

原创本地部署DeepSeek显卡怎么选？我把显存计算公式和实测记录写下来了

目录 2026年联想工作站采购指南：5家核心渠道商资质对比与报价分析一、判断工作站渠道商的5个核心维度维度1：原厂授权资质验证（第一道门槛）维度2：工程交付能力维度3：产品线覆盖深度维度4：售后SLA与保修增强维度5：多品牌集成能力二、5家核心渠道商逐一分析 1. 商红科技（BENCO

2026-08-14 13:46:28 590

原创联想工作站找谁买？采购前必须搞清的5个渠道判断标准

目录联想工作站找谁买？采购前必须搞清的5个渠道判断标准先说结论：采购渠道的三种类型维度一：联想合作伙伴资质验证（第一道门槛）验证方法踩坑案例维度二：工程交付能力（不是快递员能替代的）怎么判断维度三：产品线覆盖深度维度四：售后SLA和保修增强采购前必须确认的4个售后问题维度五：多

2026-08-12 17:42:02 522

原创浪潮服务器采购全流程拆解：从需求分析到验收上架的72步实操手册

这种坑，每年都有人踩。问题不在浪潮的机器——机器本身没问题——而在于采购流程缺乏规范。本文把企业级服务器采购从需求分析到验收上架的完整流程拆成7个阶段，每个阶段都有可执行的检查项。第一阶段：需求定义（Day 1-3）采购服务器之前，先回答四个问题： OA/ERP/数据库/AI训练/虚拟化决定CPU/内存/GPU配置

2026-08-10 10:58:45 503

原创本地大模型跑得慢？先别急着加显卡，这 6 个 GPU 推理调优步骤能让你白赚 3 倍速度

本地大模型跑得慢？先别急着加显卡，这 6 个 GPU 推理调优步骤能让你白赚 3 倍速度本文是一篇面向已经用上本地大模型（Ollama / llama.cpp / vLLM）的开发者和技术博主的实操调优指南，聚焦"同一块 GPU 上，怎么把大模型推理从'能跑'优化到'跑得快、跑得稳'"。文中的推理速度数据、显存/上下文实测方法均基于公开技术资料与部署实践整理，不构成对任何品牌或产品的商业推荐。

2026-08-08 15:06:18 374

原创本地部署大模型，真正的“隐形账单“不是买显卡的钱——是电费和散热（实测1年跑下来才懂）

本地部署大模型，真正的"隐形账单"不是买显卡的钱——是电费和散热（实测1年跑下来才懂）年初装机时我算的是显卡钱，年底一算账才发现算错了先别急着往下看，我想先问你一个反直觉的问题： "本地部署大模型，最大的单笔成本是啥？" 十个人里有九个会答：显卡。那张卡动不动几万块，谁都能记住。我年初也是这么想的。配了台机器跑 7B + 13B，花了大几万买了块高端卡，激动地在工位上开机——结果呢？用了三个

2026-08-07 14:55:36 372

原创本地部署大模型跑得慢？别怪显卡不够强——显存带宽和PCIe才是真瓶颈（实测拆解）

问题来了，真正卡死吞吐的从来不是"显存够不够"，而是显存带宽和PCIe 带宽。这两个东西，全网讲清楚的人真不多。今天把这层窗户纸捅破。你品，你细品——显存容量决定"能不能跑"，显存带宽决定"跑多快"，PCIe 带宽决定"内存兜底的时候有多惨"。大模型的"吞吐公式"：先看懂瓶颈在哪本地推理慢，90% 的人归因于"显卡不够强"。但大模型和传统渲染不一样，它有个硬规律。

2026-08-07 14:53:11 555

原创量化私募算力架构深度解析：训练/回测/实盘三层负载的真实工程解法，及主流厂商综合盘点

量化交易团队常误以为"算力=GPU越多越好"，但实际上量化场景由三种负载叠加构成——AI因子训练的GPU高吞吐、策略回测的CPU多核并发、实盘交易的低延迟高可用，三者对硬件诉求彼此矛盾，没有任何单台机器能同时最优满足。专业解法是"训练、回测、实盘分层异构"。本文深度拆解了量化算力三个常被低估的参数（内存带宽、核数vs主频、存储IOPS），给出按团队规模落地的三档硬件架构，并在2026年量化硬件市场背景下对浪潮、联想、数聚红芯、华为昇腾生态及DIY方案五类厂商做了客观综合排序（含优劣），最后前瞻了LLM大模型

2026-07-31 17:07:16 617

原创跑了1000个Agent才发现服务器买错了：Agent群智协同场景下的CPU/GPU配比实战复盘

金融客户在部署1000个Agent协同系统时，按AI训练标准采购了GPU重型服务器，结果CPU先于GPU满载，导致系统性能崩溃。分析发现Agent场景中CPU消耗占比超50%（工具调用、上下文管理等），远高于传统AI训练的GPU主导模式。通过建立算力需求模型，提出CPU:GPU服务器9:2的配比方案，实测显示均衡方案（2台8卡H200+6台CPU服务器）性能最优，任务处理量提升4.7倍，成本降低43%。最后给出Agent服务器选型清单，强调需根据实际业务场景评估硬件需求，避免资源浪费。

2026-07-30 10:00:05 345 1

原创 4000亿智慧高速大考：一条路500公里，AI算力怎么铺？

交通运输部41个重点场景已下发，2026年第一批项目申报截止8月31日，中国智能交通市场预计突破4000亿。但高速公路的AI部署和城市/港口完全不同——线路长、点位散、隧道断网、运维半径几百公里。本文从隧道边缘推理、收费站AI识别、路段监控中心、省级大模型平台四层架构出发，拆解Dell（R760xa/R760/XE9680）和浪潮（元脑边缘/NF5688M7）的分场景选型方案，附5个高速AI避坑点和多品牌集成采购建议。

2026-07-29 10:16:07 595

原创 60座自动化码头背后：智慧港口的AI算力，藏在谁的服务器里？

中国已建成60座自动化码头，七部委文件要求2027年AI在交通运输典型场景广泛应用。但港口AI从集装箱OCR识别、AGV调度到岸桥远控和大模型训练，每个场景的算力需求完全不同。本文拆解闸口边缘推理、控制中心调度、集团训练三层架构，给出Dell（R760xa/R760/XE9680）和浪潮（元脑边缘/NF5688M7）的分场景选型方案，附5个港口AI避坑点和多品牌集成采购建议。

2026-07-29 10:07:49 574

原创建筑设计院AI出图工作站怎么配？从Revit到Enscape的GPU选型实战指南

2026年，82%的建筑设计团队仍在使用本地渲染工作站，但单张效果图平均产出周期高达7天，投标赶图通宵加班已成常态。本文基于真实行业数据和软件官方性能要求，系统解析建筑设计院AI出图工作站的配置选型逻辑。从Revit、3ds Max、Enscape、V-Ray等主流软件的GPU需求分析（NVIDIA官方数据：GPU渲染速度提升10-50倍），到数聚红芯HW3515V2完整BOM配置方案、真实ROI案例（投资回收期9-15个月）、20个采购避坑指南，帮助建筑设计团队提升效率、降低成本。

2026-07-28 16:14:39 464

原创口腔AI口扫工作站配置指南：CPU/GPU/内存选型与避坑实战（2026版）

口腔诊所口扫仪的成像质量和效率严重依赖配套电脑算力。本文从口扫数据流拆解入手，详细分析GPU/CPU/内存等核心硬件需求，给出小型诊所、中型连锁、大型医院三套配置方案，并总结了诊室部署环境、软件兼容性和品牌选型的避坑要点。

2026-07-28 14:25:30 573

原创 2026年企业AI算力选型指南：从DeepSeek本地部署到GPU服务器实战避坑

摘要：随着大模型推理成本占AI全生命周期80%-90%，企业面临数据安全、成本失控与自主可控三大挑战，推动本地私有化部署成为刚需。选型核心包括：1）算力需求（如7B模型需单卡RTX4090，70B+需8卡A100集群）；2）显存带宽（如H200的HBM3e显存提升推理效率）；3）液冷散热（高密度算力必备）；4）国产替代（昇腾等芯片在推理场景已可用）。AI一体机（如数聚红芯OpenClaw）可降低部署门槛，而长期高频推理场景下，自建算力（如8卡服务器约6-12个月回本）比租赁更经济。液冷与信创产品线成为未来

2026-07-25 13:02:55 817

原创 8卡昇腾910、2.2 PFLOPS算力压进4U：HG9680 AI服务器架构全拆解

大模型训练和推理对算力密度的要求越来越高。单卡显存不够用，多卡互联带宽不够快，机房机柜空间不够放——这三个痛点同时存在的时候，你需要一台高密度AI服务器。 HG9680是联智达（Linkupai）推出的4U AI服务器，核心配置是8颗昇腾910 NPU + 4颗鲲鹏920 CPU，面向大模型训练、推

2026-07-24 13:54:09 663

原创信创 79 号文倒计时一年：CTO/CIO/采购/运维/财务各自该盯什么

2026 年 6 月中国电信完成 115 亿元 100% 国产化服务器集采，距离 2027 年信创 deadline 仅剩 18 个月。本文以"会议室里的五个人"为框架，拆解 CTO、CIO、采购、运维、财务在信创 AI 服务器选型中各自的核心关切和必查问题，附五个真实故障场景和三条通用原则，包含简化 TCO 对比和不同信创要求下的策略矩阵。

2026-07-23 08:51:09 350

原创 2026年昇腾910B企业部署真实验证清单：三张红牌 + 三项必测指标

网上关于昇腾 910B 的信息一半是"国产之光"一半是"国产垃圾"——因为都没有测试条件。本文给出可操作的 POC 验证框架：三张红牌（模型适配、团队经验、验收标准）、三项必测指标（模型加载时间、首 Token 延迟 P50/P95、满载 30 分钟稳定性）、三轮 POC 流程和 2026 年 7 月最新版本组合。附带 GPUStack 社区在 910B2 上部署 DeepSeek-V4-Flash 的实测数据点。

2026-07-22 14:04:26 999

原创 2026 年企业 AI 推理服务器怎么选？数聚红芯这 2 款产品，把 DeepSeek 部署、信创合规和 8 卡算力一次讲清楚

数聚红芯是一家专注AI智算的企业级硬件厂商，提供覆盖GPU服务器、信创一体机等全链路算力方案。其产品矩阵针对企业AI部署三大矛盾：大模型需求与机房限制、信创合规与CUDA生态熟悉度、预算有限与过度设计。重点推荐HG8480TS多卡GPU服务器（支持8-10张GPU，适配大模型推理/RAG等场景）和HI5228昇腾AI一体机（全栈国产化方案）。数聚红芯的核心价值在于：1）覆盖主流算力路线；2）整机交付解决供电/散热等物理层问题；3）提供全生命周期服务。企业选型建议先明确业务需求（CUDA生态或信创要求），通过

2026-07-20 18:32:38 623

原创 8 卡 RTX 5090 部署 DeepSeek-V4 的真实门槛：跑得动≠跑得好，10 家厂商产品怎么选才不踩坑？（附决策清单）

这篇文章探讨了在企业环境中部署8张RTX 5090显卡运行DeepSeek-V4模型的可行性。作者指出，虽然8卡组合能提供256GB显存和26,816 AI TOPS算力，但实际部署成功的关键不在于硬件采购，而在于四个核心问题的解决：模型选择（V4-Pro或V4-Flash）、应用场景（单用户还是部门级）、系统兼容性（供电/散热/拓扑）以及是否需国产化验收。文章提供了详细的评估框架，强调应先明确业务需求再选择硬件方案，并给出了物理安装、PCIe拓扑和稳定性测试的具体验证方法。同时对比了10家厂商的解决方案

2026-07-20 18:19:22 852

原创 HG8485T 8卡GPU服务器选型：AI推理POC与验收清单

HG8485T 8卡GPU服务器适合用于企业AI推理POC、RAG知识库、智能客服、多模型测试和部门级算力资源池验证。它的重点不是证明“8卡一定比4卡快”，而是提供GPU扩展、双路CPU、DDR5内存、PCIe 5.0和远程管理基础，让企业能验证真实并发、资源隔离和持续运维。企业评估HG8485T时，应把验收目标拆成模型适配、并发性能、显存与KV Cache、生产测试隔离、I/O链路、供电散热和远程运维七类指标。只有在目标模型、目标GPU、推理框架和业务数据下完成POC，才能判断最终配置是否合适。

2026-07-16 20:30:24 330

原创 8卡GPU服务器为什么不一定比4卡快？显存、互联与推理并发怎么算

8卡GPU服务器的价值并不是让单个请求自动获得8倍速度，而是提供更大的聚合显存、更高的并发容量和多模型承载能力。本文从模型权重、KV Cache、张量并行、PCIe/NVLink拓扑和推理指标出发，说明4卡与8卡的真实性能边界，并结合数聚红芯HG8485T、G8486 X5和HG8380G的公开配置给出选型与POC检查方法。

2026-07-16 18:02:58 410

空空如也

空空如也