AI 计算瓶颈转向内存，CXL 引领架构革命，四大节点成未来 3 年“卖水人”

AI 产业进入新阶段：核心瓶颈从算力转向内存

最近做 Multi - Agent 投研系统时，复杂研报运行时间长，Tokens 消耗到数万级别后响应时间急剧上升。问题可能不是算力不够，而是 AI 面对超长 Context 导致系统级阻塞，核心是大模型卡在“数据搬运”。过去两年市场疯狂买 GPU，现在很多 AI 系统里 GPU 算力未跑满，内存先崩了，AI 核心瓶颈正从以计算为中心转向以内存与数据移动为中心。2023 - 2025 是“GPU 算力革命”，2026 - 2028 可能进入“内存架构革命”，关键词是 CXL。

AI 为何“极度缺内存”

2026 年 5 月，华尔街被“存储芯片”暴涨打蒙，美光科技、西部数据、闪迪等股价狂涨。这波存储股爆发揭示 AI 系统致命瓶颈已不是算力，而是内存墙。AI 推理阶段，KV Cache 像黑洞一样吞噬内存，长上下文、Multi - Agent 等趋势会导致 KV Cache 爆炸式增长，一个 70B 级别的模型跑百万 Token 上下文并叠加高并发时，KV Cache 易膨胀到数百 GB 甚至 TB 级别，不可能把所有数据塞进 HBM。

HBM 的短板与分层内存时代

最近内存股涨价核心动力是 HBM，它像“顶级学区房”，成本高、功耗高、容量扩展难，受制于 CoWoS 先进封装产能。AI 系统被迫进入“分层内存时代”，未来 AI 内存架构可能是 Tier 0（HBM）存放最核心即时计算数据，Tier 1（DDR5 / CXL Memory）大容量、高性价比，Tier 2（NVMe / SSD）更大、更慢。未来 AI 系统核心大考是确定哪些数据放最快内存以及降低数据搬运成本。

英伟达：从 FLOPS 转向 Data Movement

过去 AI 行业拼 FLOPS 和 GPU 数量，现在英伟达开始强调 Context Memory、Shared Memory、Rack - scale Architecture。在 GTC 2026 上，英伟达提出 POD - wide context memory，其 Grace - Blackwell (GB200) 架构把 CPU 和 GPU 通过超高带宽的 NVLink - C2C 焊在一起，卖的是“CPU + GPU + 内存织物”全栈解决方案，这意味着 AI 基础设施从 GPU - centric 转向 Context - centric。

CXL：解决“搁浅内存”与“NVLink 垄断”

过去服务器架构中 CPU 和 GPU 内存各自为战，会出现“Stranded Memory”现象。英伟达 NVLink 是“私家高铁”，解决算力上限；CXL 是“通用货运网络”，是开放标准，解决内存墙和 AI 商业化落地成本下限。CXL 带来 Memory Pooling 概念，未来数据中心将变成共享水网系统，云端算力内存可灵活支取、按需分配。

算法压缩与 CXL 并非互斥

有人认为 DeepSeek v4 通过 MLA 架构把 KV Cache 显存占用砍掉 80% 到 90%，就不需要 CXL 了。但实际上，DeepSeek 是“用极致计算和带宽换内存空间”，计算时需高频解压缩，对显存带宽和互联速度要求高。而且即使 DeepSeek 砍掉 90% 的 KV Cache，在跑长文本和高并发时，剩下的 10% 仍会撑爆单机 HBM，且闲置内存无法共享。所以算法负责“节流”，CXL 负责“开源”，两者结合是跨越“Context Memory 战争”的终极解法。

CPU 迎来“结构性复兴”

在 CXL 硬件池化和 DeepSeek v4 算法催化下，CPU 重要性被重估。在 CXL 共享内存网络里，CPU 是“神经中枢”。一是因为 GPU 无法进行复杂的 Memory Orchestration 和多租户一致性管理，需 CPU 执行；二是 DeepSeek 压缩 KV Cache 后，可将上下文记忆存放在 CPU 掌控的内存池，GPU 计算，CPU 调取和维护。目前 ARM 正压倒 x86，因为 x86 能效比低，而 ARM 架构处理 I/O 调度能省电费，且云巨头可基于 ARM 授权定制私有 CPU。

产业链“四大关键节点”成未来“卖水人”

当 AI 基础设施重心向“Memory Movement”迁移，以下四个环节是未来 3 年硬核“卖水人”：1. Retimer（高速信号修复芯片）：PCIe 5.0/6.0 和 CXL 传输速度翻倍，高速信号易衰减失真，Retimer 是内存运输线上的“加油站与放大器”，是机架级 AI 服务器标配，核心标的有 Astera Labs (ALAB)、Credo Technology (CRDO)。2. CXL Switch（价值咽喉）：未来 GPU 通过 CXL Switch 动态连接内存织物，能实现超低延迟、高一致性内存交换的企业扼住 AI 数据网络咽喉，溢价高、壁垒深，核心标的有博通 (AVGO)、Marvell (MRVL)。3. 被重估的 CPU 层：CXL 时代 CPU 是统御内存池的“总调度交警”，关注指标变为 I/O 通道数、低功耗和内存调度效率。蓝图统治者是 Arm Holdings (ARM)，定制化推手有世芯电子、Marvell、博通，x86 的 AMD 凭借高 I/O 通道数和 CXL 策略仍是公有云硬通货，Intel 凭借独家封装是云巨头造芯绕不开的代工厂。4. Memory Controller & Orchestration：连接海量内存后，高效调度共享内存是关键，涉及复杂的 OS 支持等，是软件生态问题。核心标的是 Rambus (RMBS)，能研发类似 Meta TMO 底层软件栈的科技巨头可建立“内存软件护城河”。

结语

互联网解决计算机间数据共享，云计算解决计算资源弹性分配，大模型解决大尺度参数注意力分配，智算中心解决万卡集群算力洪流分配，如今我们正攻克 AI 芯片间全域内存共享。AI 下一阶段可能是“Context Memory 战争”。