

在 GTC 2026 主题演讲中,英伟达利用从 Groq 收购的知识产权,为 Rubin 平台新增 Groq 3 LPU 芯片。这一推理加速器能增强系统以低延迟、大批量方式交付令牌的能力,实现人工智能模型前沿的高交互性。与多数依赖 HBM 的 AI 加速器不同,Groq 3 LPU 集成 500 MB 的 SRAM,虽容量小,但带宽达 150 TB/s,远高于 HBM 的 22 TB/s,为带宽敏感型 AI 解码操作带来优势。
英伟达还将构建包含 256 个 Groq 3 LPU 的 Groq 3 LPX 机架,作为 Rubin 的协处理器,可提升“每个令牌上 AI 模型每一层”的解码性能,使 Rubin 能服务于多智能体系统,将人工智能代理间通信的吞吐量大幅提升。这一举措有望在低延迟推理领域抵御 Cerebras 等挑战者。

英伟达公布的全新 88 核 Vera 数据中心 CPU,性能比标准 CPU 提升 50%,得益于 Olympus 核心 IPC 提升 1.5 倍和创新高带宽设计,提供市场上最快的单线程性能。其采用 88 核 144 线程设计,核心的每周期指令数 (IPC) 吞吐量提高 1.5 倍,还采用空间多线程技术,提高指令级并行性 (ILP)、吞吐量和性能可预测性。
英伟达还发布了全新的 Vera CPU 机架架构,将 256 个液冷 CPU 集成到一个机架中,CPU 吞吐量提升 6 倍,在智能 AI 工作负载中的性能提升 2 倍。Vera CPU 目前已全面投产,预计今年下半年交付,众多 OEM 和 ODM 厂商将为市场提供单路和双路服务器,还将用于 Nvidia HGX NVL8 系统和更广泛的 Vera Rubin 平台。这标志着英伟达正式进军 CPU 直销领域,成为英特尔和 AMD 在传统 CPU 市场的有力竞争对手。

英伟达在 GTC 2026 大会上发布的 Vera Rubin 太空模块,在轨道推理工作负载方面的 AI 计算能力是 H100 的 25 倍,已有六家商业航天公司部署该平台。该模块专为在太空直接运行 LLM 和高级基础模型的轨道数据中心设计,采用紧密集成的 CPU - GPU 架构和高带宽互连,能实时处理来自太空仪器的大量数据流。
此外,Nvidia IGX Thor 面向任务关键型边缘环境,Nvidia Jetson Orin 面向对尺寸、重量和功耗有严格限制的卫星,RTX PRO 6000 Blackwell 服务器版 GPU 定位为地理空间智能工作负载。IGX Thor、Jetson Orin 和 RTX PRO 6000 Blackwell 服务器版现已上市,Vera Rubin 太空模块尚未公布发布日期。

英伟达虽凭借在人工智能芯片市场的主导地位取得了巨大的收入和市值增长,但也面临着诸多挑战。自去年 10 月市值短暂突破 5 万亿美元大关后,股价因人们担心人工智能热潮被过分夸大而降温。随着谷歌和 Meta Platforms 等科技巨头开发自己的处理器,英伟达在人工智能芯片市场面临严峻挑战,同时美国安全和贸易壁垒制约了其在中国销售先进芯片的能力。
英伟达目前畅销产品在推理计算方面的吸引力不如训练计算,用户反映 Grace Blackwell 服务器能耗大、内存不足。为过渡到推理领域,英伟达与 Groq 达成数十亿美元授权协议。有迹象表明,英伟达正从 GPU 转向推理计算解决方案提供商,今年 2 月 Meta Platforms 宣布在其人工智能数据中心部署数千颗英伟达 Vera CPU,这是英伟达人工智能系统首次大规模不使用 GPU 的部署。
编辑观点:英伟达在 GTC 2026 上发布的一系列产品,展现了其在 AI 推理领域的布局野心。面对竞争和市场变化,转型虽有挑战,但也蕴含机遇。若能成功应对,有望继续在 AI 市场保持领先。



被折叠的 条评论
为什么被折叠?



