英伟达的护城河
播客主持人Dwarkesh Patel（以下简写为Q）提出，软件公司因人们认为AI会使软件变廉价而估值暴跌，有人认为英伟达本质在做软件，若软件变廉价，英伟达是否会失去护城河。黄仁勋表示，必须有东西将电子转化为Token，这一过程很难变得同质、廉价，投入的艺术、工程、科学和发明显而易见，且远未被完全理解。英伟达的工作是付出必要努力，尽可能少干预以实现转化能力最大化，将非必须做的事交给合作伙伴。英伟达拥有最大的合作伙伴生态系统，覆盖AI五层蛋糕的每一层。他认为Agent数量和工具用户数量会呈指数增长，工具部署数量可能激增，软件公司会因工具普及而飞速增长。
Q提到英伟达在代工厂、内存和封装等方面采购承诺接近1000亿美元，SemiAnalysis称实际达2500亿美元，询问这是否是英伟达接下来几年最大的护城河。黄仁勋称这是英伟达能做到但别人难做到的事，上游承诺有显性和隐性的，他会向供应链合作伙伴传递信息、激励投资，因为英伟达下游供应链和需求规模大。他还提到GTC规模大，能让上下游交流，他会花时间传递未来机会信息，确保供应链理解变化。英伟达为未来业务规模达一万亿美元做准备，下游需求大使其能承受规模扩展。
Q关注上游能否跟上需求，指出英伟达是台积电N3和N2节点大客户，SemiAnalysis预测今年AI占N3产能60%，明年达86%，询问如何继续翻倍增长，是否因上游而放缓及绕开问题的方法。黄仁勋称瞬时需求超全球供应总量，可能受“水管工”数量限制，但拥有超越供应能力的需求是好事，供应和需求差距大会使行业向缺口聚合，如CoWoS封装技术，过去两年投资使其供应能力跟上需求，成为主流计算技术。英伟达关注瓶颈问题，提前预判，通过与合作伙伴合作投资重塑供应链，帮助扩展产能。
Q认为有些瓶颈比其他的更容易解决，询问如何每年制造2倍的逻辑芯片，逻辑芯片和内存芯片扩展受极紫外光刻（EUV）限制如何实现增长。黄仁勋称这可快速扩展，只需需求信号。Q询问英伟达是否会和ASML沟通增加EUV光刻机，黄仁勋表示有些直接开口，有些间接实现，关键是考虑关键瓶颈，只要台积电被说服，几年内会有足够EUV设备，且没有瓶颈会持续超两三年。同时，英伟达在提升计算效率方面进步大，如Hopper到Blackwell架构效率提升30 - 50倍，还在增加产能。真正的风险是下游能源政策问题，芯片产能和CoWoS产能扩展2 - 3年可解决。
TPU没有威胁，英伟达在“重新定义计算方式”
Q指出世界排名前三的AI模型中有两个在TPU上训练，询问对英伟达未来的影响。黄仁勋称英伟达构建的是加速计算，与TPU不同，加速计算用途广泛，可用于多种领域，也用于AI计算。英伟达重新定义了计算方式，从通用计算过渡到加速计算，市场覆盖范围远超TPU或ASIC，拥有庞大生态系统，各种框架和算法能在其平台运行，系统无处不在，可支持各种公司和行业，应用场景TPU无法覆盖。
Q提出AI本质是多次进行可预测的矩阵乘法，TPU针对当下AI计算需求优化，询问黄仁勋的回应。黄仁勋表示矩阵乘法是AI重要部分但非全部，开发新注意力机制、架构等需要通用可编程架构，英伟达架构让新算法发明变得容易，是推动AI进步的原因。TPU受摩尔定律限制，增速约每年25%，而英伟达通过新模型实现性能跃升，如Hopper到Blackwell 50倍的性能改进，这依赖CUDA支持。英伟达架构具备编程灵活性和协同设计能力，能影响处理器、系统等各个环节。
Q提到英伟达60%收入来自五大超级云服务商，这些服务商有资源编写自己的内核，Anthropic和Google转向自己的加速器，OpenAI也开发了Triton工具，询问CUDA是否仍是前沿AI领域选择英伟达的关键。黄仁勋称CUDA是丰富的生态系统，支持每个开发框架，对Triton有巨大贡献，乐意帮助框架完善。市面上很多框架在快速发展，基于CUDA构建是明智选择，生态系统丰富、可编程且能力强，开发人员可相信其健壮性。英伟达GPU安装基础庞大，软件或模型开发完成后可在世界任何地方运行，且在云平台普及率高，生态系统丰富、安装基础广泛、部署模式灵活，使CUDA不可替代。
Q询问对于能构建自己软件栈的大客户，英伟达能否维持目前利润率。黄仁勋称英伟达分配在AI实验室的工程师数量惊人，为他们优化软件栈，因为没人比英伟达更了解自己架构的复杂性与细节。英伟达GPU和加速器像一级方程式赛车，需要专业知识才能发挥极限，还使用大量AI优化内核库，专业知识对合作的AI实验室不可或缺，能提升软件栈性能，提高客户收入。英伟达计算软件栈在性能总拥有成本（TCO）方面最优，鼓励TPU或Trainium展示推理成本优势，但没人愿意。英伟达成功原因包括性能与成本优势、能效优势，以及拥有全球最多客户。
Q提出市场结构可能有成千上万家AI公司计算量份额大致相等，但五大云服务商的计算资源实际由Anthropic、OpenAI等大型基础模型实验室使用，询问黄仁勋看法。黄仁勋纠正其假设，认为该假设对AI、科学和行业未来很重要。Q询问Anthropic与博通和谷歌达成TPU计算协议，大部分计算通过TPU完成，如何看待这些公司选择其他加速器。黄仁勋称Anthropic是特殊案例，不是趋势，没有Anthropic，TPU和Trainium不会有增长。Q提到OpenAI和AMD合作自研Titan加速器，黄仁勋表示OpenAI主要计算仍依赖英伟达，不介意其他公司尝试不同产品，做出比英伟达好的产品不容易。Q认为其他公司逻辑是产品不比英伟达差70%就行，因为从英伟达买要支付70%利润，黄仁勋指出ASIC利润率也接近65%，实际省不了多少。他还提到以前没能力对Anthropic等实验室进行巨额投资，现在不会再犯同样错误，很高兴能投资OpenAI和支持Anthropic。
英伟达为什么不做超级云服务商？
Q指出英伟达多年来是AI领域赚钱最多的公司，已向OpenAI投资300亿美元，向Anthropic投资100亿美元，现在它们估值显著增长，询问英伟达为什么不早点打造基础研究实验室或完成投资交易。黄仁勋称能做到时就马上做了，当时不具备条件，没意识到AI实验室投资需求无法通过风投达成，现在认识到了。
Q询问英伟达手头有大量资金，应如何使用，为什么不自己成为云服务商租赁计算资源。黄仁勋称这是公司哲学问题，英伟达应做“必须做的事，但越少越好”。构建计算平台的工作若英伟达不做，就没人做，如构建NVLink、技术栈、生态系统，创建CUDA - X库等，这些工作推动了加速计算发展。世界上有很多云服务商，英伟达支持CoreWeave等“新型云服务商”，没有英伟达支持，它们无法存在。
Q询问为什么不挑选赢家，黄仁勋称这不是责任，英伟达创立时图形架构错误，不被看好，但最终成功，所以要怀有谦逊，要么让云服务公司自己竞争，要么支持所有人。Q对黄仁勋既不优先支持新型云服务公司，又列举很多公司称没支持就不会存在表示疑惑，黄仁勋解释这些公司需有生存意愿、商业计划、专业技能和热情，主动寻求帮助，英伟达会为其提供支持，但不会做金融投资方，而是专注擅长领域，支持生态系统。对于OpenAI等需要投资的公司，英伟达会出手帮助。
Q提到多年来GPU短缺，现在供需缺口更大，英伟达分配稀缺资源并非价高者得，而是考虑新型云服务公司，询问原因。黄仁勋称前提错误，首先要做好需求预测，协调供需，然后实际下订单，遵循“先到先得”原则，若数据中心未准备好或组件未就绪，可能优先服务其他客户，以最大化工厂产能利用率。他强调不会把东西卖给出价最高的人，认为这是糟糕的商业行为，英伟达定价后不会因需求暴涨调整价格，让客户可依赖。他还提到英伟达和台积电合作近30年，关系极好，可完全信任。英伟达每年都有进步，能让单片成本下降，保持高产。
没有深度学习，英伟达也会做加速计算
Q询问英伟达占据台积电3nm和未来2nm节点大部分产能，能否回头利用7nm较老工艺节点剩余产能，黄仁勋称没必要，每一代架构改进不仅依赖晶体管工艺制程，回到较旧工艺节点重新设计芯片研发投入大，承担不起。若无法获得前沿产能，会选择使用7nm工艺。
Q提出英伟达为何不同时并行开展多个使用不同架构的芯片项目，黄仁勋称测试后发现其他方案效果更差，目前专注的项目是最想做的。若任务需求变化，可能会增加其他加速器，如引入Groq并整合到CUDA生态系统，是为细分市场，满足客户对不同性能表现的需求，未来可能出现吞吐量低但平均售价高的场景。总体而言，会将资源投资于现有架构。
Q询问假设深度学习革命未发生，英伟达会做什么，黄仁勋称会做加速计算，一直以来将GPU架构与CPU结合加速计算负载，可提高应用程序速度，应用于工程和科学领域。通用计算扩展潜力有限，领域专用加速器是可行方式，英伟达使命是将加速计算带给全世界，推动通用计算无法实现的应用发展。即使没有AI，英伟达也会是大公司，GTC开场部分很多内容与AI无关，还有很多重要的非AI计算任务。
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
