华尔街尬捧TPU学术界懵了:何恺明5年前就是TPU编程高手,多新鲜~

克雷西 发自 凹非寺
量子位 | 公众号 QbitAI

学术界看不下去了,直接戳破:华尔街在尬吹谷歌TPU!

起因是Meta被曝要和谷歌签订数十亿美元的TPU订单,消息曝出后英伟达盘中最大跌幅达到了7%,按照现在的市值计算,一举蒸发了超3000亿美元。

反观谷歌,在盘中情绪最热烈时涨幅一度达4%,换算成市值相当于增加了约1500亿美元,合人民币超1万亿。

《华尔街日报》将其视为谷歌向英伟达的市场主导地位发起冲击的信号。

但在从业人士看来,华尔街对此举的看法实在是外行了:Meta、xAI在内的大公司和学术界多年一直在用TPU,市场突然就拿他当成算力救世主了?

谷歌没有护城河,英伟达也没有

OpenAI技术人员Clive Chan表示,不仅谷歌自己的Gemini一直在TPU上训练,像Claude、生图模型MidJourney、Ilya的SSI,也全都用过TPU。

所以在他看来,Meta和谷歌签TPU订单不是什么奇怪的事,如果Meta没用过的话,反而会更让他惊讶。

Clive对Meta的看法也被现实验证——没过多久谢赛宁就亲口证实,Meta早在2020年就已经开始使用TPU了。

谢赛宁介绍,当时何恺明领导了TF和JAX代码库的初步开发,MAE、MoCo v3、ConvNeXt v2和DiT等研究项目都是完全在TPU上开发的。

同时,谢赛宁团队在纽约大学的许多研究工作,也都用到了TPU。

在Meta的新订单被曝光之后,英伟达这边也对谷歌表示了祝贺。

但立马话锋一转表示自家产品依然遥遥领先,是唯一能够运行所有AI模型并应用于所有计算场景的平台。

有意思的是,这则推文三句话就用了两个长破折号,网友们一度怀疑是不是AI写的。

不过在Clive看来,所谓的“英伟达护城河”,其实也是十分薄弱的。

比如OpenAI就专门开发了Triton来绕过CUDA,并且只需25行Python代码就能达到cuBLAS的性能。

总之,从技术角度看,对于谷歌、Meta、OpenAI这样的巨兽来说,至少其自身绕开英伟达不是什么难事。

当然了,除了CUDA之外,还有一个需要考虑的因素,那就是使用成本。

Artificial Analysis用Llama 3.3对多款英伟达芯片、AMD的MI300X以及谷歌TPUv6e来了波性价比横评,结果从H100到B200,每1美元带来的Token收益是TPU v6e的5倍。

具体来说,用30Tokens每秒的速度跑Llama 3.3,输入输出各100万个Tokens,在H100上只需1.06美元,而在TPU v6e上需要5.13美元。

而谷歌最新的TPU v7成本核算下来,也和B200差不多。

TPUv7的FP8运算速度为4.6PFLOP/s,功耗约为1000瓦,GB200的FP8运算速度为5PFLOP/s,功耗约为1200瓦。

总之,综合来看,不管是技术还是成本,英伟达和谷歌都没有形成强有力的护城河。

但也有分析指出,谷歌选择出售GPU,本来也不是为了赚钱,瞄准的目标也不是英伟达。

谷歌卖TPU不为赚钱为产能

Artificial Intuition作者Carlos E. Perez分析指出,大家都把Meta与谷歌的TPU交易看作是Meta对冲NVIDIA风险的一种手段,但事实并非如此。

Perez认为,Meta在这笔交易当中也在被谷歌利用,用出货量换取排产和价格优惠,从而对冲来自芯片代工厂的风险。

代工厂需要获得切实有效的多年期合约,才会启动新的2纳米生产线,这种“安全感”是初创公司无法给予的。

Perez想象了这样一个场景:

谷歌走进代工厂,说道:
“我和Meta以及苹果都签了六年云服务合同,不管他们愿不愿意,他们每年都会消耗20万个TPU。把你们N2容量的 25%按成本价给我。”
而代工厂垂涎三尺,欣然应允。

现在任何一家小型芯片公司(Groq、Cerebras、Tenstorrent等等)都可以进来索要同样的晶圆。

Perez继续畅想,当这些小公司走进代工厂时,得到的回应就会变成“抱歉,未来24个月的房源都已经卖给了谷歌。剩下的零碎货,您只能按原价购买。”

他们正在利用Meta和苹果的资本支出作为抵押,预购了未来的尖端芯片供应。这和苹果当年在iPhone显示屏上用的伎俩如出一辙。

当时苹果用巨额预付款锁定所有优质面板 ,导致其他厂商多年来只能使用二流屏幕。

当然谷歌一个巴掌自然是拍不响,但Meta和苹果也都乐于签署这些协议,因为目前谷歌的TPU是唯一可以批量获得的芯片。

这样做的结果就是,在代工厂那里,能和谷歌相抗衡的,也就只有英伟达了。

参考链接:
[1]https://x.com/itsclivetime/status/1993869419337142772
[2]https://x.com/ArtificialAnlys/status/1993878037226557519
[3]https://x.com/IntuitMachine/status/1993117888140439943

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—  —

🔊 不到2周,量子位MEET2026智能未来大会就要来了!

‍张亚勤孙茂松等AI行业重磅嘉宾,以及百度高通亚马逊等头部AI企业已确认出席,RockAI、太初元碁、自变量、小宿科技等业内新秀也将参与分享,还有更多嘉宾即将揭晓 👉 了解详情

    📍 12月10日

    📍 北京金茂万丽酒店

一键报名线下参会,期待与你共论AI行业破局之道 

🌟 点亮星标 🌟

科技前沿进展每日见

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值