谷歌入局TPU,算力需求转向推理时代,TPU能否挑战GPU成为AI芯片新宠?

Anthropic自研AI芯片:大模型算力竞争进入软硬件协同新阶段 在人工智能领域,算力已成为驱动大模型发展的核心基础设施,其地位堪比数字时代的‘新石油’。从技术原理上看,现代大型语言模型(LLM)的训练与推理本质上是对并行计算能力的极致消耗,这催生了从通用GPU向专用AI芯片演进的技术路径。专用集成电路(ASIC)通过针对Transformer等特定神经网络架构进行硬件级优化,能够实现更高的计算效率与更优的能耗比,其技术价值体现在性能定制化、成本可控性与全栈协同潜力上。当前,这一趋势正从云端训练加速向推理场景深化,旨在解决高延迟、高成本的实际工程挑战。在此背景下,行业领先 阅读详情

过去一个月谷歌围绕TPU动作不断,随着算力需求从训练转向推理,TPU优势凸显。未来AI芯片市场或形成“442”格局,TPU有望成为GPU之外的“另一个选项”。


序号1

谷歌TPU动作不断

4月底谷歌发布第八代TPU,首次拆分训练和推理芯片,随后传出谷歌向英特尔采购、与三星开发新一代TPU消息,但谷歌未回应。

序号2

推理成算力主场

国家数据局报告显示,2025年中国AI推理数据量超训练数据量。集邦咨询预测,2026年北美五大云服务商推理算力增速是训练算力两倍多。

序号3

TPU优势凸显

模型增大需集群协同,TPU集群效率有先天优势,且推理阶段重性价比,TPU作为专用芯片性能提升3到5倍。

序号4

场景适配不同

GPU适合新算法研究,CUDA生态成熟;TPU性价比高,适配主流框架,降低软件适配门槛。

序号5

TPU迎来新机会

AI Agents带动Token消耗增长,芯片利用率和性价比成比拼项,TPU有望成为AI芯片赛道新选择。

编辑观点:TPU凭借在推理场景的优势,有望在AI芯片市场分一杯羹,但GPU在新算法研究领域仍不可替代,未来两者或长期共存。

企业数字化转型AI大模型赋能智能体平台及AI场景应用规划方案(生态合作版).pptx 立即下载

相关推荐

Vivado图形化界面烧写MCS文件到SPI FLASH全流程(附常见报错解决方案)

本文详细介绍了使用Vivado图形化界面将MCS文件烧录至SPI FLASH的完整操作流程。内容涵盖从环境准备、MCS文件生成到硬件连接与烧写的每一步,并针对SPI总线宽度报错、FLASH型号识别失败等常见问题提供了深度解决方案,帮助用户高效完成FPGA配置,摆脱对TCL命令行的依赖。

s8t9u0v1w的博客 536

AI算力基础设施的去中心化——从GPU霸权到ASIC群雄并起

obsidian2026年6月,全球AI芯片市场迎来了几个标志性事件。当地时间6月24日,英伟达召开年度股东大会,CEO黄仁勋宣告“有用的AI时代”已经到来,并将这一轮计算范式转变定性为“60年来规模最大的行业重置”。同一天,OpenAI与博通联合发布首款自研推理芯片Jalapeño,宣称可将推理成本降低约50%。也正是在这一天,高通在纽约投资者日活动上正式宣布全面进军AI数据中心市场,微软和Meta双双成为其首批客户。英伟达GPU的统治地位并未被颠覆,但一个多元化、多极化的算力新格局已然成形。

fuquxiaoguang的博客 438

【墨者学院 】uWSGI 漏洞复现(CVE-2018-7490)

0x01 漏洞详情 uWSGI是一款Web应用程序服务器,它实现了WSGI、uwsgi和http等协议。 uWSGI 2.0.17之前版本中存在路径遍历漏洞,该漏洞源于程序没有正确的处理DOCUMENT_ROOT检测。攻击者可通过发送带有‘…’序列的特制URL请求利用该漏洞查看系统上的任意文件。 uWSGI 2.0.17之前版本中存在路径遍历漏洞,该漏洞源于程序没有正确的处理DOCUMENT_RO...

Summer's blog 1万+

谷歌不卖芯片,却一不小心成了芯片巨头?

在这场变革中,谷歌凭借其在云计算服务和人工智能研究领域的深厚积累,以及定制芯片设计的专业能力,悄然成为数据中心处理器设计的第三大巨头,这一成就尤其值得注意的是,谷歌并未对外销售任何芯片。尽管谷歌的TPU主要用于自家的数据中心和云服务,不进行公开销售,但这庞大的内部需求依然对市场产生了重大影响,挤压了英特尔、AMD和NVIDIA等传统芯片供应商的市场份额。总之,谷歌在不直接参与芯片市场竞争的情况下,通过TPU的设计和应用,已经悄然改变了数据中心处理器的市场格局,成为一股不可忽视的力量。

存储随笔 1330

MIT Cheetah Learning (一):State Estimate 从理论到实践:EKF融合IMU与编码器的状态估计全解析

本文深入解析了MIT Cheetah机器人中基于Extended Kalman Filter的状态估计技术,详细探讨了如何融合IMU与编码器数据以实现精准的State Estimate。通过四元数建模和传感器误差分析,揭示了EKF在复杂地形中的工程实践价值,为四足机器人的实时状态估计提供了完整解决方案。

weixin_30292843的博客 308

深入解析ISO12233标准:SFR算法从理论到代码实现

本文深入解析ISO12233标准中的SFR算法,从理论到代码实现全面介绍如何量化成像系统的解析力。通过e-SFR算法测量边缘扩散函数(ESF)和空间频率响应(SFR),结合光学原理和实际代码示例,帮助开发者准确评估影像质量。文章包含关键步骤的Python实现和工程优化技巧,适用于相机测试、镜头评估等应用场景。

weixin_29200485的博客 159

推理算力需求大增,谷歌TPU入局,AI芯片市场“442”格局将至?

GPU诞生超二十年,技术成熟,并发能力强,适合处理图像和矩阵运算,但调试复杂。一方面,模型增大需多芯片集群协同,TPU在集群效率上有先天优势,且部署硬件成本更低;另一方面,推理阶段对性价比敏感度高,TPU作为专用芯片,聚焦深度学习矩阵运算,对比同等工艺GPU有3到5倍性能提升。4月底发布第八代TPU,首次将训练和推理拆分为两款独立芯片,随后又传出向英特尔采购及与三星开发新一代TPU的消息。随着推理算力需求增长,TPU迎来发展契机,有望打破GPU主导局面,未来AI芯片市场将呈现多元化竞争格局。

IT界那些事儿 24

PCL 基于视椎体裁剪点云

PCL 基于视椎体裁剪点云

dayuhaitang1的博客 4085

AI芯片自研潮:从Anthropic聘请TPU之父看软硬件协同设计新范式

在人工智能领域,GPU作为通用计算硬件,通过并行处理能力支撑了深度学习模型的训练与推理。其核心原理在于利用数千个计算核心同时处理矩阵运算,显著加速了神经网络的前向传播和反向传播过程。然而,随着Transformer等大模型规模指数级增长,通用GPU在运行大模型时面临**成本高昂**与**利用率低下**的双重挑战,难以完全匹配模型特有的计算模式和内存访问规律。这推动了AI芯片向定制化、专用化发展,通过软硬件协同设计实现性能与能效的数量级优化。从谷歌TPU到亚马逊Inferentia,专用AI加速器已证明其在云

weixin_33766168的博客 426

分享一个我自用的 Python 消息发送模块,支持邮件、钉钉、企业微信

🔥 分享一个我自用的 Python 消息发送模块,支持邮件、钉钉、企业微信

XiaoqiangClub的博客 480

23、微波电路中的过孔、过孔围栏与接地焊盘建模分析

本文详细分析了微波电路设计中过孔、过孔围栏及接地焊盘的建模与优化方法。探讨了过孔模型的发展及其电感与电容特性,通过场求解器和集总元件模型提高建模精度。此外,分析了过孔隔离围栏在改善信号隔离中的作用,并通过2.5D和3D电磁仿真验证其效果。最后,研究了接地焊盘中过孔布局对电路稳定性的影响,提出了优化过孔位置以消除谐振和杂散振荡的方法。文章为微波电路设计提供了重要的理论支持和实践指导。

convnet3designer的博客 166

互联网大厂造AI芯片,前景如何?

来源|杭派工程师文|太浪字节跳动宣布自研AI芯片,百度自研的AI芯片“昆仑”完成独立融资,投后估值达130亿元人民币……最近,AI芯片有点火。为什么好像一夜之间大家都在造AI芯片?01...

网易智能 813

STC单片机 普通 I/O 口中断功能介绍和使用

STC32单片机 普通 I/O 口中断功能介绍和使用

perseverance51博客 3048

英伟达转向专用推理芯片:大模型推理的GPU时代面临终结?

在人工智能计算领域,GPU(图形处理器)长期以来凭借其强大的并行计算能力和成熟的CUDA生态,成为模型训练和推理的通用硬件基石。其核心原理是通过海量的计算核心处理高度并行的任务,技术价值在于为复杂的深度学习模型提供了通用、灵活的算力支持。然而,随着大语言模型(LLM)推理任务走向规模化生产,对延迟、吞吐和能效提出了极致要求,通用GPU架构在数据搬运效率、计算密度和功耗上面临瓶颈。这催生了面向特定场景的专用推理芯片(ASIC)的兴起,它们通过精简指令集、优化数据流和固化计算流水线,在确定性执行和能效比上展现出

weixin_34062469的博客 384

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

CPU/GPU/TPU/NPU大模型学习指南:收藏这份现代处理器架构图解,开启AI算力之旅!

处理器核心定位一句话人设CPU通用计算、系统控制思考者——总揽全局、逻辑判断GPU并行渲染、AI训练疾速者——千军万马、同步作战TPU云端AI训练训练师——专攻深度学习、云端重器NPU终端AI推理践行者——本地运行、低功耗实时响应未来不是“哪种处理器会一统天下”,而是异构计算的时代。CPU仍然下达指令,GPU负责大规模并行渲染,TPU在云端打磨出最聪明的模型,NPU在亿万终端上让AI触手可及。它们各司其职,共同构成了数字世界的神经系统。

Z123285的博客 272

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

清微智能可重构芯片斩获“中国强芯”,引领AI芯片新势力

架构就像精密的工业流水线,计算单元如同训练有素的工人,严格遵循CPU主管的指令,在冯·诺依曼架构的框架下高效运转。但值得关注的是,尽管当前生态建设是数据流派的短板,但数据流派的芯片技术正以惊人速度演进,在强化架构原生优势的同时,积极吸纳前沿技术成果,持续丰满技术羽翼,在算力瓶颈突破上有着巨大的潜能。数据流派锐意创新,来势凶猛,华为昇腾等芯片企业则探索着兼容并蓄的融合之道。,虽发展历程短于燃油车的百年积淀,但通过在“三电系统”(电池、电机、电控)等核心领域的持续突破,终将完成对传统动力系统的历史性替代。

weixin_44298602的博客 1944

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

老黄200亿「钞能力」回应谷歌:联手Groq,补上推理短板

在技术周期高速迭代的背景下,作为AI「心脏」的芯片,也需要根据不同的发展阶段做出相应的调整。通过自研芯片,谷歌成功摆脱了对英伟达天价GPU的依赖,这在很大程度上帮助谷歌削薄了训练和推理成本,这让谷歌在服务大量免费用户的情况下,依然能维持相当健康的财务账面。这时候,GPU的问题就暴露出来了——大部分算力都处于闲置,FLOPs根本用不满,常常在等内存把数据搬过来,实际计算量远小于prefill。而这次人才收购Groq,虽然也是变相承认了公司在推理赛道的不足,但同样标志着英伟达帝国的又一次扩张。

量子位 114

AMD Helios发布与算力多供应商时代:大模型推理成本将走向何方

7月20日,AMD首次向媒体展示其首款机架级AI系统Helios。该系统单机架集成72颗Instinct MI455X GPU和31TB HBM4内存,FP4峰值算力达2.9 exaFLOPS,直接对标英伟达NVL72。这不仅仅是一款新硬件的发布。微软Azure已宣布推出基于Helios的三类新实例,Meta、OpenAI、甲骨文此前也已确认将部署该平台。这意味着,大模型算力市场长期由英伟达一家主导的格局,正在被实质性打破。

weixin_61823230的博客 197

入局智能体云时代:Google Cloud全栈赋能企业数字化新变革

摘要: Google Cloud以原生AI能力和开源生态为核心优势,在2026年正式迈入智能体云时代,构建五层全栈架构(算力层、数据云层、平台中台层、应用赋能层、安全合规层),为企业提供从底层算力到业务应用的闭环解决方案。其差异化优势包括开源基因避免厂商锁定、AI原生闭环能力、无服务器架构降本增效以及全球化生态布局。尽管在国内本土化服务和中小微企业套餐方面存在短板,但Google Cloud凭借智能体战略和全球化算力网络,持续领跑云计算行业,为企业数字化转型提供全新路径。未来将聚焦深化智能体普及、优化芯片算

早睡早起 517

从云到端,谷歌的AI芯片2.0

来源:脑极体得芯片者得天下。我们可以把这句话再延伸一下说,得AI芯片者得未来的天下。对于智能终端厂商来说,能够自研SoC芯片似乎才是顶级实力的象征。众所周知,盘踞全球智能手机前三甲的三...

人工智能学家 638

GPU在推理任务中“水土不服“?英伟达200亿收购Groq背后的技术逻辑,大模型开发者必看!

英伟达斥资200亿美元收购专注于LPU芯片的Groq,旨在补足AI推理短板。Groq的LPU采用片上SRAM设计,在decode阶段速度比GPU快100倍,能有效解决大模型推理低延迟问题。这一收购反映英伟达对谷歌TPU等竞争对手的担忧,以及对推理市场重要性的战略布局。然而,LPU内存容量有限,整体部署成本可能更高,市场仍需验证用户对速度的付费意愿。

m0_59235945的博客 668

优快云收藏 | CPU/GPU/TPU/NPU大模型学习指南:小白程序员必备算力知识

处理器核心定位一句话人设CPU通用计算、系统控制思考者——总揽全局、逻辑判断GPU并行渲染、AI训练疾速者——千军万马、同步作战TPU云端AI训练训练师——专攻深度学习、云端重器NPU终端AI推理践行者——本地运行、低功耗实时响应未来不是“哪种处理器会一统天下”,而是异构计算的时代。CPU仍然下达指令,GPU负责大规模并行渲染,TPU在云端打磨出最聪明的模型,NPU在亿万终端上让AI触手可及。它们各司其职,共同构成了数字世界的神经系统。

2601_95389136的博客 588

2026年ASIC芯片爆发:云厂商与AI实验室发力,重塑半导体产业链!

早在4月的致股东信中,亚马逊CEO Andy Jassy就暗示,若芯片业务作为独立实体,将今年生产的芯片卖给AWS和外部公司,年收入将达约500亿美元。目前,亚马逊内部芯片部门年收入运行率已突破200亿美元,其最新的Trainium3芯片发布后迅速 "基本售罄",获超2250亿美元收入承诺。然而,自研芯片并非坦途。与此对比,OpenAI选择更务实路径:不自建芯片团队,而是与博通深度合作,利用后者成熟的硅片实现能力和供应链资源,将自身对模型工作负载的理解转化为芯片架构设计,9个月内完成从设计到流片全过程。

IT界那些事儿 174

OpenAI造芯计划曝光!拟自研AI芯片,正在评估收购目标

明敏 西风 发自 凹非寺量子位 | 公众号 QbitAIChatGPT打造者,要下场造芯了!最新爆料,OpenAI正在探索自研AI芯片,同时开始评估潜在收购目标。其招聘网站上,最近也出现了AI硬件共同开发、评估相关岗位。摆脱对英伟达的过度依赖,OpenAI是要动真格了。自ChatGPT掀起最新AI趋势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡...

量子位 196

Copilot智能体OS、TPU算力与开源千问:AI开发范式正在重构

大模型应用开发正从单一工具调用走向智能体编排,核心变化是系统级调度能力的出现。微软将Copilot升级为智能体OS,使其成为跨应用的任务规划与执行层;谷歌TPU凭借成本与互联优势,为训练推理提供新的算力选择;苹果与千问共同推动开源基座模型落地,让私有化部署和二次开发成为常态。开发范式因此转向“可被智能体调用”的接口设计,LangGraph流式调用千问、Copilot Studio快速搭建智能体等实操方案,正在帮助企业以更低成本构建端到端AI流程。理解这些技术趋势,有助于在混合架构中合理分配Copilot、内

weixin_28362173的博客 218
上一篇: Google花27亿美元追回的Gemini联合负责人Noam Shazeer,不到两年跳槽OpenAI!
下一篇: Transformer核心奠基人Noam Shazeer入职OpenAI,攒齐双作者赌下一代AI骨架
IT界那些事儿
博客等级 码龄6年 2万+粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值