Google:机器学习芯片让AI更快更高效

谷歌自研芯片Tensor重磅来袭:“机器学习的里程碑” 谷歌自研芯片Tensor来了 阅读详情

原文:Google Says Machine Learning Chips Make AI Faster and More Efficient
作者: Edd Gent
翻译:无阻我飞扬

摘要:作者介绍了Google专用机器学习芯片TPU,从TPU的诞生,TPU的作用,TPU与CPU和GPU的比较,以及Google推出TPU的目的等方面做了阐述,以下是译文。

这里写图片描述

Google最近对外公布了其专用的机器学习芯片TPU的内部工作原理。在AI硬件至上的军备竞赛中打响了前哨战。

TPU是Tensor Processing Unit(Tensor处理单元)的缩写,这个芯片是为Google的开源机器学习库TensorFlow量身定做的,自2015年以来,Google的数据中心一直在使用该芯片。但在本月初,公司最终提供了该设备的性能数据。

公司表示,目前这一代的TPU设计用于推介—利用已经训练过的神经网络执行某种功能。比如通过Google Now识别语音命令。在执行这些任务上,公司表示TPU比同一时期的GPU和CPU快15到30倍,同样重要的是,TPU的功效也比同一时期GPU和CPU高30到80倍。

CPU,也就是中央处理器是自20世纪60年代以来大多数计算机的核心处理器。但是,CPU不太适合现代机器学习方法,特别是无法满足深度学习极高的计算需求。

在二十世纪末,研究人员发现,显卡更适合这些任务的高度并行性,而GPU,也就是图形处理单元成为实现神经网络最基本的技术。但是随着对机器学习使用的不断发展,Google希望为他们的需求量身打造一些东西,TPU应运而生。

“大约在六年前,当开始在我们产品的愈来愈多的地方使用昂贵的计算深度学习模型时,对TPU的需求就已经出现了。因为使用这些模型的计算费用让我们担忧,”Google首席工程师Norm Jouppi 在博客中写道。

“假设一个场景,人们每天使用谷歌语音搜索仅三分钟。在我们所使用的处理单元上为语音识别系统运行深度神经网络,那么Google数据中心的数量就会翻番! ”

Nvidia表示这种比较不完全公平,比较片面。谷歌将其TPU与服务器级英特尔Haswell CPU和Nvidia K80 GPU进行了比较,但从那时起已经有两代Nvidia GPU。英特尔一直保持沉默,但Haswell也已经有了三代。

公司在一篇博文中说:“随着NVIDIA的开普勒一代GPU在2009年问世,有助于唤醒全世界将GPU加速计算用于深度学习的可能性。它从未为该任务专门优化过”

为了证明这一点,他们有了自己新的基准,指出最新的P40 GPU的计算速度是之前的两倍。但重要的是,TPU浮出水面,这并不奇怪,Google已经准备好了,甚至已经在用新一代改进设计的TPU。

也就是说,它不会颠覆芯片市场。Google不会把TPU卖给竞争对手,而是完全专注于推介。Google仍然使用大量的Nvidia的GPU进行机器训练,这解释了公司为何对争论沉默以对。

Google也可能是世界上为数不多的公司之一,用金钱和愿景从头开始构建一个全新领域的产品。但它也是世界上最大的处理器采购商之一,它决定了满足自己需求的唯一方法是设计自己的芯片,这也为芯片制造商敲响了警钟。

事实上,这似乎是这个想法的一部分。网络世界的Steve Patterson写道: “Google发布这篇研究论文旨在提高机器学习界和芯片制造商之间的讨论水平,现在是实现商业解决方案,大规模运行推介的时候了”

这可能不会太远,分析师Karl Freund 在《福布斯》杂志上写道“鉴于市场的快速增长以及对高性能的渴望,我认为硅片厂商将不可避免地推出专为机器学习设计的芯片。”

Nvidia公司不太可能让其市场领先地位下滑,而在今年晚些时候,英特尔将发布第一个具有机器学习焦点Nervana技术的芯片,Nervana在去年的8月份被英特尔收购。甚至手机玩家已经开始行动了。

Arm的Dynamiq微架构允许客户将AI加速器直接构建到芯片中,从而将原生机器学习引入到智能手机等设备。而高通公司的项目Zeroth发布了一款软件开发工具包,可以在具有骁龙处理器的智能手机和无人机等设备上运行深度学习程序。

Google发布TPU可能只是一个温柔的推动,使业界朝着正确的方向前进。

图片来源:Shutterstock

Google搜索与TPU演进:从语义理解到专用芯片的AI基础设施突破 在人工智能和大数据时代,大规模分布式系统与专用硬件设计成为技术演进的关键驱动力。从通用计算架构到面向特定负载的优化,体现了软硬件协同设计的核心原理。这种技术路径不仅能显著提升能效比和计算效率,更在搜索推荐、模型训练等场景中创造了突破性价值。以Google搜索的语义理解演进和TPU专用芯片的起源为例,展示了如何通过算法与基础设施的深度协同,解决千亿级数据处理的工程挑战。其中,神经搜索架构与张量处理单元的定制化设计,正是应对指数级增长的计算需求与成本约束的典范实践,为构建下一代AI基础设施提供了系统性参考。 阅读详情

相关推荐

小白投资理财 - 解读威廉分形指标 Williams Fractals

威廉分形指标用于识别价格趋势中的关键点,帮助判断支撑位和阻力位。

wumingxiaoyao的博客 4343

机器学习与AI芯片:如何提高效率

1.背景介绍 随着人工智能技术的不断发展,机器学习和深度学习等算法在各个领域的应用也越来越广泛。这些算法的计算需求也越来越大,对于传统的计算机和服务器来说,已经不能满足这些需求。因此,研究人员和企业开始关注AI芯片,它们具有更高的计算能力和更低的功耗,可以更有效地支持机器学习和深度学习等算法的计算需求。 在本文中,我们将介绍机器学习与AI芯片的关系,探讨其核心概念和算法原理,并通过具体的代码实...

AI天才研究院 955

STM32 RC522串口驱动程序 (简单直接)

rc522作为使用非常多的读写卡芯片,使用SPI芯片读写应用已经非常广了。但有些时候我们只有串口可以使用,或者我们觉得串口使用更加方便,那么就必须要编写串口的驱动程序。不过很难找到可以直接使用的串口程序。所以在此将我这边写好的串口驱动写好如下: 直接上代码 下面是RC522.C的驱动文件。支持读写卡号8位数据。rc522用的是stm32 的串口3,调试显示是串口1; #include "rc522.h" #include "delay.h" /////////////////////////////////

qq_42074368的博客 9003

AI芯片:未来的计算强大之兆

1.背景介绍 AI芯片是一种专门为人工智能和机器学习任务设计的高性能芯片。随着人工智能技术的不断发展,AI芯片已经成为了人工智能领域的核心技术之一。本文将深入探讨AI芯片的背景、核心概念、算法原理、代码实例以及未来发展趋势和挑战。 1.1 背景介绍 人工智能(Artificial Intelligence,AI)是一种试图使计算机具有人类智能的科学领域。AI的目标是让计算机能够理解自然语言、...

AI天才研究院 1956

Camera Sensor接口协议全解析(六)聚焦onsemi HiSPi接口的技术突破与应用实践

摘要: Onsemi HiSPi是一种高速并行接口协议,专为高分辨率图像传感器设计,具备1600 Mbps传输速率、低功耗和高兼容性特点。通过对比DVP、MIPI CSI-2等主流协议,HiSPi在工业/医疗领域表现突出,支持动态功耗控制、多ROI和CRC校验。其创新架构包含多PHY设计,提供分组SP、流SP等多种工作模式,满足灵活传输需求。实际应用中,HiSPi在PCB缺陷检测(5μm精度)和液晶面板检测(0.3% Mura检出率)等场景展现卓越性能,成为高速成像领域的关键技术。

GateWorld的博客 1437

DC-DC 转换器中的压电谐振器:当前状态和限制

在功率转换器应用中,居里温度较低的谐振器的 k 2和 Q M显着降低会导致效率降低,需要仔细的热处理。由于使用 PR 的功率转换器在不同的条件下运行,包括温度范围、电压偏置和功率电平,因此不可避免地会出现非线性效应,必须妥善解决这一问题,以免影响转换器的性能。等效电路模型(Butterworth Van-Dyke 或 BVD 模型)将压电谐振器在其机械谐振附近的电响应转换为一个简单电路,该电路由与由电极形成的输入电容 C 0并联的串联 RLC 动分支组成,见图图 1 还显示了阻抗与频率的关系。

2301_79716471的博客 1299

AI 硬件加速的重大飞跃!可训练机器学习硬件的光学芯片

编辑 | 绿萝根据麦肯锡(McKinsey)最近的一份报告,机器学习应用每年飙升至 1650 亿美元。但在机器能够执行诸如识别图像细节等智能任务之前,必须先对其进行训练。训练现代人工智能 (AI) 系统(如特斯拉的自动驾驶仪)需要数百万美元的电力消耗,并且需要类似超级计算机的基础设施。这种激增的 AI 「需求」,使得计算机硬件与 AI 需求之间的差距越来越大。光子集成电路(或简称为光学芯片),已成...

人工智能学家 1202

Unity跨平台存储避坑指南:persistentDataPath权限真相

Application.persistentDataPath是Unity中用于持久化数据的核心路径,表面提供跨平台抽象,实则底层访问机制因操作系统而异。其原理并非简单路径映射,而是受Android Scoped Storage、iOS Data Protection、Windows组策略及macOS隐私权限等多层安全模型动态约束。技术价值在于保障用户数据长期可靠存储,但若忽略平台差异,极易引发‘本地正常、真机崩溃’‘iOS可存、Android报错’等线上事故。典型应用场景包括游戏存档、离线缓存、自定义资源包

weixin_32073537的博客 352

为什么微型芯片是机器学习的命门?

Azeem请我在CogX上做一次演讲,并且希望我集中讨论我希望观众领悟的一个点。几年前我的工作的重点就是让人们相信深度学习是一次真正的革命,而不是一时的热潮,但是不断涌现...

优快云资讯 1991

VisionMaster Qt二次开发:图像获取、COM组件渲染与本地化存储实战

本文详细介绍了基于VisionMaster进行Qt二次开发的核心实战流程,涵盖环境搭建、方案加载、图像数据获取、COM组件渲染与本地化存储。重点解析了如何通过COM组件在Qt界面中实时显示图像,以及将VM图像数据转换为QImage并保存为本地文件的关键步骤与常见问题,为工业视觉项目开发提供稳定高效的解决方案。

weixin_29229261的博客 207

C# USB通信实现

在C#中,我们可以利用.NET框架提供的类库和API来实现与USB设备的通信。本文将介绍如何使用C#进行USB通信,并提供相应的代码示例。以上就是使用C#进行USB通信的基本过程。通过以上代码示例,你可以实现与USB设备的简单通信,具体的实现方式和细节根据你的实际需求进行调整和扩展。命名空间,该命名空间包含了与串口通信相关的类和方法。选择需要通信的USB设备,然后使用。步骤二:获取可用的USB设备列表。首先,在你的C#项目中引入。步骤三:打开USB端口。步骤六:关闭USB端口。步骤一:引入命名空间。

PixelProX的博客 4387

深度学习/机器学习的处理器列表(最全_中文版)

https://basicmi.github.io/Deep-Learning-Processor-List/ 获取更多深度学习最新资讯快速通道: 获取最新消息快速通道 - lqfarmer的博客 - 优快云博客 Nvidia公司 GPU · Nvidia的最新版GPU可以使用其最新的Tensor核心架构,即16位TF或120 TFlops,这是

lqfarmer的博客 7393

从数据到行动:客服运营必分析的8大核心维度

服务运营正从被动响应升级为数据驱动型战略体系。客服中心的海量交互数据能精准反映服务效能、客户体验及运营短板,关键在于实现数据的可视化与可操作化。本文系统剖析了八类核心数据指标:1)客户行为数据(CSAT/NPS/投诉内容);2)通话效率指标(AHT/接通率);3)服务质量(质检体系/情绪识别);4)坐席绩效(FCR/客户评价);5)流程与知识库(转接率/工单时效);6)渠道流量分析;7)异常预警机制;8)成本收益模型。通过构建多维数据分析体系,企业可在客户全生命周期管理中实现服务升级、风险防控与资源

2202_75469062的博客 1401

Google让AI设计AI芯片,芯片性能超过人类

研发AI芯片,是一项研发周期长且需要雄厚资金支持的工作。这些专用芯片设计主要是用于更快、更高效地执行AI算法。当前的问题是,设计芯片需要花费数年的时间,并且机器学习算法的发展比研发进程要快得多。你需要一种经过优化的可用于当今AI的芯片,而不是两到五年前的AI。对于此,Google于近期推出了自己的解决方案:让AI设计AI芯片。 他们在一篇论文中写道:“我们相信,人工智能本身将提供缩短芯片设...

Tecsae的博客 1809

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Google把AI芯片装进IoT设备,与国内造芯势力何干?

一直以来,Google 就通过自研 AI 芯片以满足其神经网络日益增长的计算需求。北京时间昨日晚间,远在太平洋彼岸的 GoogleCloud Next 2018 大会上...

AI科技大本营 1956

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

[机器学习新闻] 芯片、机器人和模型

科技新闻摘要:芯片、机器人和人工智能 这段文字主要介绍了近期科技领域的几项重要进展: 1. Meta 发布新芯片: Meta 公司发布了下一代训练和推理加速芯片,性能强大,拥有 708 teraflops/秒的运算速度和 128 GB 的内存,同时功耗较低。这体现了大型科技公司开始自行研发深度学习硬件的趋势,未来将与 Nvidia 等公司展开激烈竞争。 2. Google DeepMind 发布 ...

YannicKilcher的博客 408

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

谷歌首款Tensor手机芯片,全是AI炫技,性能一笔带过

行早 发自 凹非寺量子位 报道 | 公众号 QbitAI谷歌发布新手机了。但是相比于炸场的苹果,谷歌的新品就低调了不少。不过值得注意的是,新的Pixel 6和Pixel 6 Pro将会搭载...

量子位 766

AI芯片生态竞争:从算力军备到供应链联盟,Google与Marvell的122亿美元交易解析

在AI基础设施领域,专用芯片(ASIC)与通用芯片(GPU)的架构差异正驱动着从单纯算力竞争向生态协同的深刻转变。ASIC通过为特定计算模式(如矩阵乘法)进行极致优化,在能效和性能上展现出显著优势,但其价值实现高度依赖于软硬件协同的完整技术栈。这一趋势促使云服务商与芯片设计公司形成深度战略绑定,以优化供应链安全、降低总拥有成本(TCO)并锁定长期技术路线图。例如,通过资本纽带(如股权期权)与核心基础设施芯片供应商(如Marvell)合作,能确保高速互连、存储控制等关键组件的可靠供应与协同研发。这种‘生态合纵

weixin_30613343的博客 279

[Column] Perplexity 如何构建 AI 版 Google | 模型无关架构 | Vespa AI检索

Perplexity AI:构建下一代智能搜索引擎 Perplexity AI通过创新的"答案引擎"模式重新定义搜索体验,将传统搜索引擎与AI技术结合。其核心技术是检索增强生成(RAG)管道,包含五个关键步骤:查询意图解析、实时网络检索、片段提取、带引用的答案生成和对话优化。 系统采用模型无关的架构,智能路由查询到最适合的LLM,包括自研Sonar系列和第三方模型如GPT-4。检索引擎基于Vespa AI构建,处理2000亿网页的实时索引,强调信息新鲜度(每秒数万次更新)和细粒度内容理解

No Game No Life 1571

Google谷歌的OpenXLA开源项目

OpenXLA 通过模块化工具链消除了机器学习开发人员的障碍,它通过通用编译器接口得到所有领先框架的支持,利用可移植的标准化模型表示,并提供具有强大的目标向和特定硬件优化的特定领域编译器。在去年 10 月的 Google Cloud Next 2022 活动中,OpenXLA 项目正式浮出水面,谷歌与包括阿里巴巴、AMD、Arm、亚马逊、英特尔、英伟达等科技公司推动的开源 AI 框架合作,致力于汇集不同机器学习框架,让机器学习开发人员获得能主动选择框架、硬件的能力。

扬起你的笑脸~把影子藏在身后 1414

AI芯片自研趋势解析:从HBM内存到开发者成本优化

高带宽内存(HBM)作为AI加速器的关键组件,通过3D堆叠技术实现TB级带宽,显著提升大模型训练效率。其技术原理基于硅通孔(TSV)互联,突破传统内存带宽瓶颈,在Transformer架构优化中发挥核心价值。随着AI公司自研芯片成为行业趋势,硬件创新正推动API成本下降和推理性能提升。开发者可通过模型量化、多后端推理框架等技术应对硬件变革,在AI基础设施重构中获得先机。本文以Anthropic与SK海力士合作为案例,展现HBM3E和自研芯片如何重塑开发生态。

weixin_30698527的博客 436

「深度」 从CPU、GPU再到TPU,Google的AI芯片是如何一步步进化过来的?

雷锋网按:本文作者栗向滨,中科院自动化所复杂系统国家重点实验室研究生,主攻机器人与人工智能。 Google I/O是由Google举行的网络开发者年会,讨论的焦点是用Google和开放网络技术开发网络应用。这个年会自2008年开始举办,到今年已经是举办的第9届了。 在今年的年会上,Google主要发布了以下8种产品:智能助手Google As...

weixin_34364135的博客 261

Google为其TPU机器学习硬件宣布了新一代产品

随着打造定制AI硬件的战争升温,谷歌在谷歌I / O 2018年宣布推出其第三代硅芯片Tensor Processor Unit 3.0。Google首席执行官Sundar Pichai表示,新款TPU吊舱比去年强劲八倍,其性能高达100 petaflops。谷歌加入了几乎所有其他主要公司,希望创建定制芯片以处理其机器操作。虽然已经出现了多种用于开发机器学习工具的框架,包括PyTorch和Caff...

qq_42364914的博客 339

Google创世纪任务:AI如何重塑科学发现范式与未来研究

人工智能(AI)正从通用领域加速向垂直科学前沿渗透,其核心在于利用深度学习模型处理海量、异构的科学数据,从而突破人类认知与数据处理能力之间的瓶颈。从技术原理看,这依赖于Transformer、图神经网络等架构对多模态数据(如分子结构、天文光谱、材料图像)进行表征学习,并结合物理信息神经网络(PINN)等将领域知识作为约束嵌入模型,以提升外推与泛化能力。其技术价值在于构建“数据驱动”与“原理驱动”融合的自动化科学工作流,实现从假设生成、实验设计到结果验证的闭环,极大加速新药研发、清洁能源材料发现等进程。应用场

weixin_30603633的博客 473

深度解析 TPU:为 AI 而生的计算引擎

TPU 的出现,标志着人类第一次为“神经网络”而重新定义计算。它放弃了灵活,换来了极致性能;它抛弃了通用,换来了智能时代的速度。未来的AI硬件竞争,不再是谁的频率更高、核数更多,而是谁更懂模型、谁能更接近算法本身。正如 Google 工程师所言:“CPU 在理解世界,GPU 在模拟世界,TPU 在创造世界。

Anthony1453的博客 6798

构建开放的未来——我们与 Google Cloud 的全新合作伙伴关系

我们非常期待通过与 Google Cloud 的深入合作,让这一愿景加速实现——无论你使用的是 Vertex AI Model Garden、Google Kubernetes Engine、Cloud Run,还是 Hugging Face Inference Endpoints。通过这个 CDN Gateway,Hugging Face 的模型和数据集将直接缓存在 Google Cloud 上,大幅减少下载时间,并提升 Google Cloud 用户在模型供应链方面的稳定性和可靠性。

Hugging Face 659
上一篇: 4个让Docker和Kubernetes更安全的容器安全工具
下一篇: 提高MySQL性能的7个技巧
csdn研发技术
博客等级 码龄9年 1381粉丝 90原创
评论 5
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值