Patent: Vector Reduction Processor

本文探讨了一项谷歌专利,涉及TPU中向量累加器的Vector Reduction技术。专利描述了一种通过数据和索引在cell中右移来实现向量归约的方法,特别关注了使用DRAM或SRAM创建的交错存储结构。作者指出,虽然专利中提到的控制寄存器实现可能复杂,但也可能通过自动生成简化编程。专利中的示例和控制寄存器的工作流程提供了理解该技术的直观视角。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前言

很多论文对结构的描述都含糊粗糙,但相应的专利就把一个结构拆成无数贼简单的小东西去申请,想想还挺有意思的(o゚v゚o)

Vector Reduction

还是google的专利,应该是TPU累加器部分对应的向量合并,看专利是个很小的东西,不过也提供了一些灵感。

原文地址:https://patents.google.com/patent/US10108581B1/enicon-default.png?t=LBL2https://patents.google.com/patent/US10108581B1/en

专利设计

数据和索引在cell中可以向右传递,传递的过程中完成vector reduction。由于传递,需要输入向量“斜三角”传入,这种数据结构的实现是我比较关注的。google专利里说可以用DRAM或SRAM实现一种交错的存储结构,好嘛,说了但没完全说,估计不是傻傻搭触发器,用DRAM/SRAM节省一点面积。

举个栗子

专利贼老长,把每张图看看明白其实就够了。google举了个栗子,说明此设计就如上图一样简单明了

对照这control register走一遍,就基本明白vector reduction的套路了,看着还是很直观的。就是感慨当google的程序员也不容易啊,control register不得把人写傻啊 ̄へ ̄。是不是有个可能control register是自动生成的?

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值