8、特定领域加速器:机器学习与自动机处理的创新方案

特定领域加速器:机器学习与自动机处理的创新方案

1. 基于ReRAM的机器学习加速方案

在机器学习加速领域,ReRAM(阻变随机存取存储器)展现出了巨大的潜力。PipeLayer是一种基于ReRAM的内存计算架构,专门用于CNN(卷积神经网络)训练。在ReRAM交叉阵列中,其数据映射方式与ISAAC类似,将一个滤波器的权重映射到一列(位线)。PipeLayer引入了一种训练流水线策略,将一张图像在各层的计算视为流水线的一个阶段,从而实现多张图像在不同层的并行处理。此外,还使用了一些内存阵列来缓冲CNN训练中复杂数据依赖所需的中间结果。

FPSA提出了一种灵活的ReRAM内加速器,具备可重构的路由架构和布局布线工具。FloatPIM则支持浮点值的全数字内存计算,能够实现高精度的训练,同时通过在内存块之间插入开关优化数据传输。

还有一些基于ReRAM的内存DNN(深度神经网络)加速芯片的研究。它们采用类似的权重和输入映射策略,但权重采用2 - 3位、输入采用1 - 2位的低精度评估,并且使用较小的DNN模型或数据集,如MNIST。

除了ReRAM,还有其他类型的非易失性存储器被用于ML加速,包括相变存储器(PCM)、自旋转移矩磁性随机存取存储器(STT - MRAM)和铁电随机存取存储器(FeRAM)。不同类型的NVM各有优缺点,例如STT - MRAM主要用于具有二进制权重或激活的ML模型,因为在其单元中存储多位具有挑战性;基于PCM的架构在训练任务中能耗较高,因为训练需要大量的数据写入,而PCM的写入能耗相对较高。

<
存储器类型 适用场景
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值