HBM是什么?因AI而崛起,它有哪些优势?

南韩存储大厂SK海力士宣布,将与台积电公司密切合作,联手生产下一代HBM——即预计在2026年投产的第六代HBM产品HBM4,双方并于近期签署合作备忘录(MOU)。

SK海力士以往的HBM产品,包括HBM3E(第五代HBM产品)都是基于公司自身制程制造的基础裸片,但从HBM4产品开始,将采用台积电的先进逻辑制程,这将使得HBM4的性能与功效更好,有助于海力士生产满足客户需求的客制化HBM产品。

与此同时,双方将协力优化SK海力士的HBM产品和台积电的CoWoS技术的整合,共同应对HBM相关客户的要求。

在AI浪潮下,HBM(高带宽存储器)成为当红炸子鸡,究竟什么是HBM?相较传统DRAM(动态随机存取存储器),又有什么不同?

HBM是什么?跟传统DRAM有什么不同?

简单来说,越强的AI处理器,需要越强的存储。

美光副总裁暨运算与网络事业部运算产品事业群总经瓦伊迪亚纳坦(Praveen Vaidyanathan)指出,芯片性能表现与存储的频宽和容量成正相关,随着大规模语言模型(LLM)参数量增加,也需要更高频宽内存,AI处理器才能顺利运行。

HBM相较传统DRAM为高频宽内存。高频宽就好比是高速公路,道路越宽可承受的车流量就越大,换句话说频宽越高,内存能运送的资料量就越大。《SemiAnalysis》指出,光GPT-4就含1.8兆个参数,像应用AI,就必须搭配像HBM这样容量更大、存取更快速的存储器࿰

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

芯智雲城

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值