南韩存储大厂SK海力士宣布,将与台积电公司密切合作,联手生产下一代HBM——即预计在2026年投产的第六代HBM产品HBM4,双方并于近期签署合作备忘录(MOU)。
SK海力士以往的HBM产品,包括HBM3E(第五代HBM产品)都是基于公司自身制程制造的基础裸片,但从HBM4产品开始,将采用台积电的先进逻辑制程,这将使得HBM4的性能与功效更好,有助于海力士生产满足客户需求的客制化HBM产品。
与此同时,双方将协力优化SK海力士的HBM产品和台积电的CoWoS技术的整合,共同应对HBM相关客户的要求。
在AI浪潮下,HBM(高带宽存储器)成为当红炸子鸡,究竟什么是HBM?相较传统DRAM(动态随机存取存储器),又有什么不同?
HBM是什么?跟传统DRAM有什么不同?
简单来说,越强的AI处理器,需要越强的存储。
美光副总裁暨运算与网络事业部运算产品事业群总经瓦伊迪亚纳坦(Praveen Vaidyanathan)指出,芯片性能表现与存储的频宽和容量成正相关,随着大规模语言模型(LLM)参数量增加,也需要更高频宽内存,AI处理器才能顺利运行。
HBM相较传统DRAM为高频宽内存。高频宽就好比是高速公路,道路越宽可承受的车流量就越大,换句话说频宽越高,内存能运送的资料量就越大。《SemiAnalysis》指出,光GPT-4就含1.8兆个参数,像应用AI,就必须搭配像HBM这样容量更大、存取更快速的存储器