一键难忘的博客

SD NAND，也常被称为贴片式T卡、贴片式TF卡、贴片式SD卡、贴片式内存卡、贴片式闪存卡等。尽管SD NAND和TF卡在名称上有些相似，但二者在本质上存在显著区别。

在合作项目层面，知存科技将联合蔡一茂院长、吴燕庆研究员、唐希源研究员等顶级学者及课题组，围绕Flash存算一体技术，模拟存算一体高能效ADC技术，以及新材料存算一体技术展开共研，促进存算一体芯片领域的技术创新和成果转化。5月5日，“北京大学-知存科技存算一体技术联合实验室”在北京大学微纳电子大厦正式揭牌，北京大学集成电路学院院长蔡一茂、北京大学集成电路学院副院长鲁文高及学院相关负责人、知存科技创始人兼CEO王绍迪、知存科技首席科学家郭昕婕博士及企业研发相关负责人参加了现场揭牌仪式。

这篇文章深入探讨了Transformer架构在深度学习模型中的革命性引入以及对传统RNN限制的突破。它回顾了传统的RNN模型的缺陷，特别是在处理长序列时的串行计算限制，并介绍了Google于2017年提出的"Attention is All You Need"论文所引入的Transformer架构。在视频中强调了Transformer架构的关键组成部分，包括自注意力机制和多头注意力机制。

随着全球半导体行业的快速发展，尤其是在存储芯片领域，市场对各种 Flash 存储产品的需求日益增加，常见的产品类型包括NAND FlashNOR FlasheMMCSD NAND、以及Raw NAND等。为了帮助客户更好地了解这些存储产品及其应用场景，我们将对不同类型的存储产品进行分类，并简要描述它们的特点与优势。文章主要介绍了目前常见的存储产品，分别为EEPROM、NOR Flash、NAND Flash等，并对每种存储产品的特点和应用领域进行了详细描述。EEPROM。

存内计算技术的核心思想是将计算操作直接嵌入到存储单元内部，从而减少传统冯诺依曼架构中计算和存储单元之间的数据传输。这一技术通过在存储器中嵌入计算功能，有效地缩短了数据传输路径，从而提高了计算效率和系统性能。传统的计算架构中，CPU和内存之间的频繁数据传输导致了显著的带宽瓶颈和功耗问题。存内计算技术通过将计算逻辑集成到存储单元中，能够显著降低数据传输的需求，从而有效减少功耗和带宽消耗。知存科技的在线研讨会探讨了存内计算技术在多模态大模型时代的应用及其架构设计。

WTM2101芯片是由Witin知存科技开发的高性能存内计算芯片，专为加速AI计算设计，如图1.1所示。存内计算作为一种革命性技术，其主要优势在于将计算功能直接集成到存储器中，从而显著减少数据在芯片内部的传输距离，降低延迟，增强处理速度。这种架构使得WTM2101能够在保持超低功耗的同时，实现高达50Gops的运算能力，这一点在机器学习和深度学习应用中尤为关键。WTM2101的高性能和超低功耗这一优势极大提升了对机器学习模型的处理效率。

SRAM（静态随机存取存储器）在存内计算技术中的应用展示了显著的潜力和挑战。基于SRAM的存内计算通过整合数据存储和计算功能，减少了数据传输延迟，提升了计算速度，并且功耗较低。其核心优势在于高存取速度和集成度，适用于中小算力、端侧设备如可穿戴设备和边缘计算等场景。在逻辑运算方面，SRAM通过修改存储单元结构，实现了逻辑与非（NAND）、逻辑或非（NOR）等操作，进一步提高计算效率。研究者提出了创新架构，如8T和10T SRAM单元，以改善传统6T SRAM单元的缺陷，提供更高的噪声容限和稳定性。

面向存算架构的神经网络数字系统（Compute-in-Memory, CIM 或 Processing-in-Memory, PIM）是一种旨在突破传统计算架构瓶颈的新型系统设计。传统的计算系统中，数据存储和数据计算通常分开进行，这导致了大量的数据搬移和相关的时间、能量消耗。而存算一体化架构通过将计算单元和存储单元集成在一起，可以显著提高计算效率和能量效率，特别是在处理大量数据的神经网络任务中表现尤为突出。

本文探讨了存内计算及其面向的架构优化，尤其侧重于图算法优化和存内计算存储介质。文章介绍了存内计算的概念和意义，着重强调了存内计算解决了内存墙问题，提高了计算效率。针对图算法的优化，提出了基于位运算的创新方法，重塑了单源最短路径算法，并介绍了基于局部重叠度的链路预测算法优化设计。接着，文章详细讨论了存内计算存储介质，特别是非易失性存储器，比较了不同类型存储器的性能，并重点介绍了基于ReRAM的存内计算技术，包括其物理模型和交叉阵列结构。

本文深入探讨了基于SRAM和MRAM的存算一体技术在计算领域的应用和发展。首先，介绍了基于SRAM的存内逻辑计算技术，包括其原理、优势以及在神经网络领域的应用。其次，详细讨论了基于MRAM的存算一体技术，包括其工作原理、优势以及在军工和大数据存储领域的应用。最后，对比了SRAM的存内计算和基于MRAM的存算一体技术的差异，包括工作原理、优势重点和应用领域等方面。在全文中，强调了这两种技术在提高计算性能、降低能耗、简化系统架构等方面的重要作用，展望了它们在未来的计算应用中的潜力和前景。

根据实验结果，得出对不同存内计算架构性能的评估和对比分析。从中总结出结论，指导后续的存内计算系统设计和优化工作。在进行性能仿真与对比分析时，需要注意确保仿真模型的准确性和可靠性，以及测试数据集的代表性和多样性，以保证评估结果的客观性和可信度。本节介绍了一种低延时低能耗的多位电流型感知放大器（LLM-CSA），并通过基于忆阻器阵列的多位存内计算架构进行了验证。相较于传统的CSA，LLM-CSA电路通过减少每个量化周期的工作状态数量和简化量化时的工作时序，优化了功能。

存内计算技术作为人工智能领域的一项创新，为神经网络的发展提供了全新的可能性。通过将计算操作嵌入存储单元，存内计算有效地解决了传统计算架构中数据搬运的瓶颈问题，提高了计算效率，降低了功耗。随着未来的不断探索和发展，存内计算有望在人工智能领域发挥更大的作用。然而，我们也需谨慎应对相关的挑战和伦理考量，确保这一技术的应用能够符合社会的期望和法规，推动人工智能技术的可持续发展。在这个不断演进的领域，存内计算将继续为人工智能的未来发展带来新的可能性。

存内计算芯片，以ZhiCun Technology（知存科技）的WTM2101为代表，展现出令人瞩目的技术深度和创新潜力。本文深入剖析了WTM2101的核心技术、芯片架构以及性能特点，突显了其在存内计算领域的领先地位。然而，随着技术不断演进，存内计算芯片仍面临挑战，如模拟计算精度、工具链不足和跨层协同设计等。在技术突破方面，WTM2101成功解决了模拟计算精度提升和阈值电压漂移的难题，为存内计算芯片在高精度应用中的应用奠定了基础。然而，仍需深化研究以适应不断增长的计算需求。

如果我能看得更远一点的话，那是因为我站在巨人的肩膀上。—牛顿。存内计算是一种革新性的计算范式，旨在克服传统冯·诺依曼架构的局限性。随着大数据时代的到来，传统的冯·诺依曼架构由于处理单元和存储器互相分离，带来了巨大的延时和能耗，承受着高昂的数据传输成本，即所谓的“冯·诺依曼瓶颈”。为了解决这个问题，存内计算应运而生。

本文介绍了存内计算技术在推理、训练等人工智能任务中的优越性能，以及其在云、边缘和端设备上的应用场景。具体来说，存内计算在提升推理能力、加速训练过程、提高运算效率、降低系统功耗和设备成本方面取得显著成果。数字存内计算技术通过在存储阵列内部集成逻辑计算电路，如与门和加法器，使得存内计算阵列能够同时进行存储和计算操作。以静态随机存储器（SRAM）为例，文章详细解释了数字存内计算的基本原理。在应用场景方面，存内计算在端侧、边侧和云侧都展现出广泛的潜力。

近存计算是一种通过芯片封装和板卡组装的方式，将存储单元和计算单元集成，从而增加访存带宽、减少数据搬移，以提升整体计算效率的架构。尽管近存计算仍然属于存算分离的架构，但其技术成熟度较高，主要实现方式包括存储上移和计算下移两种方式：存储上移：采用先进的封装技术，将存储器靠近处理器（如CPU、GPU），增加计算和存储间的链路数量，以提供更高的访存带宽。其中，高带宽内存（HBM）是一种典型的产品形态，通过硅通孔（Through Silicon Via，TSV）多层堆叠实现存储容量提升。

除了学术界的深入研究外，产业界也纷纷加入存内计算的布局。优快云首个存内计算开发者社区来了，基于知存科技领先的存内技术，涵盖最丰富的存内计算内容，以存内技术为核心，史无前例的技术开源内容，囊括云/边/端侧商业化应用解析以及新技术趋势洞察等， 邀请业内大咖定期举办线下存内workshop，实战演练体验前沿架构；光电转换作为光互连系统中不可或缺的关键部分，要求高速和高灵敏度的探测器，而传统的冯·诺依曼体系结构却面临着内存与计算单元之间频繁数据传输的问题，导致大量能源的消耗，尤其在资源受限的设备中更为显著。

这篇文章总结了冯·诺伊曼架构及其在处理数据密集型应用中所面临的性能和能耗问题。为了应对这一挑战，文章介绍了存内计算技术，其中重点讨论了基于电压域的SRAM存内计算技术。在冯·诺伊曼架构中，存储器和处理器之间频繁传输大量数据，导致性能瓶颈。为解决这个问题，存内计算技术被提出，其核心思想是将计算单元整合到存储器中，实现数据在存储和计算之间的直接传输，从而提高数据处理效率和降低能耗。特别关注了基于电压域的SRAM存内计算技术，这一技术利用SRAM存储单元的电压变化来实现计算功能。

基于搜索操作的存内计算，虽然在支持算子方面相对较少，但其性能和能耗方面的优势使其成为当前备受关注的技术。存内计算的核心思想是利用新型存储的物理结构和特性，支持应用程序中频繁出现的算子。在未来的计算机架构设计中，我们或许会看到存内计算与近数据计算相结合，以充分发挥两者的优势。设计者需要根据应用场景的需求，选择适当的技术。无论是NVALT的灵活性、MAP的高性能，还是SQL-PIM的数据库加速，这些都是当前计算领域不可忽视的技术创新。存内计算，潜力无限，引领着计算科学的未来。

为了降低训练时权重矩阵更新的延迟和能耗，TIME采取了权重矩阵复用的方法，与其他方法不同，它不是复制多份权重矩阵，而是通过特殊的数据映射操作来消除拷贝操作的写入开销。其独特的结构中使用PCM单元存储权值的高位，而电容器单元存储权值的低位，巧妙地平衡了计算的稳定性和存储的寿命。本文将深入研究基于向量乘矩阵的存内计算原理，并探讨几个引人注目的代表性工作，如DPE、ISAAC、PRIME等，它们在神经网络和图计算应用中表现出色，为我们带来了前所未有的计算体验。携手向前，踏上计算的无限征程。

国内的知存科技于2021年发布基于NOR Flash的存内计算芯片WTM2101，是率先量产商用的全球首颗存内计算SoC芯片，已经应用于百万级智能终端设备。在本质上消除不必要的数据搬移的延迟和功耗，从而消除了传统的冯·诺依曼架构的瓶颈，打破存储墙。据悉，存内计算特别适用于需要大数据处理的领域，比如云计算、人工智能等领域，最重要的一点是存内计算是基于存储介质的计算架构，而且存内计算是一种新型存储架构且轻松打破传统存储架构的瓶颈。随着技术的进步，存内计算将在未来得到更广泛的应用。

众所周知，人工智能的高速发展颠覆了人们传统的生活和工作方式，AI已经逐渐“渗透”到各个领域，与AI相关的一切也都在发生重大改变。就拿人工智能比较核心的深度学习算法来讲，它让芯片领域也发生了巨大的技术变革，比如在人工智能发展的早期，基于AI的芯片是使用传统的冯·诺依曼计算架构的，但是随着芯片存储性能的劣势逐渐凸显，使得AI芯片研发工程师们不得不采取其他新技术来规避这种缺点，这就使得存内计算应运而生。那么本文就来简单分享一下关于存内计算技术是如何打破常规算力局限性的，以及对应的存内计算芯片产品的体验分享。