知识，既贵，又便宜。

Ara向量部件设计论文阅读

VPU中Ring部件的验证

新增矢量点积扩展指令集的的“香山”处理器的 LLM 加速的研究

ELSA: Hardware-Software Co-design for Efficient, Lightweight Self-Attention Mechanism in NN

基于脉动阵列的层融合注意力模型加速器结构

Sanger: A Co-Design Framework for Enabling Sparse Attention using Reconfigurable Architecture

SpAtten: Efficient Sparse Attention Architecture with Cascade Token and Head Pruning

Optimizing Attention by Exploiting Data Reuse on ARM Multi-core CPUs

A 28nm 27.5TOPS/W Approximate-Computing-Based Transformer Processor with Asymptotic Sparsity Speculating and Out-of-Order Computing

Full Stack Optimization of Transformer Inference: a Survey

FTRANS: Energy-Efficient Acceleration of Transformers using FPGA

Adaptable Butterfly Accelerator for Attention-based NNs via Hardware and Algorithm Co-design

A3: Accelerating Attention Mechanisms in Neural Networks with Approximation

Transformer 模型压缩算法研究及硬件加速器实现

Manticore：一个用于超高效浮点计算的4096个riscv核的chiplet架构

应用定义片上网络的异构chiplet：实现前景。先进的2.5D和3D集成技术已经使得chiplet组合系统成为大芯片设计的一个替代，产业界的偏好是对chiplet系统最好的反应，领先的公司基于成本和可扩展的考虑已经在该领域采取行动。

昇腾：一种用于DNN计算的可扩展的统一架构

本文主要介绍了当前主要chiplet系统的分解方案及其优劣，对异构chiplets系统的互连拓扑做了详细分析，介绍了chiplets间的死锁原因和解锁策略，同时对不同chiplets系统的封装方案也做了辅助介绍，也特别强调了架构-封装设计的协同。整体来说，是一篇对chiplets架构设计做了全面论述的好文章。

很多应用都严重依赖逐位操作计算。在已有的系统中机型批量逐位操作需要处理器在内存通道上传输大量的数据，因此需要高延迟、内存带宽和能耗。在这篇文章中，我们介绍了Ambit，一种完全在主存中进行批量逐位操作（bulk bitwise operation）的机制，通过基于DRAM的内部的架构和模拟操作可以获得低成本、高性能和低功耗的效果。

揭穿GPU相比于CPU 100倍性能的神话：一次CPU和GPU上的吞吐量计算的评估

鲲鹏920是海思基于ARM架构设计的第二代服务器处理器。利用大量的chiplets以及hybrid工艺技术，鲲鹏920在处理不同负载的同时获取截稿的成效。通过这些灵活的chiplet的重组可以构建新的设计。鲲鹏系列处理器混合各类技术来提升效率，消除瓶颈，提升价值和性能。其关键特征如下：支持向量扩展的超标量架构为高性能应用场景赋能；通过一致性cache子系统将多核基于超低延迟、非阻塞、bufferless的ring设计集成进单chiplet中；

当一条指令执行结束另一条指令开始前，如果保存的进程状态和程序执行的顺序模型相关时，中断要求非常精确。在一个流水线处理器中，由于上一条指令已经完成，下一条指令也许会被初始化，因此中断的精确控制通常是很困难的。本文描述和评估了在流水线处理器中的对精确中断问题的解决方案。首先将描述精确中断问题，然后将详细描述第一个解决方案。第一个是强制指令按照架构顺序完成和修改处理器状态，其他的四种将允许指令以任意的序完成，但是将需要额外的硬件，以致于当中断发生时，精确的状态很难恢复。所有的方法将在并行流水下讨论。

本位内容来源于论文一种面向Chiplet互连的高效传输协议设计与实现

本文内容来源于论文：一种多核处理器直连接口QoS的设计与验证

本文详细解释了推动AMD使用chiplet技术的挑战，产品开发的技术方案，以及如何将chiplet技术从单处理器扩展到多个产品系列。

论文解析——异构多芯粒神经网络加速器