面向Transformer推理的混合键合3D堆叠加速器及加速方法

本申请属于Transformer模型加速领域，公开了一种面向Transformer推理的混合键合3D堆叠加速器及加速方法，该加速器采用3D堆叠架构，包括DRAM存储裸片和逻辑裸片，DRAM存储裸片包含16个DRAM存储块，逻辑裸片包含16个处理组，每个处理组对应一个DRAM存储块，每个处理组集成2个注意力处理单元，DRAM存储块与处理组之间通过32条铜‑铜混合键合垂直通道连接。本申请解决推理过程中计算密集、内存带宽需求高的问题，实现高效的模型推理加速，适用于自然语言处理、计算机视觉、视频分析等依赖Transformer模型的应用场景。