无锡芯领域微电子有限公司

本发明公开了三维混合键合与可重构数据流大模型推理加速架构及方法，架构采用Logic‑on‑Bottom倒置三层堆叠：顶层为DRAM近存平面，中层为可重构TGU阵列，底层为RISC‑V控制集群；三层依靠WoW晶圆混合键合垂直互连，层间带宽超16TB/s。TGU可动态切换Prefill脉动阵列、Decode广播归约两类数据流；RISC‑V通过自定义Xtgu指令集完成硬件重构调度，并承担RoPE等不规则算子计算。本发明依托三维堆叠高密度互连解决大模型超长上下文推理存储墙问题，分阶段硬件适配提升计算效率，倒置堆叠优化散热、降低传输功耗；架构适配国产成熟封装与工艺，兼顾推理性能、能效与算法迭代灵活性。