검색으로 돌아가기
기록
三维混合键合与可重构数据流大模型推理加速架构及方法
발명알 수 없음
10청구항 · 2 독립항
§ Ⅰ
개요
IPC 분류
G06F 15/173 (2006.01)G06N 3/063 (2023.01)G06N 5/04 (2023.01)G06F 15/80 (2006.01)
本发明公开了三维混合键合与可重构数据流大模型推理加速架构及方法,架构采用Logic‑on‑Bottom倒置三层堆叠:顶层为DRAM近存平面,中层为可重构TGU阵列,底层为RISC‑V控制集群;三层依靠WoW晶圆混合键合垂直互连,层间带宽超16TB/s。TGU可动态切换Prefill脉动阵列、Decode广播归约两类数据流;RISC‑V通过自定义Xtgu指令集完成硬件重构调度,并承担RoPE等不规则算子计算。本发明依托三维堆叠高密度互连解决大模型超长上下文推理存储墙问题,分阶段硬件适配提升计算效率,倒置堆叠优化散热、降低传输功耗;架构适配国产成熟封装与工艺,兼顾推理性能、能效与算法迭代灵活性。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 10개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태