検索に戻る
案件記録

基于多核加速卡的AI加速系统

発明有効
10請求項 · 1 独立
§ Ⅰ

案件概要

発明者

请求不公布姓名; 请求不公布姓名; 请求不公布姓名; 请求不公布姓名

IPC分類

G06F 15/78 (2006.01)G06F 17/16 (2006.01)G06F 13/28 (2006.01)G06F 9/50 (2006.01)

本申请公开基于多核加速卡的AI加速系统,涉及模型加速领域。包括挂载在NOC上的标量计算核、N个矩阵计算核、计算管理核、HBM,以及Host CPU;标量计算核通过NOC分别与N个矩阵计算核路由连接;N个矩阵计算核通过NOC首尾连接;计算管理核接收Host CPU的任务,将指令与数据发送到NOC上,通过路由链路送入目标计算核;矩阵计算核基于接收到的指令数据进行矩阵运算,以及向标量计算核输出中间数据;标量计算核基于接收的指令和中间数据进行标量计算和数据汇聚,返回加速结果。本方案通过NOC路由链路和流水级联通信机制,可提升计算资源利用率、优化核间通信效率、增强超长文本序列支持能力。

ログインして全文を読む

請求項 1 を表示しています。無料登録で全 10 項の請求項、明細書全文、全図面、翻訳、法的状態を閲覧できます。

  • 全請求項
  • 技術分野
  • 背景技術
  • 発明の概要
  • 図面の説明
  • 発明を実施するための形態

外部リソース