CNIPA.AI
검색으로 돌아가기
기록

矩阵向量乘法的计算方法、模型推理方法及图形处理器

발명유효
12청구항 · 6 독립항
§ Ⅰ

개요

발명자

上官致伟; 庄嘉良; 陈坚

IPC 분류

G06F 7/523 (2006.01)G06F 17/16 (2006.01)

本申请提供一种矩阵向量乘法的计算方法、模型推理方法及图形处理器,其中,矩阵向量乘法的计算方法包括获取多个目标任务;将目标任务分别分配给图形处理器的线程束;将目标任务对应的第一向量和第二向量加载至线程束中各线程的线程寄存器,以使线程束执行目标任务。上述方案通过将第一矩阵与第一向量相乘的计算任务分解为多个目标任务,并分配给图形处理器的线程束,以使各线程束并行执行目标任务,能够充分利用图形处理器的并行计算能力,从而加快结果向量的计算速度,进而改善矩阵向量乘法的计算效率。