Back to Search
Dossier
数据重排的方法、装置、电子设备以及计算机程序产品
InventionUnknown
21views
18Claims · 4 independent
§ Ⅰ
Dossier Overview
Inventor
侯德福; 乐永年; 陈昊天
Filing Date
Apr 10, 2025
Publication Date
Oct 20, 2026
IPC Classification
G06F 8/41 (2018.01)G06F 17/16 (2006.01)G06F 18/25 (2023.01)G06F 9/50 (2006.01)
本公开的实施例涉及数据重排的方法、装置、电子设备以及计算机程序产品。该方法包括获取与用于运行经训练的目标模型的目标处理器相对应的矩阵分块参数。该方法还包括确定目标模型中的矩阵乘法算子的输入矩阵是否为常量。此外,该方法还包括响应于确定输入矩阵为常量,基于矩阵分块参数,通过对输入矩阵执行重排操作,在编译阶段生成与目标模型有关的中间表示,中间表示被用于生成在目标处理器上执行的目标代码。由此,该方法能够在模型静态编译阶段完成对常量矩阵的数据重排,减少了目标模型在执过过程中数据重排打包带来的性能开销,从而有效降低运行时的性能开销,显著提升模型在处理器上的执行效率。
External Resources