検索に戻る
案件記録
数据处理的方法、计算单元、电子设备、存储介质和程序产品
発明有効
21請求項 · 5 独立
§ Ⅰ
案件概要
発明者
吴青松; 王颖辉; 张浩
IPC分類
G06F 17/16 (2006.01)
本公开的实施例涉及一种数据处理的方法、计算单元、电子设备、存储介质和程序产品。该方法由计算单元执行,包括:获取待处理的第一数据,第一数据对应于权重矩阵;将第一数据解析为多个数据段,多个数据段包括多个第一数据分段和一个第二数据分段,多个第一数据分段对应于第一精度的浮点值;基于预设的对应关系,确定与多个第一数据分段对应的多个基值和与第二数据分段对应的缩放因子,多个基值对应于第二精度的浮点值,第二精度高于第一精度,其中多个基值与缩放因子的乘积对应于权重矩阵中的多个权重值;以及基于多个基值和缩放因子,执行权重矩阵与输入矩阵的乘法计算。以此方式,本公开实施例能够有效提升数据的解码和计算效率。
外部リソース