Back to Search
Dossier
数据处理的方法、计算单元、电子设备、存储介质和程序产品
InventionActive
21Claims · 5 independent
§ Ⅰ
Dossier Overview
Applicant
瀚博半导体(上海)股份有限公司
Inventor
吴青松; 王颖辉; 张浩
IPC Classification
G06F 17/16 (2006.01)
本公开的实施例涉及一种数据处理的方法、计算单元、电子设备、存储介质和程序产品。该方法由计算单元执行,包括:获取待处理的第一数据,第一数据对应于权重矩阵;将第一数据解析为多个数据段,多个数据段包括多个第一数据分段和一个第二数据分段,多个第一数据分段对应于第一精度的浮点值;基于预设的对应关系,确定与多个第一数据分段对应的多个基值和与第二数据分段对应的缩放因子,多个基值对应于第二精度的浮点值,第二精度高于第一精度,其中多个基值与缩放因子的乘积对应于权重矩阵中的多个权重值;以及基于多个基值和缩放因子,执行权重矩阵与输入矩阵的乘法计算。以此方式,本公开实施例能够有效提升数据的解码和计算效率。
Sign in to read the full text
Claim 1 is shown. Create a free account to read all 21 claims, the full description, all drawings, translations and legal status.
- All claims
- Technical field
- Background
- Summary
- Drawing descriptions
- Detailed description
External Resources