CNIPA.AI
검색으로 돌아가기
기록

基于融合注意力与量化操作的数据处理方法及加速器

발명유효
10청구항 · 2 독립항
§ Ⅰ

개요

발명자

娄文启; 王超; 覃云集; 陈子齐; 宫磊; 王腾; 周学海

IPC 분류

G06N 3/0455 (2023.01)G06N 3/0495 (2023.01)G06N 3/0499 (2023.01)G06N 3/065 (2023.01)G06N 5/04 (2023.01)G06F 7/544 (2006.01)G06F 15/78 (2006.01)G06N 3/048 (2023.01)

本发明提供了一种基于融合注意力与量化操作的数据处理方法及加速器,应用于计算机技术领域,包括:基于加速器中异构多核架构的多个计算核心,根据目标模型对多个输入数据执行注意力处理操作,得到输出结果;归一化核心用于对输入数据进行归一化处理,得到归一化后的输入数据;线性层核心用于对归一化后的输入数据进行线性计算,得到目标输入数据;融合注意力核心用于基于移位指数近似单元的移位指数近似算法对目标输入数据执行指数计算操作,得到指数计算结果,多个关联指数计算结果各自对应的处理时段存在部分时段重合,多个关联指数计算结果为相同的融合注意力核心输出的多个指数计算结果,处理时段表征输入数据转换为指数计算结果的时长。