返回搜索
档案
对嵌入式神经网络处理器部署量化模型的方法和装置
发明专利有效
8浏览
10权利要求 · 5 独立
§ Ⅰ
卷宗概要
发明人
颜奉丽; 章放
IPC 分类
G06N 3/082 (2023.01)G06N 3/0495 (2023.01)G06N 3/063 (2023.01)
本申请公开了对嵌入式神经网络处理器部署量化模型的方法和装置,用以提高神经网络模型量化部署在嵌入式神经网络处理器上的适配程度,包括:获取NPU的拓扑结构信息,拓扑结构信息包括NPU中功能模块的硬件连接关系和支持的算子量化属性;基于拓扑结构信息生成多个流水线模组,流水线模组包括用于实现模型算子功能的功能模块以及功能模块在所属流水线模组中的算子量化属性;确定待部署模型的网络结构中各个节点与流水线模组中功能模块的匹配关系,任一个节点在网络结构中的拓扑连接关系与匹配的功能模块在所属流水线模组中的硬件连接关系一致;按照待部署模型中的各个算子匹配的流水线模组的算子量化属性,将待部署模型量化部署至NPU。