CNIPA.AI
返回搜索
档案

一种跨平台模型部署框架、电子设备和存储介质

发明专利有效
8浏览
10权利要求 · 3 独立
§ Ⅰ

卷宗概要

发明人

王涛; 魏曦; 余光识

IPC 分类

G06F 8/60 (2018.01)G06F 8/71 (2018.01)G06F 9/50 (2006.01)

本申请公开了一种跨平台模型部署框架、电子设备和存储介质,该框架应用于电子设备,具体包括框架接口抽象层和与所述框架接口抽象层连接的多个运行库。所述框架接口抽象层用于连接应用框架层,用于为所述应用框架层提供统一的抽象接口;所述运行时库用于为所述框架接口抽象层提供运行支持。相较于传统的模型部署方案,本申请方案可以加快模型的部署速度,保证模型在不同平台评价标准的统一性,提升了推理性能。如果推理运行环境更新,可以依据该框架快速完成模型在新平台的部署更新,能够大大节约部署所需的人力物力。