CNIPA.AI
검색으로 돌아가기
기록

一种跨平台模型部署框架、电子设备和存储介质

발명유효
10청구항 · 3 독립항
§ Ⅰ

개요

발명자

王涛; 魏曦; 余光识

IPC 분류

G06F 8/60 (2018.01)G06F 8/71 (2018.01)G06F 9/50 (2006.01)

本申请公开了一种跨平台模型部署框架、电子设备和存储介质,该框架应用于电子设备,具体包括框架接口抽象层和与所述框架接口抽象层连接的多个运行库。所述框架接口抽象层用于连接应用框架层,用于为所述应用框架层提供统一的抽象接口;所述运行时库用于为所述框架接口抽象层提供运行支持。相较于传统的模型部署方案,本申请方案可以加快模型的部署速度,保证模型在不同平台评价标准的统一性,提升了推理性能。如果推理运行环境更新,可以依据该框架快速完成模型在新平台的部署更新,能够大大节约部署所需的人力物力。