在设备上实现代理框架的方法及代理框架提供设备

本发明公开了在设备上实现代理框架的方法及代理框架提供设备，涉及一种边缘设备提供代理框架以管理应用程序和应用程序使用的人工智能AI模型。应用程序和应用程序元数据从服务器云下载到设备。应用程序元数据描述了应用程序对AI模型的要求，以供应用程序使用。代理框架在存储应用程序元数据和安装在设备上的边缘模型的模型元数据的设备内数据库中执行搜索。搜索是为了确定边缘模型之一是否满足应用程序的要求。在搜索之后，代理框架将已安装在设备上的给定边缘模型设置为应用程序的目标模型，其中目标模型满足应用程序的要求。然后，代理框架在收到服务请求时指示应用程序使用目标模型。