推理模型选择和管理

本文中描述了用于推理模型选择和管理的方法、装置和系统。在一个方面，方法可以包括由模型选择和管理客户端(MSMC)向模型选择和管理服务(MSMS)发送管理服务请求；由MSMC从MSMS接收指示对由MSMC进行的模型选择的请求的通知；以及由MSMC向MSMS发送指示由MSMC选择的机器学习模型的模型选择消息。