混合专家模型推理方法、装置及存储介质

本发明公开了一种混合专家模型推理方法、装置及存储介质。涉及人工智能领域，其中，该方法包括：在利用混合专家模型针对目标任务进行推理的过程中，获取混合专家模型中目标层的多个路由权重；依据多个路由权重将目标层对应的多个子模型划分为第一类子模型集合和第二类子模型集合；依据子模型对应关系将至少一个第二类子模型的词元重路由到对应的第一类子模型上，以实现针对目标层的重路由；利用目标层被重路由之后的混合专家模型进行前向计算，输出目标任务对应的预测结果。本发明解决了相关技术中对混合专家模型的推理进行优化会降低混合专家模型的性能的技术问题。