基于大模型的异构数据源知识蒸馏方法、系统及介质

本发明公开了基于大模型的异构数据源知识蒸馏方法和系统，方法包括：确定与大模型对应的模型场景，及与模型场景对应的多种数据源；基于各数据源获取多类样本数据对预设教师模型训练；当训练达到预设结束条件时，将预设教师模型生成为大模型，并获取与多类样本数据对应的多类异构数据由大模型和预设学生模型进行预测分析，生成第一预测结果和第二预测结果对大模型知识蒸馏，将预设学生模型生成为小模型。本发明通过与模型场景对应的多种数据源中的样本数据进行模型训练和知识蒸馏，使训练形成的大模型和知识蒸馏形成的小模型，均可结合各种不同数据源的数据特征对模型场景进行分析处理，具有良好的处理性能，同时丰富了模型的适用场景。