一种基于跨架构知识蒸馏的网络任务模型构建方法

本申请涉及一种基于跨架构知识蒸馏的网络任务模型构建方法，包括利用多模态编码器对多模态的网络运行数据集进行编码和投影，得到统一令牌；将统一令牌输入至包括Transformer模块和第一任务特定网络头的教师模型中，通过教师模型中的Transformer模块和第一任务特定网络头输出得到教师模型网络状态预测结果；将统一令牌输入至包括Mamba模块和第二任务特定网络头的学生模型中，通过学生模型中的Mamba模块和第二任务特定网络头输出得到学生模型网络状态预测结果；基于教师模型网络状态预测结果和学生模型网络状态预测结果构建总损失函数，利用总损失函数对学生模型进行训练，得到训练好的网络任务模型。上述方法能够同时解决计算复杂度和存储冗余的技术问题。