一种基于关系蒸馏的工业诊断大模型轻量化方法及系统

本发明属于工业故障诊断技术领域，涉及一种基于关系蒸馏的工业诊断大模型轻量化方法及系统。包括：获取工业设备的历史监测数据构建故障样本集，利用预训练的工业诊断大模型作为教师模型，提取样本集中每对样本之间的特征关系，生成教师关系矩阵；构建轻量化学生模型，提取相同样本集中每对样本在学生特征空间中的关系，生成学生关系矩阵；基于教师关系矩阵与学生关系矩阵计算关系蒸馏损失，联合硬标签损失对学生模型进行联合优化训练，得到训练好的轻量化学生模型；利用该模型对实时监测数据进行在线诊断，输出诊断结果。本发明在显著降低模型参数量和计算复杂度的同时保持了高诊断精度，实现了工业诊断大模型的高效轻量化与边缘实时部署。