基于掩码多教师自蒸馏的神经网络自动生成方法及介质

本发明涉及一种基于掩码多教师自蒸馏的神经网络自动生成方法及介质，涉及自动化深度学习与模型压缩技术领域。基于训练数据集和设置得到候选操作空间，使用掩码多教师自蒸馏对最优架构进行搜索，搜索中，形成包括多个储备教师的教师组，并将目标得分达到得分阈值的教师网络的知识传递给学生网络，通过基于特征的蒸馏和基于响应的蒸馏，将各个教师网络的知识传递给学生网络；每完成一个学生网络的训练，则将完成的学生网络作为新的教师网络加入教师组以替代当前教师组中最早加入教师组的教师网络，实现教师组的更新；直至迭代训练完成，将后一轮训练得到的学生网络作为搜索得到的最优架构。可以更好地平衡了自动生成的神经网络的预测精度和计算效率。