基于大模型驱动的模型鲁棒性自动化评测方法和相关设备

本申请公开了基于大模型驱动的模型鲁棒性自动化评测方法和相关设备，方法包括：将被测模型的任务模板输入动态Prompt引擎模块得到样本生成指令；通过样本生成与验证模块根据样本生成指令生成对抗样本，将对抗样本进行模型评测；若对抗样本通过模型验证，则通过多模态反馈解析模块提取被测模型的高维多模态反馈向量；通过策略控制模块根据高维多模态反馈向量生成可复用语义指令以对生成策略进行优化；若对抗样本未通过模型验证，则通过评估与解释生成模块将对抗样本进行效果评估并生成可解释性评测报告。本申请能实现对抗样本的渐进式生成与模型鲁棒性评测效率的指数级提升，并为开发者提供明确的模型改进方向，可广泛应用于计算机技术领域。