一种针对生成式模型的安全评测方法、装置、设备及程序产品

本说明书实施例提供一种针对生成式模型的安全评测方法、装置、设备及存储介质。可在输入阶段，对输入至目标模型的任一提示集包含的多条提示语句进行差异性评估，以拦截不符合预设的差异性要求的提示集。在生成阶段中，可将符合差异性要求的提示集输入至目标模型。在输出阶段，可确定目标提示集对应的目标风险主题，并可对目标风险主题和生成式模型基于目标提示集所输出的生成结果进行关联性评估，以检出不符合预设关联性要求的生成结果。还可对生成结果进行质量评估，以检出不符合预设质量要求的生成结果。