一种恶意数据合成方法、装置及设备

本申请公开了一种恶意数据合成方法、装置及设备，该方法包括：针对目标大模型的每层，分别确定衡量正常请求样本对应的层输出表征间相似性的类内相似度，和衡量正常请求样本与恶意请求样本对应的层输出表征间相似性的类间相似度；基于类内相似度与类间相似度的差异随层深度的变化趋势，确定对齐行为发生的目标层区域；利用针对目标层区域生成的多个候选扰动信息调整目标大模型中的对应层参数，得到多个候选大模型，并从多个候选大模型中，筛选出可高效合成恶意数据的目标对齐抑制模型。本申请无需重训模型，通过定位对齐区域实现对模型对齐机制的定向抑制，从而利用被抑制的模型高效地生成高质量恶意数据。