一种安全保持的模型微调方法、装置、电子设备及介质

本发明属于模型微调技术领域，公开了一种安全保持的模型微调方法、装置、电子设备及介质，该方法包括：获取目标领域的任务数据集和安全对齐数据集；基于任务数据集计算初始基础模型的任务梯度，基于安全对齐数据集计算初始基础模型的安全梯度；根据安全梯度和任务梯度，对初始基础模型进行更新，得到目标基础模型；计算目标基础模型与初始基础模型的参数差量，得到安全任务向量，将安全任务向量叠加至冻结的初始指令模型，得到对初始指令模型微调后的安全指令模型，初始指令模型表征与初始基础模型相对应的已经完成指令调优和安全对齐训练的模型。解决了模型微调可能引起模型安全退化的问题。