一种基于正交约束黎曼流形和双侧子空间解耦的持续学习低秩微调方法

本发明公开一种基于正交约束黎曼流形和双侧子空间解耦的持续学习低秩微调方法。该方法在冻结预训练模型参数的基础上，将任务增量表示为，以分离输出子空间、输入子空间及方向能量；分别构建历史任务的双侧正交子空间，并将当前任务关于A和B的梯度投影至对应历史子空间的正交补空间；进一步将投影梯度映射至Grassmann流形或Stiefel流形的切空间，利用优化器更新并通过QR分解回缩保持基矩阵正交。任务训练完成后，固定当前低秩参数并更新历史子空间，直至完成全部任务。该方法能够降低跨任务更新干扰，缓解灾难性遗忘，并减少训练、存储及推理开销。