검색으로 돌아가기
기록
基于跨模态激活感知的多模态大语言模型动态剪枝方法、系统及存储介质
발명알 수 없음
10청구항 · 4 독립항
§ Ⅰ
개요
IPC 분류
G06N 3/082 (2023.01)G06N 5/04 (2023.01)G06N 3/0495 (2023.01)G06F 18/15 (2023.01)G06F 18/25 (2023.01)G06F 17/16 (2006.01)
本发明提供了一种基于跨模态激活感知的多模态大语言模型动态剪枝方法、系统及存储介质,所述方法依托多领域混合校准集与模态特征解耦机制,完成文本与视觉异构特征的分离统计、对数平滑归一化及跨模态公平融合;结合自适应模态平衡因子与变异系数冗余量化,实现权重重要性精准评估与层级稀疏度动态分配,并通过掩码与哈达玛积运算完成单权重非结构化剪枝。本发明规避了传统多模态剪枝中模态量级失衡、层级稀疏分配不准、算力开销过高及泛化能力衰减的缺陷,提升了高稀疏度下模型性能保留率与压缩效率,保障多模态对齐与推理能力完整性,满足资源受限设备上多模态大模型轻量化、低延迟、高性能的部署需求。