元の名称記録: 杭州字节方舟科技有限公司

本发明公开了基于Hadamard分解低秩量化的大语言模型压缩方法、系统和装置，用于提升大语言模型推理效率，降低显存占用和计算成本，方法包括：对后训练数据进行随机采样；对模型的参数矩阵进行低秩分解得到低秩矩阵；对低秩矩阵分别进行GPTQ量化和Hessian逆矩阵量化得到参数矩阵的低秩量化逼近；通过交替梯度下降Hadamard分解和量化对原参数与其低秩量化逼近的差进行逼近与量化，得到偏差低秩量化逼近；将参数矩阵的低秩量化逼近和偏差低秩量化逼近相加替换原模型参数，并在后训练数据集上进行训练，得到训练好的压缩模型。本发明系统采用适用于云端推理、边缘计算及智能客服、金融、政务、医疗、教育等行业场景。

本发明公开了一种基于多模态LLM的跨媒介数据融合分析方法及系统，方法包括：接收来自不同来源的包含文本数据、图像数据和音频数据的多模态数据，并将多模态数据输入到多模态LLM模型的统一编码器中进行联合编码，生成具有跨模态关联的语义特征表示；将语义特征表示输入到多模态LLM模型的跨模态对齐模块，生成空间一致的跨媒介嵌入表示；利用多模态LLM模型中的分层融合网络对跨媒介嵌入表示进行多尺度特征交互，生成语义增强的统一融合特征；将统一融合特征输入到多模态LLM模型的多任务预测头中，输出具有跨模态一致性的综合分析结果。利用本发明实施例，能够提升跨模态分析的准确性、一致性与认知深度。

本发明公开了一种基于领域微调LLM的专业数据解析方法及系统，方法包括：接收用户输入的专业领域数据解析任务需求，基于任务需求构建领域增强语料集合；利用领域增强语料集合对基础LLM模型进行领域适应性微调，生成领域专用LLM解析模型；将待解析的专业领域数据输入至领域专用LLM解析模型，生成结构化特征表示；利用领域规则约束对结构化特征表示进行语义校验和逻辑完整性分析，生成符合领域知识体系的初步解析结果；对初步解析结果进行质量评估和置信度筛选，输出最终的结构化数据解析结果。利用本发明实施例，能够提升LLM对专业数据的理解深度与解析精度，提升专业数据处理的准确性、可靠性和结构化水平。