検索に戻る
案件記録

基于文本增强与模态补全感知融合的多模态情感分析方法

発明有効
1閲覧数
6請求項 · 1 独立
§ Ⅰ

案件概要

発明者

甘臣权; 李妍; 祝清意; 祝烨; 赵越

IPC分類

G06F 18/241 (2023.01)G06F 18/27 (2023.01)G06F 18/213 (2023.01)G06F 18/211 (2023.01)G06F 18/25 (2023.01)G06F 40/30 (2020.01)G06N 3/0464 (2023.01)G06N 3/0442 (2023.01)G06N 3/0499 (2023.01)G06N 3/045 (2023.01)G06N 3/09 (2023.01)G06N 3/096 (2023.01)

本发明涉及一种基于文本增强与模态补全感知融合的多模态情感分析方法,属于自然语言处理领域。该方法包含以下步骤:1、利用预训练语言模型提取文本语义特征,非文本特征进行线性变换形成统一的多模态输入表示2、在预训练语言模型中注入跨模态增强模块,以文本为核心融合非文本信息,并通过受控反向交互提升模态间的对齐性3、引入模态补全模块,通过重建损失与随机模态丢弃生成缺失模态补全表示,结合卷积门控结构抑制噪声特征4、以模态补全信号为监督,引导全连接网络学习模态权重实现进行情感分类与回归的联合优化。本发明所提方法,在保持文本主导性上,通过跨模态交互与动态加权,结合模态补全机制,使得模型具有较强的情感识别能力。

外部リソース