검색으로 돌아가기
기록
基于多模态融合的审计信息提取方法、装置和电子设备
발명유효
4조회수
10청구항 · 3 독립항
§ Ⅰ
개요
출원인
国网天津市电力公司信息通信公司; 国网天津市电力公司; 国家电网有限公司
발명자
孟亚敏; 李荣静; 贾晓亮; 孙常鹏; 李森; 崔霞; 冯伟; 陈艳龙; 田黇; 赵猛; 张鑫
IPC 분류
G06V 30/41 (2022.01)G06F 40/174 (2020.01)G06F 18/25 (2023.01)G06F 18/213 (2023.01)G06V 30/148 (2022.01)
本发明提供了一种基于多模态融合的审计信息提取方法、装置和电子设备,可以应用于文档处理技术领域。该方法包括:响应于接收到针对审计信息的提取请求,获取待查询字段;根据审计信息中数据的模态类型,调用与模态类型对应的编码器对审计信息进行编码,生成至少两个模态的特征向量;以待查询字段编码得到的向量为初始查询向量,调用层叠的交叉注意力模块,分别与至少两个模态的特征向量进行交互融合,以实现模态间和模态内的特征交互与对齐,输出与待查询字段相匹配的目标模态特征向量;对目标模态特征向量进行解码,从审计信息中提取与待查询字段相匹配的目标字段。