CNIPA.AI
Back to Search
Dossier

基于多模态融合的审计信息提取方法、装置和电子设备

InventionActive
10Claims · 3 independent
§ Ⅰ

Dossier Overview

Inventor

孟亚敏; 李荣静; 贾晓亮; 孙常鹏; 李森; 崔霞; 冯伟; 陈艳龙; 田黇; 赵猛; 张鑫

IPC Classification

G06V 30/41 (2022.01)G06F 40/174 (2020.01)G06F 18/25 (2023.01)G06F 18/213 (2023.01)G06V 30/148 (2022.01)

本发明提供了一种基于多模态融合的审计信息提取方法、装置和电子设备,可以应用于文档处理技术领域。该方法包括:响应于接收到针对审计信息的提取请求,获取待查询字段;根据审计信息中数据的模态类型,调用与模态类型对应的编码器对审计信息进行编码,生成至少两个模态的特征向量;以待查询字段编码得到的向量为初始查询向量,调用层叠的交叉注意力模块,分别与至少两个模态的特征向量进行交互融合,以实现模态间和模态内的特征交互与对齐,输出与待查询字段相匹配的目标模态特征向量;对目标模态特征向量进行解码,从审计信息中提取与待查询字段相匹配的目标字段。

External Resources