검색으로 돌아가기
기록
文本视频多模态语义检索方法、装置、设备以及存储介质
발명유효
10청구항 · 5 독립항
§ Ⅰ
개요
출원인
南方电网人工智能科技有限公司
발명자
李轩昂; 吴石松; 陈柔伊; 徐键; 董召杰; 冯勤宇; 张鹏飞; 李阳昊; 庄胜尧; 梁凌宇; 赵必美; 赵翔宇; 郑桦; 陈骞; 李成
IPC 분류
G06F 16/732 (2019.01)G06F 16/783 (2019.01)G06V 20/40 (2022.01)G06V 10/44 (2022.01)G06V 10/62 (2022.01)G06N 3/045 (2023.01)G06N 3/084 (2023.01)
本申请涉及一种文本视频多模态语义检索方法、装置、设备以及存储介质。方法包括:获取视频集以及文本查询;将视频集中各视频输入至预训练的视觉编码器,获得视觉特征序列;将文本查询输入至预训练的文本编码器,获得查询特征向量;将视觉特征序列输入至层级式时间建模模块,获得全局视频表征以及时序感知特征序列;将时序感知特征序列输入至时序语义记忆网络模块的控制器,识别视频中的各关键事件片段;生成关键事件表征,获得关键事件表征集合;获得与查询特征向量相应的目标事件表征;计算文本查询与各视频之间的相似度得分;将相似度得分最高的视频确定为文本查询的检索视频,提高了文本视频检索的准确率。