CNIPA.AI
Back to Search
Dossier

一种基于双空间嵌入的无监督多模态装备实例对齐方法

InventionActive
10Claims · 1 independent
§ Ⅰ

Dossier Overview

Inventor

刘秀磊; 台启涛; 王景博; 李宁; 侯守璐; 佟强; 苗琳; 朱思豫

IPC Classification

G06F 18/22 (2023.01)G06F 18/25 (2023.01)G06F 18/214 (2023.01)G06N 3/045 (2023.01)G06N 3/042 (2023.01)G06N 3/0464 (2023.01)G06N 3/088 (2023.01)G06N 3/0895 (2023.01)G06N 5/022 (2023.01)G06F 40/30 (2020.01)G06V 10/424 (2022.01)G06V 20/70 (2022.01)G06V 10/74 (2022.01)G06N 3/048 (2023.01)

本发明公开了一种基于双空间嵌入的无监督多模态装备实例对齐方法,该方法中,利用伪种子生成模块,通过对视觉和文本等模态特征计算相似性,自动构造初步预对齐实例对,并在迭代过程中不断扩充高置信度的种子集,从而有效降低对人工标注数据的依赖,然后采用双空间嵌入策略,分别在欧几里得空间与双曲空间中进行嵌入学习,捕捉装备实例之间的局部结构关系,并对装备实例的层次结构与全局分布特性进行精准建模,再通过构建自适应特征融合模块,将两种空间的嵌入表示进行动态加权整合,并通过引入迭代约束机制,利用损失函数确保相同实例在双空间中的表示尽可能接近,而不同实例之间的距离保持足够区分度。

External Resources