多粒度稀疏注意力的隐式图变换器模型训练方法及系统

本发明提供了一种多粒度稀疏注意力的隐式图变换器模型训练方法及系，其中方法包括：获取图数据并进行动态子图划分，构建图数据集，利用图数据集，设计一种多粒度稀疏注意力机制，该机制通过动态子图划分，结合用于局部信息聚合的子图内稀疏注意力和用于全局信息交换的、基于重要性采样的子图间稀疏注意力。本发明将传统的迭代优化思想与深度网络模型结合，通过求解单层网络的均衡状态来替代堆叠多层网络，显著降低了模型的计算复杂度、参数量和内存占用，达到了对节点数的线性计算复杂度，同时高效地捕获了图数据中的局部与长程依赖关系，提高了图处理任务的性能与效率。