一种基于方向性编码的神经网络训练系统及序列关系编码方法

本发明公开了一种基于方向性编码的神经网络训练系统及序列关系编码方法，属于神经网络序列建模技术领域。所述系统包括：方向性编码模块，包含有向关系图存储电路和基向量编码电路，输出正向基向量+1和反向基向量‑1的显式编码值；注意力增强模块，将方向距离叠加至注意力分数；方向性约束模块，根据已知有向关系对计算方向性约束损失；特征融合模块，将方向性基向量与嵌入特征融合。对应方法将有向关系编码为方向性基向量，在注意力权重计算中引入方向性偏置，通过方向性约束损失强化方向性信息利用。本发明使神经网络显式区分序列元素间的方向性关系，提升在具有方向性关系结构的任务上的建模精度。