基于头部的符元剪枝方法与电子装置

本公开提出符元剪枝方法和电子装置。此方法包括：计算对应于多个头部的多个查询矩阵以及多个键矩阵；对于每个头部，根据对应的查询矩阵以及键矩阵计算注意力矩阵，此注意力矩阵对应至多个符元且包括多个注意力值；对于每个头部，根据对应的注意力值计算每个符元的所对应的重要性，并根据重要性决定至少一个被剪枝符元，其中第一头部的被剪枝符元不相同于第二头部的被剪枝符元；以及在后续计算中省略头部各自对应的被剪枝符元。因此可以减少计算量。