视觉词元自适应压缩方法及装置、电子设备

本公开涉及一种视觉词元自适应压缩方法及装置、电子设备，该方法包括：基于注意力机制，获取待处理视觉词元各自对目标任务的响应强度；基于所述响应强度，将所述待处理视觉词元划分成主导词元和剩余词元；压缩所述剩余词元，得到多个上下文词元；控制大语言模型处理所述主导词元以及所述上下文词元，得到推理结果。这样，在对视觉词元压缩的过程中，可以适配图像数据中各视觉词元的语义分布、以及目标任务，以自适应地选择被压缩的剩余词元。降低出现针对目标任务误删重要信息或保留冗余信息的概率，在不降低推理结果准确性的前提下，提高大语言模型的推理效率。