多模态数据的推理方法、装置、设备、介质及程序产品

本申请公开了一种多模态数据的推理方法、装置、设备、介质及程序产品，涉及人工智能技术领域。该方法包括：获取多模态数据的第一token序列；根据尾token获取第一token序列中的非文本token的指标参数，指标参数指示非文本token对于多模态数据的推理结果的准确率的重要程度；按照指标参数对第一token序列中的非文本token进行压缩处理，得到第二token序列；基于第二token序列进行推理，得到多模态数据的推理结果。该方法通过压缩非文本token数量的方式，减小了第二token序列的长度，使得基于第二token序列进行推理的复杂度降低，实现了多模态数据的加速推理。