面向大模型动作块连续输出的推理加速电路、系统及芯片

本发明公开了一种面向大模型动作块连续输出的推理加速电路、系统及芯片，属于电路与系统技术领域。本发明建立了延迟预测触发与边界切换机制，通过预测调度控制器根据下一动作块准备时间和动作控制周期确定低水位阈值，规划下一动作块准备，并在当前块完成后且目标存储体处于就绪状态时切换读取存储体，从而减少动作块边界等待并避免当前动作块被提前打断。与此同时，本发明通过至少两个存储体分离动作块写入与动作步读取，使动作块突发生成过程不直接阻塞下游按控制周期读取动作步，提高动作输出连续性。基于此，本发明能够将多模态大模型的动作块突发输出转化为连续周期动作流，同时避免下一动作块及目标缓冲存储体无条件过早进入驻留状态。