검색으로 돌아가기
기록
数据处理方法、电子设备、存储介质及芯片系统
발명유효
11청구항 · 5 독립항
§ Ⅰ
개요
발명자
陈映谦; 费志杰
IPC 분류
G06F 9/50 (2006.01)G06F 9/48 (2006.01)G06N 3/0455 (2023.01)G06N 5/04 (2023.01)
本申请公开了一种数据处理方法、电子设备、存储介质及芯片系统。该方法应用于部署有目标模型的第一处理器,以及部署有草稿模型的第二处理器的电子设备,包括:在多任务推理的场景中,针对待处理的两个任务(即第一输入文本和第二输入文本),通过设置位于第一处理器上的目标模型运行第一输入文本的解码阶段(即N轮第一迭代中的至少一轮第一目标解码操作)的处理时间,与位于第二处理器上的草稿模型运行第二输入文本的解码阶段(即M轮第二迭代中的至少一轮第二草稿解码操作)的处理时间存在重叠时间,实现了目标模型的解码阶段与草稿模型的解码阶段并行执行的目的,可以降低数据处理时延、提高数据处理效率,从而提升用户使用体验。