검색으로 돌아가기
기록
一种视频超分模型的量化方法、系统、介质及设备
발명유효
1조회수
10청구항 · 6 독립항
§ Ⅰ
개요
발명자
张宇伦; 柴博文; 陈铮; 孔令和; 杨小康
IPC 분류
G06T 3/4053 (2024.01)G06T 3/4046 (2024.01)G06T 1/20 (2006.01)G06N 3/0499 (2023.01)G06N 5/04 (2023.01)G06N 3/0455 (2023.01)G06N 3/0985 (2023.01)
本申请提供一种视频超分模型的量化方法、系统、介质及设备,其中,方法,包括:确定预训练的真实世界视频超分模型;根据预训练的真实世界视频超分模型的待量化层,确定待量化层对应的整数版量化层;采用整数版量化层替换预训练的真实世界视频超分模型的待量化层,确定量化的真实世界视频超分模型;采用预设的校准数据集对量化的真实世界视频超分模型的量化参数进行校准处理和训练处理,确定完成量化的真实世界视频超分模型。通过本申请,在保留原视频超分模型的性能同时,将模型参数从高比特浮点数量化为低比特整数,减少存储占用并加快推理速度,提高模型推理效率。