검색으로 돌아가기
기록
模型压缩方法、部署方法、装置、设备和存储介质
발명유효
3조회수
10청구항 · 5 독립항
§ Ⅰ
개요
발명자
陈钧; 曾宪章; 王辉
IPC 분류
G06N 3/0495 (2023.01)G06N 3/082 (2023.01)G06N 3/096 (2023.01)G06V 10/82 (2022.01)G06N 3/084 (2023.01)G06N 3/10 (2006.01)G06F 8/60 (2018.01)
本公开提供一种模型压缩方法、部署方法、装置、设备和存储介质。其中,一种模型压缩方法包括:获取待压缩的模型;基于预设的约束条件,对所述待压缩的模型进行约束训练,得到训练后模型,其中,所述约束条件满足使训练后模型的权重值处于设定权重分布范围;量化所述训练后模型,以将训练后模型映射为设定位宽的模型,得到压缩后模型。本公开通过在模型训练时,使模型中各权重值处于设定权重分布范围,减小在量化是因缩放系数过大导致的精度下降的影响,提高压缩后模型的性能,进而使得计算能力受限的设备能够部署性能更优的模型。