검색으로 돌아가기
기록
基于近似计算与数据分区的DLRM模型轻量化方法
발명유효
9청구항 · 1 독립항
§ Ⅰ
개요
발명자
陈小柏; 杨鑫涛; 尹捷明
IPC 분류
G06F 18/23213 (2023.01)G06F 18/214 (2023.01)G06N 3/0499 (2023.01)G06N 5/04 (2023.01)G06N 3/048 (2023.01)G06N 3/084 (2023.01)
本申请属于人工智能与神经网络推荐系统优化领域,公开了一种基于近似计算与数据分区的DLRM模型轻量化方法,包括:对原始嵌入表进行聚类压缩,形成最优聚类嵌入表集合,对原始嵌入表及最优聚类嵌入表集合中的各个候选嵌入表,分别根据原始嵌入表中向量的访问频率与候选嵌入表中聚类中心的访问频率进行重排,并构建映射表,对原始嵌入表和聚类后嵌入表施行混合精度量化,生成嵌入参数集合,对MLP施行和ReLU零值元素跳过计算,仅对非零元素执行乘加操作,DLRM模型的交互层轻量化,调整重训练根据不同策略对MLP权重及嵌入表进行调整并重训练。本申请能够在保持推荐精度的同时,有效降低模型存储需求与计算复杂度,提升推理效率,实现深度学习推荐模型的轻量化。