検索に戻る
案件記録
基于知识蒸馏的设备端动物声音识别模型训练方法及系统
発明有効
1閲覧数
10請求項 · 2 独立
§ Ⅰ
案件概要
発明者
唐宇; 蒙向军; 张少峰; 吴凯华; 唐林; 孙斌
IPC分類
G06N 3/096 (2023.01)G06N 3/045 (2023.01)G06N 3/042 (2023.01)G06F 18/20 (2023.01)G06F 18/213 (2023.01)G06F 18/25 (2023.01)G06F 18/214 (2023.01)G06N 5/04 (2023.01)G06N 5/022 (2023.01)G10L 17/04 (2013.01)G10L 17/18 (2013.01)G10L 17/26 (2013.01)
本发明提供一种基于知识蒸馏的设备端动物声音识别模型训练方法及系统,首先对预训练的动物声音识别教师模型执行知识动态拆解处理,得到包含基础特征、关联决策和适配迁移知识模块的分层知识模块集合;接着获取设备端实时资源状态信息,构建设备端适配的学生模型基础结构;然后构建分层关联的蒸馏约束规则形成分层蒸馏约束机制;再将动物声音训练数据集输入教师模型和学生模型基础结构,结合分层蒸馏约束机制执行动态蒸馏训练,获取知识传递效率数据及模型参数变化序列;最后基于上述数据对学生模型基础结构参数进行动态收敛调整,得到设备端动物声音识别模型。本发明提升了设备端模型训练质量和效率。
外部リソース