検索に戻る
案件記録
基于异构硬件的人工智能加速方法及系统
発明有効
10請求項 · 4 独立
§ Ⅰ
案件概要
発明者
汪洋; 樊建勋; 赵紫峰
IPC分類
G06N 3/063 (2023.01)G06N 3/092 (2023.01)G06N 5/04 (2023.01)
本申请提供一种基于异构硬件的人工智能加速方法及系统,涉及计算机领域的技术领域,本申请通过采集异构硬件执行人工智能推理任务时的缓存未命中率、指令吞吐量及芯片功耗波形,经挖掘处理得到性能抖动值并关联人工智能推理任务对应的计算环节生成缓存敏感度,提取波形特征得到访问指数,以两者为输入通过强化学习得到映射策略,监控任务执行状态触发预定条件后,动态计算优先级调整量并执行抢占式调度,能够实现人工智能推理任务加速,提升高并发场景下响应效率与能效比。
外部リソース