검색으로 돌아가기
기록
人工智能模型的异构推理优化方法及系统
발명알 수 없음
10청구항 · 5 독립항
§ Ⅰ
개요
IPC 분류
G06N 5/04 (2023.01)G06N 5/022 (2023.01)G06N 3/042 (2023.01)G06N 3/045 (2023.01)G06N 3/092 (2023.01)
本发明公开了一种人工智能模型的异构推理优化方法及系统,该方法包括:根据人工智能模型的计算图构建类型化知识图谱;采用关系感知图注意力网络生成类型化节点的嵌入表示;获得各算子实例在目标硬件上的性能指标值;基于类型化节点的嵌入表示和性能指标值构建状态空间,根据类型化知识图谱生成有效动作掩码,利用有效动作掩码对优化动作集合进行筛选以形成动作空间,将状态空间中的状态作为近端策略优化算法的输入,在动作空间中搜索最优的优化动作序列;将优化动作序列应用于所述计算图以生成候选计划,并在目标硬件上执行候选计划获得人工智能模型的真实性能值。本发明可以解决知识碎片化问题、关系语义丢失、决策约束不足和工程闭环缺失问题。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 10개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태