검색으로 돌아가기
기록
人工智能大模型的算子级性能归因方法及系统
발명알 수 없음
19청구항 · 5 독립항
§ Ⅰ
개요
IPC 분류
G06F 11/34 (2006.01)G06N 5/04 (2023.01)
本发明公开了一种人工智能大模型的算子级性能归因方法及系统,该方法包括:生成各算子实例在源硬件和目标硬件的性能画像,并测量人工智能大模型在源硬件的端到端真实性能值和在目标硬件的端到端真实性能值;构建反事实联盟;根据性能画像构建代理函数,利用端到端真实性能值对代理函数进行端点校准,获得校准后的代理函数;对全部算子实例进行多次随机排序,每次按排序顺序在反事实联盟中逐个加入算子实例,基于校准后的代理函数计算每次加入算子实例前后反事实联盟的端到端性能估计值的变化量,并作为被加入算子实例的边际贡献;对每个算子实例的所有边际贡献进行统计处理,得到每个算子实例的性能贡献估计值。本发明可有效实现算子级性能归因。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 19개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태