검색으로 돌아가기
기록
面向异构边缘设备的带宽感知模型层迁移方法及系统
발명알 수 없음
9청구항 · 4 독립항
§ Ⅰ
개요
발명자
毛莺池; 李云; 蔡知宇; 庞天富; 黄建新; 毛峰; 潘祯祥; 陈昱初; 姜钱垲; 吴昊
출원일
Aug 14, 2026
공개일
Oct 27, 2026
IPC 분류
H04L 67/1008 (2022.01)H04L 67/101 (2022.01)H04L 43/0852 (2022.01)H04L 41/147 (2022.01)G06N 5/043 (2023.01)
本发明公开一种面向异构边缘设备的带宽感知模型层迁移方法及系统,应用于流水线并行推理。模型部署阶段,根据相邻边缘设备的可用存储空间预先划分候选边界层,并将候选边界层冗余存储于相邻设备。推理过程中,采集各流水线阶段的阶段时延,根据时延波动程度自适应调整滑动窗口并获得平滑阶段时延;依据各阶段平滑时延差异、动态迁移阈值及冷却条件判断是否触发迁移。触发后,结合迁移后的预测计算时延和预测通信时延,联合确定多个流水线边界的目标模型层分配方案,并通过切换候选边界层的执行状态及数据路由完成迁移。本发明无需在线传输模型权重,能够适应链路带宽变化,降低阶段负载差异和模型推理时延。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 9개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태