CNIPA.AI
검색으로 돌아가기
기록

GPU显存与扩展存储间的数据迁移与同步方法、系统和介质

발명유효
6조회수
10청구항 · 3 독립항
§ Ⅰ

개요

발명자

黄少娃; 郭威成; 刘政宏; 翁友民; 邱创隆; 黄旭彪; 王瑜琨

IPC 분류

G06F 9/50 (2006.01)G06F 16/27 (2019.01)G06F 16/2455 (2019.01)G06T 1/20 (2006.01)

本发明首先,根据模型结构及训练迭代信息划分模型数据块,并基于预加载策略将数据块智能预迁至扩展区或显存区;其次,在训练过程中实时监控GPU数据访问请求,动态生成反映数据访问频率的热度信息;然后,定期将热度信息与多级阈值对比,根据对比结果生成迁移指令并按优先级加入指令队列;最后,在GPU计算空闲时段异步执行迁移操作,包括将移出数据回写至扩展存储并释放显存空间,以及通过DMA将数据迁入显存空闲区域;本发明通过热度感知与动态阈值调度机制,提升显存利用效率与训练连续性,有效支持大模型本地化训练,降低算力门槛与数据泄露风险。