CNIPA.AI
검색으로 돌아가기
기록

一种CUDA算力切分方法、装置、设备及存储介质

발명유효
10청구항 · 4 독립항
§ Ⅰ

개요

IPC 분류

G06F 9/50 (2006.01)

本申请公开了一种CUDA算力切分方法、装置、设备及存储介质,涉及计算机技术领域,该方法包括以下步骤:基于各用户对应的用户名分配对应的预设显存配额;当任一用户启动AI程序并请求分配显存资源时,对用户对应的已使用显存总量进行实时统计,当已使用显存总量超过对应的预设显存配额,拒绝用户后续发送的显存资源分配请求。本申请通过对显存资源进行预先分配并对使用情况进行实时统计,对资源进行合理分配和隔离,实现多用户对显卡资源的合理并行使用,满足实际需求。