一种针对深度学习模型训练的内存资源优化方法、系统、设备及介质

本发明涉及深度学习模型训练技术领域，公开一种针对深度学习模型训练的内存资源优化方法、系统、设备及介质，通过构建有向非循环计算图并建立精确的数学模型，将内存优化问题转化为约束优化问题，实现全局最优策略求解，有效降低训练计算开销；利用矩阵精细管控张量的生成、释放和交换，支持同一张量多次换入操作，显著提升GPU和主机内存的利用率；建立完善依赖约束体系避免资源冲突，保障训练正确性；引入动态内存估算，防止内存溢出；通过约束线性化方法提高求解效率，结合递归溯源算法保证解的质量；可无缝集成至主流深度学习框架，对用户透明易用，有效解决单GPU训练中的内存瓶颈问题，为大规模模型训练提供高效、稳定的内存优化支持。