一种数据存储的优化方法及系统

本发明涉及一种数据存储的优化方法及系统，包括步骤S1、通过checkpoint的方式，记录一批的正在训练的训练数据和训练状态数据，将整个训练过程的训练数据进行备份，并异步上传至持久层的数据源中；步骤S2、再每隔一段设定的训练时间，都将自动生成的训练状态数据异步上传至持久层的数据源中；步骤S3、存在异步的任务会自动针对数据源中checkpoint的训练数据与本次的训练状态数据进行合并，生成一个完整的checkpoint文件；步骤S4、当系统故障时，直接加载合并后的数据中较为实时的checkpoint文件完整数据。采用划分更小的时间片来存储训练状态数据，大大减少checkpoint的生成量，并且能够更细粒度话的更新checkpoint的数据，能够更加精准的进行训练数据的备份，提高整体训练效率。