之江实验室

本申请涉及模型训练技术领域，公开了一种模型训练方法、模型训练装置、电子设备及介质。模型训练方法包括：将待训练模型沿网络深度方向分为多个计算阶段，并将多个计算阶段分配至分布式计算集群的多个计算单元；将训练数据的每个迷你批次分为多个微批次；以及基于多个计算阶段及微批次，对微批次依序执行前向传播计算和反向传播计算；反向传播计算的步骤，包括激活值梯度计算和权重梯度计算；其中，权重梯度计算在不等待全部激活值梯度计算完成的情况下，在已获得各自对应的激活值梯度结果的基础上启动。根据该模型训练方法，能够提高分布式计算资源的利用率。

本发明提供一种学术论文复现过程提取方法、系统及装置，包括：从论文文本内容中识别出可复现声明，同时提取论文中的图形和表格生成结构化描述信息；对每条可复现声明执行从声明到原始输入的逆向追溯，识别所依赖的全部资源并进行分类，基于分类结果构建逆向依赖链，从依赖链中提取操作步骤序列并标注执行者角色类别；对不同可复现声明产生的操作步骤序列进行冗余合并、异质拆分和缺失资源构建步骤插入，按逻辑顺序排列全部步骤并建立依赖关系，生成结构化的流程描述；对每个步骤生成详细档案；对流程描述进行完整性校验并生成报告。本发明以声明驱动的逆向追溯机制实现复现流程的全自动化提取，能显著降低论文复现的人力成本和时间代价。