苏州亿铸智能科技有限公司

公开了一种面向运算单元隔离架构的编译方法及系统。该方法将第一中间表示中的各操作分类为第一类操作和第二类操作，并将第一运算单元对应的每个函数中包括第二类操作的操作片段抽取为独立函数，并将第一运算单元对应的每个函数与独立函数之间由直接值传递方式转换为基于可寻址内存对象的数据传递方式，并将第一运算单元对应的每个函数中对独立函数的调用转换为携带调度信息的跨运算单元调用；将改写后的第一中间表示转换为第二中间表示，并基于第二中间表示，将第一运算单元对应的每个函数和与第二运算单元对应的独立函数分别配置于不同的目标模块，对不同的目标模块分别进行目标代码生成。该方法为源代码自动适配物理运算单元，消除了手工拆分逻辑和维护跨核数据搬运的负担，降低了开发复杂度。

本公开提出一种融合计算内核编译方法、装置、电子设备及存储介质，该方法包括：确定用于主控线程部分的第一线程束配置和用于工作函数部分的第二线程束配置，第一线程束配置为单线程束配置，第二线程束配置为多线程束配置；基于第一线程束配置编译主控线程部分得到主控代码；基于第二线程束配置编译工作函数部分得到工作代码；生成包括主控代码和工作代码的编译结果。主控代码按照第一线程束配置执行控制和调度，工作代码在主控代码的调度下按照第二线程束配置执行向量计算。由此，融合计算内核能够同时满足主控线程部分的单线程束执行要求和工作函数部分的多线程束并行需求，释放工作函数部分的多线程束并行能力，减少计算资源闲置。