摩尔线程智能科技（北京）股份有限公司

输入设备控制权切换方法、装置和介质，属于输入设备管理技术领域。所述输入设备控制权切换方法包括：响应于输入设备的光标在当前第一操作系统下进入屏幕边缘的预设区域，采集所述光标在所述预设区域内的操作行为特征，所述操作行为特征用于表征光标操作者的交互意图；响应于所述操作行为特征满足预设切换条件，将所述输入设备的控制权从所述第一操作系统切换到第二操作系统，所述第二操作系统为所述第一操作系统所属设备中运行的另一操作系统。本申请在检测光标进入预设区域后，同时提取持续停留时间和运动行为特征，分析光标在预设区域内的运动稳定性或变化特性，能够准确区分用户的“精确操作行为”与“等待切换行为”。

本公开提供了一种几何流水线数据统计装置及方法，涉及计算机技术领域。该装置包括图形处理核心和显存，其中：图形处理核心用于接收绘制指令并确定绘制指令对应的目标几何流水线；目标几何流水线中的各几何处理模块用于执行绘制指令，并响应于绘制指令中的统计起始命令，将起始统计值写入显存，以及响应于绘制指令中的统计终止命令，将终止统计值写入显存；显存用于存储由起始统计值写入与终止统计值写入形成的统计结果值。本方案能够通过对统计起始命令与统计终止命令之间的绘制指令进行区间统计并直接确定统计结果值，从而避免因统计需求导致的任务拆分与串行提交。

本申请提供了一种页表预取方法、装置、设备及存储介质，涉及图形处理器领域。方法包括：获取至少一个待处理的访存命令；根据至少一个待处理的访存命令的地址信息，确定位于第一页表缓存范围之外的目标地址；其中，地址信息用于指示访存命令待访问的地址范围，第一页表缓存范围是内存管理单元MMU当前的页表缓存范围；根据目标地址，生成预取请求，预取请求用于将目标地址所属的第二页表缓存范围对应的页表数据，预取至MMU的页表缓存中。该方法提高了GPU的访存效率。

本申请涉及一种处理器页表的读写方法、装置、设备、存储介质及程序产品。所述方法包括：在第二处理器页表的条目中读取目标表项的第一取值；其中，第二处理器页表为与第一处理器页表的条目数量和条目宽度相同的镜像页表，第一处理器页表位于处理器的设备内存中，第二处理器页表位于处理器所在主机的系统内存中。采用本方法能够降低处理器页表的访问延迟。

本申请涉及一种模型精度检测方法、装置、计算机设备及可读存储介质。方法包括：在LLM进行推理过程中，在LLM生成第一数量个Token后，从LLM的预设网络层的各注意力头中，选取多个第一注意力头；根据每一第一注意力头对应的注意力权重，确定对应第一注意力头的第一熵值；根据各第一注意力头的第一熵值，确定第一精度参数；根据第一精度参数和熵值阈值，确定LLM的精度检测结果。采用本方法能够在LLM推理过程中，实时检测KV cache低精度量化导致的精度退化。

本公开提供了一种着色器机器码生成方法、图形绘制方法、装置及电子设备，涉及计算机技术领域。该着色器机器码生成方法包括：生成与目标着色器关联的主体机器码；在目标着色器对应的目标绘制调用阶段，获取目标绘制调用对应的当前图形管线状态；基于当前图形管线状态，构建与当前图形管线状态对应的目标状态机器码；将主体机器码与目标状态机器码进行拼接，生成目标绘制调用对应的着色器机器码。本方案能够降低绘制阶段的机器码生成开销，减少绘制卡顿。

本申请涉及一种模型训练资源的调度方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。所述方法包括获取目标模型在训练过程中的监测数据，将监测数据输入预测模型，得到第三时序数据，对第一时序数据和第三时序数据进行加权融合处理，得到预设监测指标在未来目标时间窗口的加权值，根据预设监测指标在未来目标时间窗口内的加权值，在未来目标时间窗口内对目标模型的训练资源进行调度处理。采用本方法能够提升目标模型在训练过程中资源消耗对应的监测指标的优化率。

本申请涉及一种存储器的温度调节方法、装置、设备、存储介质及程序产品。所述方法包括：获取目标存储器的当前温度数据；根据当前温度数据，确定至少一种流量控制策略；其中，流量控制策略用于控制目标存储器的读写请求的流量，以调节目标存储器的温度；执行至少一种流量控制策略。采用本方法能够避免在温度调节过程中的存储器性能突变。

本申请公开了一种面向大模型的词元计量方法、系统、装置及人工智能网关，属于人工智能领域。所述方法应用于人工智能网关，所述方法包括：接收模型处理请求对应的响应数据流，响应数据流是模型服务器调用大模型处理客户端的模型处理请求生成的；在响应数据流中的目标响应分片表征响应数据流结束的情况下，解析目标响应分片中的词元数量字段得到第一词元数量；第一词元数量为模型处理请求所消耗的词元数量。本申请通过在人工智能网关上部署词元的计量逻辑，可以适用于各种模型服务器，无需对客户端和模型服务器进行改动。

一种分布式计算系统的数据处理方法、装置、芯片产品及设备，涉及分布式训练技术领域。该分布式计算系统包括多个计算节点集群，多个计算节点集群分别用于处理相同的模型参数，每个计算节点集群包括多个计算节点组，获取第一跨集群通信组，第一跨集群通信组包括来自不同计算节点集群的计算节点组；根据第一跨集群通信组中计算节点组的数量，将第一跨集群通信组的训练状态数据划分成多个第一切片数据，第一跨集群通信组的训练状态数据包括在处理模型参数的过程中所使用和/或产生的数据；在第一跨集群通信组中的每个计算节点组中，存储多个第一切片数据中不同的第一切片数据。本申请实施例能够降低分布式计算系统中各个计算节点的存储压力。

本公开实施例提供了一种性能分析方法及装置、设备、介质、产品，其中，该方法包括：响应于性能分析模块初始化完成，基于目标图计算实例中记录的目标模型的计算图，对目标图计算实例中的第一可执行图对象进行重实例化，得到与性能分析模块适配的第二可执行图对象；其中，第一可执行图对象是在性能分析模块初始化之前，基于计算图进行实例化得到的；在执行第二可执行图对象的过程中，利用性能分析模块收集和分析执行过程中的性能数据。这样，能够使得性能分析模块能够完整捕获可执行图对象的后续执行过程中的执行事件，提高收集的性能数据的完整性和性能分析结果的准确性，进而为开发者进行合理的性能评估和优化提供准确完整的数据支撑。

本申请提供了一种缓存装置、缓存调试方法、处理器和电子设备，涉及计算机技术领域，以解决相关技术中在缓存的调试过程中存在调试精度低、实时性差、面积开销大、影响缓存性能等问题。该缓存装置包括控制模块、缓存模块和调试模块，控制模块，用于接收对缓存模块的访问请求，访问请求包括请求地址；将请求地址发送至调试模块；调试模块，用于在请求地址和调试模式对应的地址信息适配的情况下，生成缓存访问记录；将缓存访问记录写入预设缓冲区，预设缓冲区的缓存访问记录用于供外部获取。

本公开实施例提供了一种测试方法、电子设备、存储介质和程序产品。该测试方法包括：将预设数量的测试用例调度至至少一个目标执行目录，至少一个目标执行目录用于并行运行预设数量的测试用例；在测试用例运行过程中通过探测至少一个目标执行目录下追踪临时文件的数量，确定至少一个目标执行目录下实际并行运行的测试用例的实际数量，任意一个测试用例仅在运行过程中存在对应的追踪临时文件。该实施例方案实现了测试用例的并发运行，提高了的测试效率，实现了基于追踪临时文件的细粒度生命周期感知，解决了测试用例是否运行结束的判定难题。

本申请关于一种用于模型工具调用的处理方法、设备、介质及产品，涉及人工智能技术领域。该方法包括：获取供AI模型调用外部工具的第一工具描述文本；第一工具描述文本用于向AI模型指示工具的调用规则；基于所述AI模型预训练习得的工具相关先验知识，对第一工具描述文本进行精简处理，得到第二工具描述文本；第二工具描述文本的长度小于第一工具描述文本的长度。

本公开提供了一种时钟管理文件的生成方法、装置和系统，涉及集成电路设计技术领域。该方法包括：响应于接收到时钟与复位的需求更新信息，确定时钟管理文件中需要更新的目标子级代码和作用于目标子级代码的目标时序约束条目；其中，时钟管理文件是基于预设的需求配置文件生成的，时钟管理文件包括寄存器传输RTL代码和作用于RTL代码的时序约束条目，目标子级代码为RTL代码包括的多个子级代码中的任意一个；根据需求更新信息对目标子级代码和目标时序约束条目进行增量更新，生成更新后的时钟管理文件。该方法降低了开发重复率，使获得的时钟管理文件更符合使用需求。

本公开提供了一种多交叉事件的仿真验证方法、多交叉事件的仿真验证装置、计算机设备、计算机可读存储介质及计算机程序产品；方法包括：响应于仿真执行命令携带的参数配置，调用统一验证脚本对控制器中的多个交叉事件对应的事件组合进行仿真验证，得到仿真验证结果；其中，携带的参数配置包括仿真执行命令所指示的多个交叉事件对应的所有事件组合各自的参数配置；统一验证脚本包括控制器中的所有交叉事件对应的事件组合的验证脚本；当传入统一验证脚本的参数配置不同时，调用统一验证脚本中的不同验证脚本。

本公开实施例提供了一种数据解析及压缩方法、计算机设备、存储介质和程序产品。该数据解析方法包括：获取第一图元块对应的定宽存储转储数据中的图元块相关字段和控制字段，图元块相关字段包括状态块字段、数据负载字段以及顶点坐标字段；控制字段用于存储第一图元块的解析决策元数据；获取图元块相关字段的字段结构描述；根据字段结构描述和控制字段的解析决策元数据，对图元块相关字段进行数据解析。上述实施例方案实现了定宽存储转储数据到结构化图元信息的准确还原，实现了解析逻辑标准化，具备良好的可扩展性。

本公开的实施方式提供了计算集群的管理方法及装置、电子设备、可读存储介质及计算机程序产品，涉及电数字数据处理领域。该计算集群的管理方法包括：获取多个执行流分配规则，执行流分配规则用于限定数据移入操作、数据全收集操作、数据规约分发操作中的至少两个操作共用同一执行流或分别使用不同的执行流；基于计算集群的节点的运行信息以及计算集群所执行的计算任务的配置信息中的至少之一，从多个执行流分配规则中选择规则；以及指示节点按照所选择的规则，执行计算任务中与节点对应的操作。