浙江省健康云有限公司

本发明涉及大模型领域，特别涉及一种基于SwiGLU激活函数的大模型推理加速方法和一种基于SwiGLU激活函数的大模型推理加速系统。一种基于SwiGLU激活函数的大模型推理加速方法，包括：将大模型中的门控权重矩阵和向上权重矩阵进行列级交错排布，生成融合权重矩阵；所述门控权重矩阵的第i列与所述向上权重矩阵的第j列在所述融合权重矩阵中相邻存储，i，j为列索引；将输入向量与所述融合权重矩阵进行线性变换，得到第一张量；将所述第一张量经过自适应分段逼近激活函数处理，得到非线性的推理结果。本发明技术方案将SwiGLU激活函数的推理延迟降低近一半，吞吐量提升近一倍，充分发挥了硬件算力。本发明不依赖特定硬件特性，具有良好的跨平台适应性。

本发明涉及多种资源的数据查询领域，特别涉及一种核心业务资源与基础设施资源的数据查询方法及系统；一种核心业务资源与基础设施资源的数据查询方法，用于实现多种资源在多种角色下的数据跨表查询和跨领域查询，包括以下步骤：创建账号表对所述供给方角色和所述需求方角色的业务归属关系进行编码，用于获取所述核心业务资源与基础设施资源业务属性中的业务归属；创建共享标签表，数据查询通过关联所述共享标签表获取所述互不依赖的业务领域的信息，实现跨领域查询；将所述供给方的查询参数写入所述标准格式参数容器，将所述需求方的查询参数写入所述标签容器；利用所述标签容器或所述标准格式参数容器生成数据查询，实现数据跨表和跨领域查询。