原始名称记载: 紫光恒越技术有限公司; 北京紫光智算信息技术有限公司

本申请提供一种基于异构硬件的人工智能加速方法及系统，涉及计算机领域的技术领域，本申请通过采集异构硬件执行人工智能推理任务时的缓存未命中率、指令吞吐量及芯片功耗波形，经挖掘处理得到性能抖动值并关联人工智能推理任务对应的计算环节生成缓存敏感度，提取波形特征得到访问指数，以两者为输入通过强化学习得到映射策略，监控任务执行状态触发预定条件后，动态计算优先级调整量并执行抢占式调度，能够实现人工智能推理任务加速，提升高并发场景下响应效率与能效比。

本发明属于人工智能领域，具体涉及了基于动态知识库与多模态一致性约束的大模型幻觉抑制方法、系统及设备，旨在解决现有大语言模型生成内容时易出现事实性幻觉的问题。该方法包括：构建并动态维护多源异构数据的知识库，并为库中每条知识计算一个融合了数据源权威性、知识时效性和多模态一致性的动态可信度权重；在模型生成内容时，根据当前上下文从知识库中检索高可信度的相关知识；在模型的解码阶段，设计一个约束损失项，通过计算当前生成内容与检索知识在特征空间的相似度，对生成概率进行实时调整。本发明通过引入动态可信度评估的多模态知识库，并在生成解码环节施加实时一致性约束，显著提升了生成内容的准确性和可靠性。