菲鱼智能科技（苏州）有限公司

本申请公开了一种人工智能推理调度方法、系统及电子设备，涉及嵌入式人工智能技术领域，本申请先实时融合车辆视觉与传感器场景信息完成帧级场景分类，再依托连续帧确认机制稳定更新场景状态，依据实时场景状态动态调配NPU多计算核心至匹配推理任务并并行执行检测，以此解决嵌入式AI静态资源分配、单帧判定带来的缺陷。依托场景实时感知实现NPU计算核心按需动态分配，消除固定任务绑定造成的核心闲置问题，提升硬件资源利用效率；连续帧校验过滤光照、遮挡等单帧干扰，减少场景状态误切换；分场景匹配专属推理任务并行运算，精准适配车载有人、无人场景差异化检测需求，同步保障多任务推理响应速度与场景判断稳定性。

本申请公开了一种知识检索多层次正交容错降级方法、系统、设备及介质，涉及计算机技术领域，本申请将检索增强生成系统的嵌入层、向量存储层、缓存层、大语言模型接口层设为独立正交降级链，前三层配置对外接口、输出数据格式、调用语义完全一致的主方案与降级方案，大语言模型接口层配套提供商无关的统一错误分类与熔断器保护。各层独立开展周期性健康检测，依据预设的降级触发阈值、恢复阈值自主完成降级、恢复切换，恢复时执行数据迁移或预热操作。各层级降级行为完全隔离，单层故障切换降级方案不会改动其余层级主方案，根除降级级联现象，层级切换对上层业务透明，保障检索服务不间断，可按需适配组件特性灵活配置容错规则。