山西云博共创数智技术有限公司

一种基于边缘计算的分级检索增强问答方法及系统，包括以下步骤：解析单元，用于解析接收到的问题查询请求，在本地预构建的多个检索模式中确定目标检索模式；检索单元，用于基于确定的目标检索模式，在本地知识库中执行对应的检索链路以获取候选知识结果；构建单元，用于获取本地缓存的上下文会话历史，并将所述上下文会话历史、所述候选知识结果以及所述问题查询请求进行融合，构建目标提示词；推理单元，用于将所述目标提示词输入至大语言模型进行推理，生成并输出针对所述问题查询请求的目标答案。本发明可快速完成检索，彻底消除了数据泄漏风险，根据不同知识库的规模和查询难度，自由调节检索策略及召回数量。