№ CN121388146A発明
有効增强型跨域大语言模型上下文管理与工具调用系统
本发明公开了增强型跨域大语言模型上下文管理与工具调用系统,包括:缓存层,负责系统的高速内存操作,通过内存级向量缓存技术实现毫秒级的读写速度,利用局部敏感哈希算法优化检索过程,确保对话内容和工具层的调用记录的管理;云台层,支持多级工作组创建与管理、双向增量数据同步及基于混合检索策略的精准内容检索;工具层,工具定义和调用管理,提供动态注册更新工具定义、命令解析和参数验证机制及结果缓存和适配器框架的支持;其中,上述三个层通过VNNCoordinator协调器进行统一管理和数据流转。通过实施本发明的方法解决了现有技术中存在的上下文窗口局限性、会话间隔离等问题。
❖丽水红点天枢智能科技有限公司陈宇飞; 陈文耀§ 1/10 請求項G06F 16/335 (2019.01), G06F 16/31 (2019.01), G06F 16/38 (2019.01) +110