検索に戻る
案件記録

一种用于大型语言模型的记忆优化系统

発明有効
10請求項 · 1 独立
§ Ⅰ

案件概要

発明者

杨劲松; 时天宇; 夏映辉; 王骏; 范和华; 邹鹏飞

IPC分類

G06N 5/04 (2023.01)G06N 5/022 (2023.01)G06F 40/295 (2020.01)G06F 40/30 (2020.01)G06N 3/045 (2023.01)G06N 3/0455 (2023.01)G06N 3/092 (2023.01)G06N 3/094 (2023.01)

本发明公开了一种用于大型语言模型的记忆优化系统,包括:动态语义记忆建模模块,通过双向Transformer生成上下文感知记忆向量,支持增量更新至1亿条实体记录;自适应记忆资源调度模块,基于推理负载动态分配记忆池分区,工作区存高频记忆,归档区启用量化压缩;记忆衰减与增强模块,采用双因子衰减机制,对高价值记忆执行增强存储并定期修剪;跨场景记忆迁移模块,通过领域适配器和对比学习实现跨领域适配;记忆冲突消解模块,基于规则库识别冲突,采用多因素投票机制消解矛盾。本发明提升记忆保留完整性与检索效率,优化资源利用,增强跨场景适配能力,消解记忆冲突,提升模型可靠性。

外部リソース