CNIPA.AI
返回搜索
档案

基于循环神经网络的键值缓存管理方法及系统

发明专利未知
10权利要求 · 4 独立
§ Ⅰ

卷宗概要

发明人

李诚; 刘杰雄; 陈逸轩

申请日

Jul 30, 2026

公开日

Oct 27, 2026

IPC 分类

G06F 9/50 (2006.01)G06N 3/044 (2023.01)G06N 3/0442 (2023.01)G06N 3/045 (2023.01)G06N 3/08 (2023.01)G06N 5/01 (2023.01)

本申请涉及一种基于循环神经网络的键值缓存管理方法及系统,其包括构建基于循环神经网络的访问模式预测器,根据大语言模型推理过程中KV缓存块的历史访问状态序列预测各缓存块在未来窗口内的访问概率;基于所述访问概率执行新生成缓存块的准入决策,将其分配至GPU显存或CPU内存;当GPU显存容量超限时,根据预测访问概率从低到高选取淘汰对象并迁移至CPU内存;根据被淘汰时的概率分数通过单调保留时长映射函数确定各块在CPU内存中的差异化保留步数,超期则释放;在推理服务运行过程中持续采集访问轨迹数据,对预测器进行在线增量更新。

登录后阅读全文

已显示权利要求 1。免费注册即可阅读全部 10 项权利要求、说明书全文、全部附图、翻译和法律状态。

  • 全部权利要求
  • 技术领域
  • 背景技术
  • 发明内容
  • 附图说明
  • 具体实施方式