検索に戻る
案件記録

基于循环神经网络的键值缓存管理方法及系统

発明不明
10請求項 · 4 独立
§ Ⅰ

案件概要

発明者

李诚; 刘杰雄; 陈逸轩

出願日

Jul 30, 2026

公開日

Oct 27, 2026

IPC分類

G06F 9/50 (2006.01)G06N 3/044 (2023.01)G06N 3/0442 (2023.01)G06N 3/045 (2023.01)G06N 3/08 (2023.01)G06N 5/01 (2023.01)

本申请涉及一种基于循环神经网络的键值缓存管理方法及系统,其包括构建基于循环神经网络的访问模式预测器,根据大语言模型推理过程中KV缓存块的历史访问状态序列预测各缓存块在未来窗口内的访问概率;基于所述访问概率执行新生成缓存块的准入决策,将其分配至GPU显存或CPU内存;当GPU显存容量超限时,根据预测访问概率从低到高选取淘汰对象并迁移至CPU内存;根据被淘汰时的概率分数通过单调保留时长映射函数确定各块在CPU内存中的差异化保留步数,超期则释放;在推理服务运行过程中持续采集访问轨迹数据,对预测器进行在线增量更新。

ログインして全文を読む

請求項 1 を表示しています。無料登録で全 10 項の請求項、明細書全文、全図面、翻訳、法的状態を閲覧できます。

  • 全請求項
  • 技術分野
  • 背景技術
  • 発明の概要
  • 図面の説明
  • 発明を実施するための形態

外部リソース