検索に戻る
案件記録
基于循环神经网络的键值缓存管理方法及系统
発明不明
10請求項 · 4 独立
§ Ⅰ
案件概要
発明者
李诚; 刘杰雄; 陈逸轩
出願日
Jul 30, 2026
公開日
Oct 27, 2026
IPC分類
G06F 9/50 (2006.01)G06N 3/044 (2023.01)G06N 3/0442 (2023.01)G06N 3/045 (2023.01)G06N 3/08 (2023.01)G06N 5/01 (2023.01)
本申请涉及一种基于循环神经网络的键值缓存管理方法及系统,其包括构建基于循环神经网络的访问模式预测器,根据大语言模型推理过程中KV缓存块的历史访问状态序列预测各缓存块在未来窗口内的访问概率;基于所述访问概率执行新生成缓存块的准入决策,将其分配至GPU显存或CPU内存;当GPU显存容量超限时,根据预测访问概率从低到高选取淘汰对象并迁移至CPU内存;根据被淘汰时的概率分数通过单调保留时长映射函数确定各块在CPU内存中的差异化保留步数,超期则释放;在推理服务运行过程中持续采集访问轨迹数据,对预测器进行在线增量更新。
ログインして全文を読む
請求項 1 を表示しています。無料登録で全 10 項の請求項、明細書全文、全図面、翻訳、法的状態を閲覧できます。
- 全請求項
- 技術分野
- 背景技術
- 発明の概要
- 図面の説明
- 発明を実施するための形態
外部リソース