№ CN122985400A発明
不明基于循环神经网络的键值缓存管理方法及系统
本申请涉及一种基于循环神经网络的键值缓存管理方法及系统,其包括构建基于循环神经网络的访问模式预测器,根据大语言模型推理过程中KV缓存块的历史访问状态序列预测各缓存块在未来窗口内的访问概率;基于所述访问概率执行新生成缓存块的准入决策,将其分配至GPU显存或CPU内存;当GPU显存容量超限时,根据预测访问概率从低到高选取淘汰对象并迁移至CPU内存;根据被淘汰时的概率分数通过单调保留时长映射函数确定各块在CPU内存中的差异化保留步数,超期则释放;在推理服务运行过程中持续采集访问轨迹数据,对预测器进行在线增量更新。
❖昆仑元人工智能技术(上海)有限公司李诚; 刘杰雄; 陈逸轩Oct 27, 2026§ 4/10 請求項G06F 9/50 (2006.01), G06N 3/044 (2023.01), G06N 3/0442 (2023.01) +3