返回搜索
档案
基于循环神经网络的键值缓存管理方法及系统
发明专利未知
10权利要求 · 4 独立
§ Ⅰ
卷宗概要
IPC 分类
G06F 9/50 (2006.01)G06N 3/044 (2023.01)G06N 3/0442 (2023.01)G06N 3/045 (2023.01)G06N 3/08 (2023.01)G06N 5/01 (2023.01)
本申请涉及一种基于循环神经网络的键值缓存管理方法及系统,其包括构建基于循环神经网络的访问模式预测器,根据大语言模型推理过程中KV缓存块的历史访问状态序列预测各缓存块在未来窗口内的访问概率;基于所述访问概率执行新生成缓存块的准入决策,将其分配至GPU显存或CPU内存;当GPU显存容量超限时,根据预测访问概率从低到高选取淘汰对象并迁移至CPU内存;根据被淘汰时的概率分数通过单调保留时长映射函数确定各块在CPU内存中的差异化保留步数,超期则释放;在推理服务运行过程中持续采集访问轨迹数据,对预测器进行在线增量更新。
登录后阅读全文
已显示权利要求 1。免费注册即可阅读全部 10 项权利要求、说明书全文、全部附图、翻译和法律状态。
- 全部权利要求
- 技术领域
- 背景技术
- 发明内容
- 附图说明
- 具体实施方式