검색으로 돌아가기
기록

一种基于伪令牌ID的大语言模型密文缓存处理方法、设备和介质

발명알 수 없음
10청구항 · 3 독립항
§ Ⅰ

개요

발명자

曹克丹; 董霖; 姚建明; 尹雅露

출원일

Jul 31, 2026

공개일

Oct 20, 2026

IPC 분류

G06F 16/2455 (2019.01)G06F 21/60 (2013.01)G06F 21/62 (2013.01)G06N 5/04 (2023.01)

本发明公开一种基于伪令牌 ID 的大语言模型密文缓存处理方法,包括:获取原始文本加密后生成的密文,所述密文为适配大语言模型输入的嵌入向量;通过预设哈希算法对所述嵌入向量进行哈希运算,生成固定格式的伪令牌ID;将所述伪令牌ID作为大语言模型键值缓存的缓存键,关联密文嵌入向量存储至缓存中,实现密文的缓存复用。本发明通过伪令牌ID构建密文与缓存机制的适配桥梁,解决了密文嵌入向量缺乏标准键结构、无法复用缓存的技术痛点,有效减少重复计算开销,降低硬件资源消耗,显著提升加密场景下大语言模型的推理响应速度,适配多轮对话、高频查询等高频交互需求。

로그인하고 전문 읽기

청구항 1을 표시했습니다. 무료 가입하면 전체 10개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.

  • 전체 청구항
  • 기술 분야
  • 배경 기술
  • 발명의 내용
  • 도면 설명
  • 발명의 실시 형태