検索に戻る
案件記録

基于三级联索引的Token-级对话召回方法及系统

発明有効
1閲覧数
5請求項 · 2 独立
§ Ⅰ

案件概要

発明者

刘华鑫; 吉小燕

IPC分類

G06F 16/334 (2025.01)G06F 16/31 (2019.01)G06F 16/338 (2019.01)G06F 16/3329 (2025.01)G06F 40/30 (2020.01)G06N 5/04 (2023.01)

本发明公开了基于三级联索引的Token‑级对话召回方法及系统,包括以下步骤:S1、获取历史对话中的每个Token,采用大语言模型对历史对话中的每个Token分别生成语义向量,涉及大语言模型的语义检索技术领域,本申请针对现有大语言模型历史对话召回技术,以单个Token为索引对象,通过语义向量表征Token在对话语境中含义,可直接定位超长对话中用户所需的特定Token,提高了Token的召回精准度,缓解了KV‑Cache或张量块索引片段级的索引对象为对话片段或句子级数据无法还原原始Token的语义信息导致召回结果精准度下降的问题。

外部リソース