検索に戻る
案件記録

大模型会话压缩方法、装置、设备、存储介质及产品

発明有効
10請求項 · 5 独立
§ Ⅰ

案件概要

IPC分類

G06F 40/123 (2020.01)G06F 40/35 (2020.01)G06N 5/04 (2023.01)H03M 7/30 (2006.01)

本申请属于数据处理技术领域,公开了一种大模型会话压缩方法、装置、设备、存储介质及产品。本申请通过响应于大模型的压缩触发指令,获取大模型处理的历史会话,然后根据历史会话对应的历史文本单元数确定会话压缩策略,再按照会话压缩策略对历史会话进行压缩处理。本申请响应于大模型的压缩触发指令,可响应于用户发送的压缩触发指令,也可以是自身生成的压缩触发指令,然后获取根据大模型处理的历史会话对应的历史文本单元数确定会话压缩策略,能够根据历史文本单元数动态确定会话压缩策略,再按照会话压缩策略对历史会话进行压缩处理,从而能够有效地进行大模型会话压缩。

外部リソース