返回搜索
档案
一种生成上下文自适应压缩方法、系统及计算机程序
发明专利未知
10权利要求 · 3 独立
§ Ⅰ
卷宗概要
IPC 分类
G06F 16/3329 (2025.01)G06F 16/334 (2025.01)G06F 40/30 (2020.01)G06F 40/284 (2020.01)G06F 40/211 (2020.01)G06N 5/04 (2023.01)
本发明涉及人工智能技术领域,公开了一种生成上下文自适应压缩方法、系统及计算机程序。获取用户查询、候选文档集合及大语言模型的上下文词元预算,解析用户查询形成查询事项及证据需求,将候选文档划分为候选证据单元并建立证据对应关系;在待压缩上下文超过词元预算时,通过假定移出判断候选证据单元的释放资格,按待释放词元量逐次移出,并在每次移出后仅对受影响的候选证据单元重新判断;安全可释放资源不足时细化不可释放候选证据单元,直至形成满足词元预算的目标上下文并输入大语言模型。本发明能够在保持查询所需证据的同时降低上下文资源占用及重复处理范围。
登录后阅读全文
已显示权利要求 1。免费注册即可阅读全部 10 项权利要求、说明书全文、全部附图、翻译和法律状态。
- 全部权利要求
- 技术领域
- 背景技术
- 发明内容
- 附图说明
- 具体实施方式