검색으로 돌아가기
기록
一种大型语言模型自动化检索增强微调与模型替换的方法及其计算机系统
발명알 수 없음
18청구항 · 2 독립항
§ Ⅰ
개요
IPC 분류
G06N 3/096 (2023.01)G06F 16/16 (2019.01)G06F 16/14 (2019.01)G06F 16/17 (2019.01)
本发明公开了一种大型语言模型自动化检索增强微调与模型替换的方法及其计算机系统,系统主要功能包含文件存取频率监控、智能微调触发及零停机模型替换。通过数据处理模块对多元文件进行预处理与向量嵌入;检索增强生成模块依用户查询提供增强响应。自动化微调触发与执行模块实时监控文件存取热度与趋势,当达到预设条件时,能智能判断并自动触发LLM的背景微调程序。微调完成后,模型替换模块将启用,通过负载均衡器与服务路由器,采用灰度发布策略以零停机方式逐步替换旧模型。状态管理服务器会实时监控新模型性能,确保服务的持续可用性与稳定性。本发明显著提升了LLM响应的精准性、降低运营成本,并保障服务。