검색으로 돌아가기
기록
基于成本感知的多大模型动态路由与自动降级方法及系统
발명알 수 없음
10청구항 · 2 독립항
§ Ⅰ
개요
IPC 분류
G06F 11/07 (2006.01)G06F 9/48 (2006.01)G06N 3/006 (2023.01)
本发明公开了一种基于成本感知的多大模型动态路由与自动降级方法及系统。AI智能体通过统一API入口发送模型调用请求,仅携带目标模型名称,无需感知后端模型供应商信息。路由引擎查询多渠道池,按照编码成本偏好的优先级参数自动匹配最优可用渠道。当首选渠道失败时,执行三级降级链:同模型不同供应商渠道切换、替代模型切换、知识库兜底。本发明支持渠道配置的零感知热配置、统一Token计量和健康检查自动恢复,可实现智能体与模型供应商的完全解耦、成本降低54%‑77%、渠道故障20秒内自动恢复。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 10개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용