検索に戻る
案件記録
一种大模型长文本算力优化与幻觉抑制分层调度方法
発明不明
9請求項 · 1 独立
§ Ⅰ
案件概要
IPC分類
G06F 9/50 (2006.01)G06F 18/2433 (2023.01)G06F 18/25 (2023.01)G06F 18/22 (2023.01)G06N 3/0455 (2023.01)G06N 3/096 (2023.01)G06N 5/04 (2023.01)
本发明公开一种大模型长文本算力优化与幻觉抑制分层调度方法,属于超长文本大模型推理与预训练技术领域,旨在解决传统Transformer全Token交互算力高、长文本易产生逻辑幻觉问题。本发明搭建三层标准化调度体系:顶层全局调度模块(1)内置复杂度打分模块;分层筛选调度模块(2)集成全局块压缩分支(2‑1)、细粒度token精选分支(2‑2)、短时滑动窗口分支(2‑3);底层部署多类局部子网运算模块(3‑1、3‑3);划分全局管控链路(4)、局部自主链路(5)两套隔离传输通道,搭配逻辑异常回流通道(6)、LoRA轻量化迭代模块(7),分层过滤冗余文本、并行校验推理冲突,在典型部署工况下可将全局交互计算规模由O(N²)收敛至O(kN)量级,适配法律、金融百万字长文档场景。
ログインして全文を読む
請求項 1 を表示しています。無料登録で全 9 項の請求項、明細書全文、全図面、翻訳、法的状態を閲覧できます。
- 全請求項
- 技術分野
- 背景技術
- 発明の概要
- 図面の説明
- 発明を実施するための形態
外部リソース