一种大模型长文本算力优化与幻觉抑制分层调度方法
本发明公开一种大模型长文本算力优化与幻觉抑制分层调度方法,属于超长文本大模型推理与预训练技术领域,旨在解决传统Transformer全Token交互算力高、长文本易产生逻辑幻觉问题。本发明搭建三层标准化调度体系:顶层全局调度模块(1)内置复杂度打分模块;分层筛选调度模块(2)集成全局块压缩分支(2‑1)、细粒度token精选分支(2‑2)、短时滑动窗口分支(2‑3);底层部署多类局部子网运算模块(3‑1、3‑3);划分全局管控链路(4)、局部自主链路(5)两套隔离传输通道,搭配逻辑异常回流通道(6)、LoRA轻量化迭代模块(7),分层过滤冗余文本、并行校验推理冲突,在典型部署工况下可将全局交互计算规模由O(N²)收敛至O(kN)量级,适配法律、金融百万字长文档场景。