검색으로 돌아가기
기록
一种长文本算力优化的分层类脑大模型基础架构
발명알 수 없음
13청구항 · 4 독립항
§ Ⅰ
개요
IPC 분류
G06N 3/045 (2023.01)G06N 3/0464 (2023.01)G06N 3/084 (2023.01)G06N 3/09 (2023.01)G06N 3/096 (2023.01)G06F 16/3329 (2025.01)G06F 16/334 (2025.01)G06F 9/50 (2006.01)
本发明公开一种长文本算力优化的分层类脑大模型基础架构,兼容离线预训练与在线推理。现有方案仅能分别缓解训练与推理场景的算力浪费及逻辑偏差,两类问题同源于传统模型无分层校验的全量交互数据流。本发明采用全局‑局部双隔离分层架构:顶层全局调度模块(1)统筹算力分配;分层筛选调度模块(2)通过块压缩(2‑1)、token精选(2‑2)与滑动窗口(2‑3)过滤冗余表征;多组局部子网(3)经局部链路(6)并行运算,精简摘要经全局链路(5)上传;底层反馈校验模块(4)回溯修正逻辑冲突。预训练阶段拦截冗余语料减少无效梯度计算,推理阶段删减低关联表征抑制逻辑幻觉,两场景共用同一套调度逻辑。兼容GPU及ASIC算力硬件,适配法律、金融、医疗等百万字长文本业务。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 13개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태