検索に戻る
案件記録
一种基于分层架构的低算力语言专家系统
発明有効
5請求項 · 1 独立
§ Ⅰ
案件概要
出願人
西安明德理工学院; 鹏氪时代科技(深圳)有限公司
発明者
刘明岩; 袁戟; 李建勇; 黄旻
IPC分類
G06N 5/022 (2023.01)G06N 5/04 (2023.01)G06F 18/25 (2023.01)G06F 18/22 (2023.01)G06N 3/042 (2023.01)G06N 3/045 (2023.01)G06N 3/096 (2023.01)G06N 3/047 (2023.01)
一种基于分层架构的低算力语言专家系统,属于人工智能领域,系统由专家生成层、推理优化层与领域适应层纵向耦合而成:专家生成层生成一批知识异构的虚拟专家,各携专属领域提示并随机选择专家子集;推理优化层利用专家生成层随机选择的专家子集生成预测概率,执行异常截断和固定投票,用均值‑标准差阈值剔除极端预测,再将置信度与专家正交性加权融合,确定最终输出标记;领域适应层根据推理优化层得到的最终输出标记预训练插拔式记忆组件,并插入预训练后的插拔式记忆组件,推理时预训练后的插拔式记忆组件与基础语言模型概率插值,完成即时领域迁移。本发明解决了在低算力情况下小语言模型幻觉的问题。
外部リソース