검색으로 돌아가기
기록
一种基于语义反馈的语言模型动态激活引导控制方法及系统
발명유효
8청구항 · 2 독립항
§ Ⅰ
개요
발명자
何浩; 陈宏宇; 陆飞扬
IPC 분류
G06F 40/35 (2020.01)G06N 3/0455 (2023.01)G06N 3/08 (2023.01)
本发明涉及人工智能和自然语言处理领域,具体提出一种基于语义反馈的语言模型动态激活引导控制方法及系统。方法包括:S1:提取语言模型生成过程中的中间层激活,通过稀疏自编码器获取可解释的语义状态;S2:计算当前语义状态与目标语义状态的实时差距;S3:基于历史语义差距序列,采用指数加权累计动态计算出当前最佳的导向强度;S4:将与最佳导向强度相对应的激活引导向量注入语言模型,从而实时、自适应地控制语言模型的输出内容。本发明无需人工调参,能有效避免静态引导中的控制不足或过度问题,显著提高生成文本的语义一致性和质量,可广泛应用于文本生成、风格控制、安全控制等多个任务。