검색으로 돌아가기
기록
一种预训练模型数据的训练数据生成方法及设备
발명유효
10청구항 · 5 독립항
§ Ⅰ
개요
출원인
中国联合网络通信集团有限公司; 联通数字科技有限公司; 联通数据智能有限公司
발명자
刘欣惠; 杨必琨; 王恺; 廉士国
IPC 분류
G06F 40/166 (2020.01)G06F 40/284 (2020.01)G06F 40/205 (2020.01)G06F 16/3329 (2025.01)G06F 16/334 (2025.01)G06F 21/60 (2013.01)G06N 20/00 (2019.01)G06N 5/04 (2023.01)
本申请提供一种预训练模型数据的训练数据生成方法及设备,涉及数据处理技术领域。该方法包括:获取原始数据,并对原始数据进行预处理得到第一文本类数据;获取预训练模型的训练场景;若训练场景为监督微调或强化学习,则通过预存的第一语言模型,对第一文本类数据进行分词后,解析出第一文本类数据中的提问信息,并根据每个提问信息,检索第一文本类数据和预存数据库,生成每个提问信息对应的回答信息;若训练场景为强化学习,则通过预存的第二语言模型,根据每个提问信息,对每个提问信息对应的回答信息进行优化处理;根据提问信息和回答信息生成训练数据。本申请的方法,解决了数据处理工具无法自动生成预训练模型直接可用的训练数据的问题。