CNIPA.AI
返回搜索
档案

基于神经元与任务向量的大语言模型知识编辑方法

发明专利有效
7权利要求 · 1 独立
§ Ⅰ

卷宗概要

IPC 分类

G06N 5/022 (2023.01)G06N 3/0455 (2023.01)G06N 5/04 (2023.01)G06F 18/213 (2023.01)G06F 18/22 (2023.01)G06F 40/284 (2020.01)G06F 40/295 (2020.01)

本申请实施例提供一种基于神经元与任务向量的大语言模型知识编辑方法。应用于人工智能和自然语言处理技术领域,该方法通过获取待编辑的旧知识三元组和新知识三元组;根据大语言模型中的神经元与旧知识三元组和新知识三元组的关联强度分别构建第一神经元集合和第二神经元集合;针对旧知识三元组构建第一学习任务,并生成第一任务向量,针对新知识三元组构建第二学习任务,并生成第二任务向量;将第一任务向量和第二任务向量进行线性组合,得到编辑向量;通过编辑向量对第一神经元集合和第二神经元集合中神经元的权重进行更新,得到知识编辑后的大语言模型,提升了知识更新的准确性、泛化能力和局部性,降低了计算成本。