検索に戻る
案件記録

交互方法、训练大模型的方法、装置、智能体及电子设备

発明有効
1閲覧数
20請求項 · 8 独立
§ Ⅰ

案件概要

発明者

唐一鹏; 田焱; 林松; 刘冬皑; 胡伟; 骆新生; 焦学武; 陈晓冬; 李双龙; 刘林

IPC分類

G06F 16/783 (2019.01)G06F 16/78 (2019.01)G06V 10/80 (2022.01)G06V 10/75 (2022.01)G06V 10/74 (2022.01)G06N 3/006 (2023.01)G06N 3/045 (2023.01)G06N 5/025 (2023.01)G06N 3/0455 (2023.01)

本公开提供了交互方法、训练大模型的方法、装置、智能体及电子设备,涉及人工智能技术领域,尤其涉及大模型、深度学习、计算机视觉等技术领域。交互方法包括:根据目标对象输入的需求信息确定初始查询特征、初始键特征和初始值特征;对初始查询特征中的查询数据块和初始键特征中的键数据块进行压缩,得到查询子特征和键子特征;基于注意力机制融合多个查询子特征和多个键子特征,得到注意力特征;根据与数据块对应的掩码标记对特征元素进行掩码,得到目标特征,掩码标记表征数据块中的多个数据之间的相似度满足预设条件;融合初始值特征、注意力特征和目标特征,得到中间输出特征;根据中间输出特征确定与需求信息相关的反馈信息。

外部リソース