검색으로 돌아가기
기록
一种基于大语言模型的序列推荐数据增强方法
발명유효
16조회수
2청구항 · 1 독립항
§ Ⅰ
개요
발명자
刘学军; 王旭阳
IPC 분류
G06Q 30/0601 (2023.01)G06F 18/2415 (2023.01)G06F 18/2137 (2023.01)G06F 18/25 (2023.01)G06N 3/045 (2023.01)G06N 3/0495 (2023.01)G06N 5/04 (2023.01)
本发明专利的创新点在于融合大语言模型(LLM)的语义理解能力,并融合了一种基于时间感知的稀疏注意力机制,以协同解决数据稀疏性和计算效率问题。首先,引入大语言模型(LLM)进行数据增强。在物品层面,生成多角度的属性描述;在用户层面,基于用户的历史行为通过大语言模型(LLM)构建用户画像。这些增强信息能够有效地补充原始的ID嵌入表示,丰富物品和用户的语义信息。其次,通过一种时间感知的稀疏注意力机制,优先选择近期的交互作为注意力查询点,能够显著降低计算复杂度,减少了冗余计算。