融合自注意力机制的多行为图对比学习推荐方法与系统

本发明涉及推荐，特别涉及一种融合自注意力机制的多行为图对比学习推荐方法与系统。

背景技术：

1、推荐系统可利用用户历史行为信息，为用户提供个性化推荐的技术和系统。它在各种在线平台中广泛应用，如电子商务、社交媒体、音乐和视频流媒体服务等。推荐系统的核心目标是缓解信息过载问题，帮助用户快速准确地找到他们感兴趣的内容或商品。

2、在实际应用场景中（如电子商务），用户与项目的交互往往会存在多种类型的行为数据。基于此，多行为推荐成为了目前推荐领域的热门方向。利用辅助行为（如点击、加入购物车等）对目标行为（购买）进行补充建模，可丰富用户偏好，进行更细粒度的推荐。

3、传统的多行为推荐模型依旧沿用矩阵分解的方法来捕捉多种行为中的潜在用户兴趣偏好。然而，矩阵分解的方法对高阶信息利用能力有限，限制了推荐效果的提升。近年来，由于图神经网络可有效捕获高阶领域信息，研究人员开始将其广泛应用于多行为推荐中。然而，目前的基于图神经网络的多行为推荐方法还存在以下弊端：

4、1、由于不同节点之间的行为相关性各有不同，并且用户的不同行为在系统中相互交织，这使得推荐系统面临着复杂多样的挑战，难以有效捕获不同节点（即用户/项目）与各行为间的依赖关系。

5、2、数据集通常是稀疏的，而在多行为推荐中，目标行为的数量往往远小于辅助行为的数量，这使得利用目标行为对辅助行为进行补充建模存在困难，而目前大多数方法未能充分利用辅助行为与目标行为间的关系，导致目标行为的稀疏性问题未能得到有效缓解。

6、3、在现实世界中，用户有着复杂的兴趣，且彼此之间存在差异，尽管一个项目通常会与多个用户交互，但该项目对不同用户的吸引力并不相同，相同的交互不能得出用户具有相同兴趣的结论。具体来说，仅通过在交互上进行学习难以发现隐藏在交互记录中明确的兴趣点。

技术实现思路

1、鉴于上述状况，本发明的主要目的是为了提出一种融合自注意力机制的多行为图对比学习推荐方法与系统，以解决上述技术问题。

2、本发明提出了一种融合自注意力机制的多行为图对比学习推荐方法，所述方法包括如下步骤：

3、步骤1、基于多行为交互图，联合节点与行为的嵌入进行图卷积操作，并引入自注意力机制有效建模不同节点与各行为间的联系，以增强节点嵌入表示，经过嵌入传播后，得到各行为、用户与项目的最终表示；

4、步骤2、根据最终表示，利用同一用户的目标行为和辅助行为构建正例对，不同用户的目标行为和辅助行为构建负例对，利用正例对和负例对建立多行为图对比学习，以建模目标行为与辅助行为的关系；

5、步骤3、基于多行为交互图，通过互补嵌入的方式获取的负兴趣节点嵌入表示，将最终表示作为正兴趣节点嵌入表示，并将正兴趣节点嵌入表示与负兴趣节点嵌入表示进行互补嵌入图对比学习，进而缓解交互中的隐式偏见，以优化节点嵌入表示；

6、步骤4、将最终表示进行推荐预测，采用多任务学习的方法进行训练，以推荐任务作为主任务，并采用非采样策略计算损失，将多行为图对比学习与互补嵌入图对比学习作为辅助任务，联合优化总损失函数，训练完成后，输出最终的推荐结果。

7、本发明将行为嵌入组合到节点嵌入中，并通过自注意力机制捕获不同节点与各行为间的依赖关系，以获得更高质量的嵌入表示。另外，采用图对比学习建模目标行为与辅助行为间的关系，更好地缓解目标行为的稀疏性问题。并对比正兴趣嵌入与通过互补嵌入的方式获取的负兴趣嵌入，以缓解交互的隐式偏见。

8、本发明还提出一种融合自注意力机制的多行为图对比学习推荐系统，其中，所述系统应用如上所述的融合自注意力机制的多行为图对比学习推荐方法，所述系统包括：

9、多行为感知图卷积网络模块，用于：

10、基于多行为交互图，联合节点与行为的嵌入进行图卷积操作，并引入自注意力机制有效建模不同节点与各行为间的联系，以增强节点嵌入表示，经过嵌入传播后，得到各行为、用户与项目的最终表示；

11、多行为图对比学习模块，用于：

12、根据最终表示，利用同一用户的目标行为和辅助行为构建正例对，不同用户的目标行为和辅助行为构建负例对，利用正例对和负例对建立多行为图对比学习，以建模目标行为与辅助行为的关系；

13、互补嵌入图对比学习模块，用于：

14、基于多行为交互图，通过互补嵌入的方式获取的负兴趣节点嵌入表示，将最终表示作为正兴趣节点嵌入表示，并将正兴趣节点嵌入表示与负兴趣节点嵌入表示进行互补嵌入图对比学习，进而缓解交互中的隐式偏见，以优化节点嵌入表示；

15、模型预测与推荐模块，用于：

16、将最终表示进行推荐预测，采用多任务学习的方法进行训练，以推荐任务作为主任务，并采用非采样策略计算损失，将多行为图对比学习与互补嵌入图对比学习作为辅助任务，联合优化总损失函数，训练完成后，输出最终的推荐结果。

17、相较于现有技术，本发明有益效果如下：

18、1) 本发明融合了自注意力机制。将行为嵌入组合到节点嵌入中进行高阶图卷积操作，捕获节点与行为间的高阶关系，同时利用自注意力机制以进一步提升模型的嵌入表示，以此来建模不同节点与行为的关系。

19、2) 本发明采用多行为图对比学习。通过将同一用户的目标行为与辅助行为构建为正例对，不同用户的构建为负例对，来建模目标行为与辅助行为的关系，从而更好地缓解目标行为的稀疏性问题。

20、3) 本发明构建了互补嵌入图对比学习。将正兴趣嵌入与互补嵌入的方式获取的负兴趣嵌入进行对比，以优化节点嵌入表示，进而减轻交互中的隐式偏差。

21、本发明的附加方面与优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实施例了解到。

技术特征：

1.一种融合自注意力机制的多行为图对比学习推荐方法，其特征在于，所述方法包括如下步骤：

2.根据权利要求1所述的融合自注意力机制的多行为图对比学习推荐方法，其特征在于，在所述步骤1中，基于多行为交互图，联合节点与行为的嵌入进行图卷积操作，并引入自注意力机制有效建模不同节点与各行为间的联系，以增强节点嵌入表示，经过嵌入传播后，得到各行为、用户与项目的最终表示的方法具体包括如下步骤：

3.根据权利要求2所述的融合自注意力机制的多行为图对比学习推荐方法，其特征在于，采用组合函数将行为嵌入集成到消息传递中的过程存在如下关系式：

4.根据权利要求3所述的融合自注意力机制的多行为图对比学习推荐方法，其特征在于，在所述步骤2中，根据最终表示，利用同一用户的目标行为和辅助行为构建正例对，不同用户的目标行为和辅助行为构建负例对，利用正例对和负例对建立多行为图对比学习，以建模目标行为与辅助行为的关系的方法具体包括如下步骤：

5.根据权利要求4所述的融合自注意力机制的多行为图对比学习推荐方法，其特征在于，在所述步骤3中，基于多行为交互图，通过互补嵌入的方式获取的负兴趣节点嵌入表示，将最终表示作为正兴趣节点嵌入表示，并将正兴趣节点嵌入表示与负兴趣节点嵌入表示进行互补嵌入图对比学习，进而缓解交互中的隐式偏见，以优化节点嵌入表示的方法具体包括如下步骤：

6.根据权利要求5所述的融合自注意力机制的多行为图对比学习推荐方法，其特征在于，在所述步骤4中，将最终表示进行推荐预测，采用多任务学习的方法进行训练，以推荐任务作为主任务，并采用非采样策略计算损失，将多行为图对比学习与互补嵌入图对比学习作为辅助任务，联合优化总损失函数的方法具体包括如下步骤：

7.一种融合自注意力机制的多行为图对比学习推荐系统，其特征在于，所述系统应用如权利要求1至6任意一项所述的融合自注意力机制的多行为图对比学习推荐方法，所述系统包括：

技术总结
本发明提出一种融合自注意力机制的多行为图对比学习推荐方法与系统，该方法包括，将行为嵌入组合到节点嵌入中，并通过自注意力机制捕获不同节点与各行为间的依赖关系，以获得更高质量的嵌入表示；将同一用户的行为视作正例对，不同用户的视作负例对建立多行为图对比学习；利用正兴趣节点嵌入表示与负兴趣节点嵌入表示进行互补嵌入图对比学习；最后以推荐任务作为主任务，并采用非采样策略计算损失，将多行为图对比学习与互补嵌入图对比学习作为辅助任务，联合优化总损失函数，训练完成后，输出最终的推荐结果。本发明同时建模辅助行为与目标行为间的关系，进而更好地捕捉不同用户的行为差异与共性，将其与推荐任务相结合可极大地提高模型性能。

技术研发人员：钱忠胜,黄恒,饶雨贤,何玉水
受保护的技术使用者：江西财经大学
技术研发日：
技术公布日：2024/4/17