基于属性重构与注意力机制的信用卡用户行为预测方法

本发明属于信用卡用户行为预测，具体是一种基于属性重构与注意力机制的信用卡用户行为预测方法。

背景技术：

1、信用卡是指由金融机构发行的具有消费支付、信用贷款等功能的电子支付卡，为用户提供便利的同时也透支消费。为了防止潜在损失，银行系统在向用户发行信用卡时都需要评估是否会出现拖欠信用卡支付的行为。银行系统中大量的信用卡用户数据构成了一个大的图数据，信用卡用户作为图数据的节点，用户间的联系构成了图数据的边，图卷积神经网络利用图数据的拓扑信息和节点属性信息即可预测用户行为。

2、信用卡用户拥有如性别、年龄、账单金额、历史信用记录等多种属性信息，在使用银行系统信用卡用户的历史数据训练模型时，如果历史数据呈现的特点是年轻人由于购买欲强、工资低等诸多因素，很大一部分年轻人趋向于拖欠信用卡支付，使得模型认为年轻人有更大概率属于拖欠信用卡支付的一类，致使利用训练后的模型预测其他信用卡用户时，一旦识别到用户是年轻人，就有更大概率将此用户预测为拖欠信用卡支付的一类，造成预测结果不公平，而产生这种不公平结果的主要原因是模型根据“年龄”属性而定义了“年轻人”，因此“年龄”就是一种敏感属性。

3、现有的图卷积神经网络重点关注的是节点分类、链接预测等下游任务的性能，即预测结果的准确率，但是忽略了节点敏感属性对结果公平性的影响。现有的一些操作缓解了敏感属性对结果不公平的影响，一种是在利用节点属性训练图神经网络模型时，屏蔽敏感属性，即敏感属性不参与模型训练；另一种是修改敏感属性，例如以性别作为敏感属性时，将男性改为女性，女性改为男性，进而影响预测结果。这些操作通常是以牺牲预测结果的准确性为代价，对于信用卡用户行为预测而言，预测结果的准确率和公平性同等重要，因此现有的以牺牲准确率为代价的公平性处理方法并不可取。

技术实现思路

1、针对现有技术的不足，本发明拟解决的技术问题是，提出一种基于属性重构与注意力机制的信用卡用户行为预测方法。

2、本发明解决所述技术问题采用的技术方案如下：

3、一种基于属性重构与注意力机制的信用卡用户行为预测方法，其特征在于，该方法包括如下步骤：

4、步骤1、获取银行系统某一时期信用卡用户的历史数据，将历史数据转换为图数据；图数据的节点代表信用卡用户，边表示用户间的联系；获取图拓扑信息和节点属性矩阵，图拓扑信息用邻接矩阵a表示；

5、步骤2、基于图卷积神经网络构建节点属性重构模型，节点属性重构模型包括编码器和解码器，编码器将图拓扑信息和节点属性信息编码为潜在分布矩阵，解码器将潜在分布矩阵解码为重构的节点属性矩阵；

6、编码器由两个图卷积层堆叠而成，传播过程表示为：

7、

8、式中，z表示图数据信息的潜在分布矩阵，表示归一化的邻接矩阵，σ表示relu激活函数，i表示单位矩阵，w(1)、w(2)分别表示第一、二个图卷积层的参数矩阵；

9、利用解码器对图数据信息的潜在分布进行解码，第i个节点重构的属性向量表示为：

10、

11、式中，gx(·)表示解码器，表示归一化的潜在分布向量，wx表示可学习的参数矩阵，bx表示可学习的偏差；

12、步骤3、构建信用卡用户行为预测模型，信用卡用户行为预测模型由两个图卷积层堆叠而成，两个图卷积层的传播过程表示为：

13、

14、

15、式中，h(1)、h(2)分别表示第一、二个图卷积层的节点表征，表示重构的节点属性矩阵；

16、通过循环神经网络获得每个图卷积层的节点度参数矩阵，表达式如下：

17、

18、式中，l＝1，2表示图卷积层编号，k＝0，1，2，...dmax表示节点度，dmax表示节点度的最大值，分别表示第l个图卷积层节点度k、k+1的参数矩阵；

19、通过注意力机制优化传播过程，即将每个图卷积层的节点度参数矩阵分别代入各自的传播公式中，得到：

20、

21、

22、式中，分别表示第一、二个图卷积层的节点度参数矩阵；

23、将信用卡用户行为预测模型的输出压缩为各个节点预测标签纵向堆叠而成的一维列向量，即预测结果；

24、随机选取图数据的部分节点和边，将边信息和对应节点重构的属性输入到信用卡用户行为预测模型中进行训练，得到训练后的信用卡用户行为预测模型；

25、步骤4、用于与步骤1中历史数据来源相同的银行系统时，将待预测的所有用户数据转换为图数据，提取图数据的邻接矩阵，将该邻接矩阵和重构的节点属性矩阵输入到训练后的信用卡用户行为预测模型中，得到所有新用户的行为；

26、用于与步骤1中历史数据来源不同的银行系统时，需要获取该银行系统信用卡用户的历史数据，并执行步骤1～3，得到训练后的信用卡用户行为预测模型；再将待预测的所有新用户数据转换为图数据，提取图数据的邻接矩阵，将该邻接矩阵和重构的节点属性矩阵输入到训练后的信用卡用户行为预测模型中，得到所有新用户的行为。

27、进一步的，计算节点属性重构损失的目标函数为：

28、

29、式中，vx表示已知属性的节点集合，xi为已知的节点属性向量，表示节点i的属性重构损失，表示约束图数据信息的潜在分布矩阵与图拓扑信息的正则项，λ表示超参数。

30、与现有技术相比，本发明的有益效果是：

31、1、本发明构建了节点属性重构模型，对节点属性进行重构；一方面由于用户隐私保护意识或数据存储的失误，导致节点的原始属性信息部分丢失，因此通过属性重构可以将缺失的属性信息进行补全，解决了节点属性缺失导致预测难度增大的问题；另一方面，将重构的节点属性用于信用卡用户行为预测模型的训练，可以缓解节点敏感属性对预测结果公平性的影响，这是由于在属性重构过程中，每个节点都会通过聚合邻居节点的属性信息来更新自身的属性信息；例如，节点a的年龄为20岁，直接利用这个属性信息，则模型会判定该用户为年轻人，从而更偏向于预测用户a会拖欠信用卡支付；但是节点a的消费模式使得它与年龄为18岁、25岁、28岁、36岁的四个节点相连，进行属性重构后，节点a的年龄被更改为26岁，这样就减小了模型将用户a判定为年轻人的概率。

32、2、在信用卡用户行为预测模型中，以减小图数据的拓扑信息对预测结果的影响。本发明有效提高了信用卡用户行为预测结果的公平性，同时实现了不以牺牲结果准确率为代价的目标。

33、3、本发明从目标函数优化角度入手，解释并优化了节点属性重构模型，使得模型更具可解释性、通用性及可扩展性。

技术特征：

1.一种基于属性重构与注意力机制的信用卡用户行为预测方法，其特征在于，该方法包括如下步骤：

2.根据权利要求1所述的基于属性重构与注意力机制的信用卡用户行为预测方法，其特征在于，计算节点属性重构损失的目标函数为：

3.一种信用卡用户行为预测系统，其特征在于，该系统包括处理器、存储器和计算机程序；处理器与存储器连接，计算机程序被存储在存储器中，当系统运行时，该处理器执行存储器中的计算机程序，使系统执行权利要求1或2所述的方法。

4.一种计算机可读存储介质，用于存储计算机指令；其特征在于，所述计算机指令被处理器执行时，完成权利要求1或2所述的方法。

技术总结
本发明为一种基于属性重构与注意力机制的信用卡用户行为预测方法，首先获取银行系统某一时期信用卡用户的历史数据，将历史数据转换为图数据；图数据的节点代表信用卡用户，边表示用户间的联系；获取图拓扑信息和节点属性矩阵；然后，基于图卷积神经网络构建节点属性重构模型，节点属性重构模型包括编码器和解码器，编码器将图拓扑信息和节点属性信息编码为潜在分布矩阵，解码器将潜在分布矩阵解码为重构的节点属性矩阵；最后，构建信用卡用户行为预测模型，将图拓扑信息和重构的节点属性矩阵输入到模型中，得到各个节点的预测标签；将训练后的信用卡用户行为预测模型用于新用户的行为预测。通过节点属性重构可以补全缺失的属性信息，同时缓解了节点敏感属性对预测结果公平性的影响。

技术研发人员：杨亮,刘嘉瑶,张秋亮,牛炳鑫,贾永娜,张亚娟,顾军华
受保护的技术使用者：河北工业大学
技术研发日：
技术公布日：2024/1/13