一种用户关注热点预测模型的训练方法、装置及系统与流程

本说明书实施例涉及人工智能领域，尤其涉及一种用户关注热点预测模型的训练方法、装置及系统。

背景技术：

1、目前，对于许多业务方而言，为了确保隐私安全，通常对于自身的业务数据加以防护，导致业务方很难获取到其他业务方的数据开展业务。

2、而随着业务需求的增加，需要不同的业务方之间合作开展业务。

3、例如，不同的业务方之间可能需要联合训练模型，提高模型训练效果，具体可以是通过增加样本数量提高模型训练效果；不同业务方之间可能需要进行数据融合，提供更好的服务，具体可以是通过融合不同业务方中同一用户的信息，提高对用户的推荐准确率等等。

4、而在不同业务方合作开展业务时，往往也需要提高隐私安全性，降低隐私泄露的可能性。

技术实现思路

1、为了解决上述问题，本说明书实施例提供了一种用户关注热点预测模型的训练方法、装置及系统。技术方案如下所示。

2、一种用户关注热点预测模型的训练方法，应用于中心业务方，所述方法包括：

3、获取初始模型；所述初始模型是所述中心业务方和至少两个联合业务方，预先基于纵向联邦学习的方式联合训练用户关注热点预测模型得到的；其中，不同联合业务方提供不同的用户特征作为模型输入；

4、从所述至少两个联合业务方中，选择满足业务需求的合作业务方；

5、将所述初始模型转换为中间模型；所述中间模型用于：根据所选择的合作业务方提供的用户特征，输出用户关注热点预测结果；

6、在选择至少两个合作业务方的情况下，控制各所述合作业务方基于纵向联邦学习的方式，利用各所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

7、可选地，所述方法还包括：

8、在选择一个合作业务方的情况下，和所选择的合作业务方利用所述中心业务方与所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

9、可选地，所述业务需求包括以下至少一项：

10、用户流量大于预设流量阈值；

11、针对指定热点的热点流量大于预设热点流量阈值；

12、与所述中心业务方存在业务合作关系；

13、与所述中心业务方之间相同的用户数量大于预设数量。

14、可选地，所述用户关注热点预测模型包括：特征提取层和全连接层；所述特征提取层用于针对模型输入提取特征；

15、在联合训练用户关注热点预测模型之前，所述方法还包括：针对所述特征提取层进行预先训练；

16、所述联合训练用户关注热点预测模型，包括：保持特征提取层的参数不变，调整全连接层的参数。

17、可选地，所述将所述初始模型转换为中间模型，包括：

18、删除所述初始模型的模型参数中非合作业务方提供的用户特征对应的模型参数，得到中间模型。

19、可选地，所述中间模型包括所述初始模型的特征提取层和全连接层；

20、所述联合训练所述中间模型，包括：保持特征提取层的参数不变，调整全连接层的参数。

21、可选地，所述方法还包括：

22、在选择至少两个合作业务方的情况下，和各所述合作业务方基于纵向联邦学习的方式，利用所述中心业务方和各所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

23、可选地，所述用户关注热点预测模型由所述中心业务方构建；所述用户关注热点预测模型用于预测用户对预设热点集合中各个热点的关注概率；所述预设热点集合是由所述中心业务方指定的；

24、所述结果模型用于：根据所选择的合作业务方提供的用户特征，输出用户关注热点预测结果。

25、可选地，所述中心业务方与所述至少两个联合业务方维护有预设区块链；

26、所述方法还包括：将模型训练相关信息和/或模型输出的用户关注热点预测结果，存证到所述预设区块链；

27、所述模型训练相关信息包括：模型训练日志信息和/或模型训练中间参数。

28、一种用户关注热点预测模型的训练装置，应用于中心业务方，所述装置包括：

29、获取单元，用于获取初始模型；所述初始模型是所述中心业务方和至少两个联合业务方，预先基于纵向联邦学习的方式联合训练用户关注热点预测模型得到的；其中，不同联合业务方提供不同的用户特征作为模型输入；

30、选择单元，用于从所述至少两个联合业务方中，选择满足业务需求的合作业务方；

31、转换单元，用于将所述初始模型转换为中间模型；所述中间模型用于：根据所选择的合作业务方提供的用户特征，输出用户关注热点预测结果；

32、结果单元，用于在选择至少两个合作业务方的情况下，控制各所述合作业务方基于纵向联邦学习的方式，利用各所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

33、可选地，所述结果单元还用于：在选择一个合作业务方的情况下，和所选择的合作业务方利用所述中心业务方与所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

34、可选地，所述业务需求包括以下至少一项：用户流量大于预设流量阈值；针对指定热点的热点流量大于预设热点流量阈值；与所述中心业务方存在业务合作关系；与所述中心业务方之间相同的用户数量大于预设数量。

35、可选地，所述用户关注热点预测模型包括：特征提取层和全连接层；所述特征提取层用于针对模型输入提取特征；

36、在联合训练用户关注热点预测模型之前，所述中心业务方还用于：针对所述特征提取层进行预先训练；

37、所述中心业务方用于：保持特征提取层的参数不变，调整全连接层的参数。

38、可选地，所述转换单元用于：删除所述初始模型的模型参数中非合作业务方提供的用户特征对应的模型参数，得到中间模型。

39、可选地，所述中间模型包括所述初始模型的特征提取层和全连接层；所述结果单元用于：保持特征提取层的参数不变，调整全连接层的参数。

40、可选地，所述结果单元用于：

41、在选择至少两个合作业务方的情况下，和各所述合作业务方基于纵向联邦学习的方式，利用所述中心业务方和各所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

42、可选地，所述用户关注热点预测模型由所述中心业务方构建；所述用户关注热点预测模型用于预测用户对预设热点集合中各个热点的关注概率；所述预设热点集合是由所述中心业务方指定的；

43、所述结果模型用于：根据所选择的合作业务方提供的用户特征，输出用户关注热点预测结果。

44、可选地，所述中心业务方与所述至少两个联合业务方维护有预设区块链；

45、所述中心业务方还包括存证单元，用于：将模型训练相关信息和/或模型输出的用户关注热点预测结果，存证到所述预设区块链；

46、所述模型训练相关信息包括：模型训练日志信息和/或模型训练中间参数。

47、一种用户关注热点预测模型的训练系统，包括：中心业务方设备和至少两个联合业务方设备；

48、中心业务方设备和至少两个联合业务方设备用于：预先基于纵向联邦学习的方式，联合训练用户关注热点预测模型，得到初始模型；其中，不同联合业务方提供不同的用户特征作为模型输入；

49、所述中心业务方设备用于：从所述至少两个联合业务方中，选择满足业务需求的合作业务方；

50、将所述初始模型转换为中间模型；所述中间模型用于：根据所选择的合作业务方提供的用户特征，输出用户关注热点预测结果；

51、在选择至少两个合作业务方的情况下，控制各所述合作业务方基于纵向联邦学习的方式，利用各所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

52、可选地，所述中心业务方设备还用于：在选择一个合作业务方的情况下，和所选择的合作业务方利用所述中心业务方与所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

53、可选地，所述业务需求包括以下至少一项：用户流量大于预设流量阈值；针对指定热点的热点流量大于预设热点流量阈值；与所述中心业务方存在业务合作关系；与所述中心业务方之间相同的用户数量大于预设数量。

54、可选地，所述用户关注热点预测模型包括：特征提取层和全连接层；所述特征提取层用于针对模型输入提取特征；

55、在联合训练用户关注热点预测模型之前，所述中心业务方设备还用于：针对所述特征提取层进行预先训练；

56、所述中心业务方设备用于：保持特征提取层的参数不变，调整全连接层的参数。

57、可选地，所述中心业务方设备用于：删除所述初始模型的模型参数中非合作业务方提供的用户特征对应的模型参数，得到中间模型。

58、可选地，所述中间模型包括所述初始模型的特征提取层和全连接层；所述中心业务方设备用于：保持特征提取层的参数不变，调整全连接层的参数。

59、可选地，所述中心业务方设备用于：在选择至少两个合作业务方的情况下，和各所述合作业务方基于纵向联邦学习的方式，利用所述中心业务方和各所述合作业务方之间相同用户的样本，联合训练所述中间模型，得到结果模型。

60、可选地，所述用户关注热点预测模型由所述中心业务方构建；所述用户关注热点预测模型用于预测用户对预设热点集合中各个热点的关注概率；所述预设热点集合是由所述中心业务方指定的；

61、所述结果模型用于：根据所选择的合作业务方提供的用户特征，输出用户关注热点预测结果。

62、可选地，所述中心业务方与所述至少两个联合业务方维护有预设区块链；

63、所述中心业务方设备还用于：将模型训练相关信息和/或模型输出的用户关注热点预测结果，存证到所述预设区块链；

64、所述模型训练相关信息包括：模型训练日志信息和/或模型训练中间参数。

65、本技术方案可以基于纵向联邦学习的方式训练模型，提高隐私安全性，降低业务方隐私泄露的可能性。

66、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。