风险信息的确定方法、装置、设备及存储介质与流程

本申请涉及人工智能(artificial intelligence，ai)，特别涉及一种风险信息的确定方法、装置、设备及存储介质。

背景技术：

1、随着信息技术的发展，歌曲的内容及形式等也越来越多，这也就意味着需要相关音乐平台需要对歌曲进行审核，以避免出现一些违规或者不合适出现的歌曲。

2、相关技术中，一般是采用人工审核的方式，来对歌曲进行审核。如采用三人审的方式来审核歌曲。具体地，三人审是指若前两个人对歌曲的审核结果不一致，则以第三个人的审核结果为准，若前两个人对歌曲的审核结果一致，则采用该审核结果。这里的审核结果也就是指歌曲的风险信息(包括是否具备风险，或者歌曲的风险级别)。

3、相关技术中，三人审的方式，至少需要两次人工审核，甚至还可能需要三次人工审核，因此审核成本较高，从而导致歌曲风险信息的确定效率较低。

技术实现思路

1、本申请实施例提供了一种风险信息的确定方法、装置、设备及存储介质，能够提升风险信息的确定效率。本申请提出的技术方案如下：

2、根据本申请实施例的一个方面，提供了一种风险信息的确定方法，所述方法包括：

3、获取针对第一歌曲的第一审核结果，所述第一审核结果是人工审核得到的审核结果，所述审核结果用于指示所述第一歌曲的风险信息；

4、通过风险审核模型审核所述第一歌曲，得到第二审核结果，所述第二审核结果是模型审核得到的审核结果，所述风险审核模型是用于预测所述第一歌曲的风险信息的神经网络模型；

5、基于所述第一审核结果和所述第二审核结果，确定所述第一歌曲的风险信息。

6、根据本申请实施例的一个方面，提供了一种风险信息的确定装置，所述装置包括：

7、结果获取模块，用于获取针对第一歌曲的第一审核结果，所述第一审核结果是人工审核得到的审核结果，所述审核结果用于指示所述第一歌曲的风险信息；

8、模型审核模块，用于通过风险审核模型审核所述第一歌曲，得到第二审核结果，所述第二审核结果是模型审核得到的审核结果，所述风险审核模型是用于预测所述第一歌曲的风险信息的神经网络模型；

9、风险确定模块，用于基于所述第一审核结果和所述第二审核结果，确定所述第一歌曲的风险信息。

10、根据本申请实施例的一个方面，提供了一种计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有计算机程序，所述计算机程序由所述处理器加载并执行以实现上述风险信息的确定方法。

11、根据本申请实施例的一个方面，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，所述计算机程序由处理器加载并执行以实现上述风险信息的确定方法。

12、根据本申请实施例的一个方面，提供了一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序由处理器加载并执行以实现上述风险信息的确定方法。

13、本申请实施例提供的技术方案可以带来如下有益效果：

14、本申请通过引入神经网络模型，来替代相关技术三人审中前两次人工审核中的一次人工审核，以模型代替人工，减少人工审核的次数，从而降低审核成本，提高风险信息的确定效率。另外，用模型审核+人工审核的方式，能够兼顾风险信息确定的精度和效率，在不丧失人工审核所带来的精度的同时，减少了风险信息确定的时间，提高了风险信息确定的效率。

技术特征：

1.一种风险信息的确定方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

4.根据权利要求2或3所述的方法，其特征在于，所述通过所述风险审核模型根据所述至少一条目标歌曲信息，得到所述第二审核结果，包括：

5.根据权利要求1所述的方法，其特征在于，所述基于所述第一审核结果和所述第二审核结果，确定所述第一歌曲的风险信息，包括：

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

7.根据权利要求6所述的方法，其特征在于，所述风险感知模型包括第一风险感知子模型、第二风险感知子模型以及第三风险感知子模型；

8.根据权利要求1所述的方法，其特征在于，所述第二审核结果包括风险类别，所述风险审核模型的训练过程包括如下几个步骤：

9.根据权利要求8所述的方法，其特征在于，所述多个训练样本中包括第一训练样本，所述方法还包括：

10.根据权利要求9所述的方法，其特征在于，在利用所述多个训练样本训练所述基座模型的过程中，所述第一训练样本的样本权重大于所述多个训练样本中除所述第一训练样本以外的其他训练样本的样本权重。

11.一种风险信息的确定装置，其特征在于，所述装置包括：

12.一种计算机设备，其特征在于，所述计算机设备包括处理器和存储器，所述存储器中存储有计算机程序，所述计算机程序由所述处理器加载并执行以实现如权利要求1至10任一项所述的风险信息的确定方法。

13.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，所述计算机程序由处理器加载并执行以实现如权利要求1至10任一项所述的风险信息的确定方法。

14.一种计算机程序产品，其特征在于，所述计算机程序产品包括计算机程序，所述计算机程序存储在计算机可读存储介质中，处理器从所述计算机可读存储介质读取并执行所述计算机程序，以实现如权利要求1至10任一项所述的风险信息的确定方法。

技术总结
本申请公开了一种风险信息的确定方法、装置、设备及存储介质，涉及人工智能技术领域。所述方法包括：获取针对第一歌曲的第一审核结果，第一审核结果是人工审核得到的审核结果，审核结果用于指示第一歌曲的风险信息；通过风险审核模型审核第一歌曲，得到第二审核结果，第二审核结果是模型审核得到的审核结果，风险审核模型是用于预测第一歌曲的风险信息的神经网络模型；基于第一审核结果和第二审核结果，确定第一歌曲的风险信息。上述方法提升了风险信息的确定效率。

技术研发人员：刘晗,赖荣凤,葛霖,周方程,张俊鹏,傅鸿城,李敏诗
受保护的技术使用者：广州酷狗计算机科技有限公司
技术研发日：
技术公布日：2025/1/23