一种违规行为检测方法、装置、存储介质及计算机设备与流程

本技术涉及数据处理，尤其涉及一种违规行为检测方法、装置、存储介质及计算机设备。

背景技术：

1、随着互联网系统的高速发展，社交平台交友已成为现代社交生活中的一种主流方式，其优点在于用户可以随时随地与不同地区、不同文化背景的其他用户互动。其中，通过创建虚拟房间与其他用户进行多人互动的方式更是受到大家的喜爱，为保证一个良好的网络环境，社交平台对用户在虚拟房间内的交互行为进行文明化约束必不可少。

2、在虚拟房间中，社交平台通常需要对上麦的用户产生的音频数据进行违规检测，以在用户出现违规行为时能够及时进行违规处理，避免该用户对其他用户造成影响。在现有技术的检测方法中，需要在将用户的音频数据从客户端上传至服务器中进行相关处理后，再经过人工进行听取音频审核，该过程中音频数据传输链路较长，导致数据处理成本较高，并且及时性差，使得确认用户违规行为的发生到处罚期间会产生分钟级别的延迟。

技术实现思路

1、本技术的目的旨在至少能解决上述的技术缺陷之一，特别是现有技术中检测过程数据处理成本较高，并且及时性差，使得确认用户违规行为的发生到处罚期间会产生分钟级别的延迟的技术缺陷。

2、本技术提供了一种违规行为检测方法，所述方法用于客户端，包括：

3、当检测到用户在虚拟房间中进行上麦操作时，获取所述用户在上麦期间产生的实时音频；

4、通过预先部署的目标sdk接收多个连续的实时音频后形成第一分段音频，并检测所述第一分段音频的行为标签；

5、若所述第一分段音频的行为标签为违规标签，则继续获取并检测多个连续的第二分段音频的行为标签，并判断各个第二分段音频的行为标签是否均为同一类型下的违规标签；

6、若是，则确定所述用户出现违规行为，并按照预设违规处理规则对所述用户进行违规处理；

7、若所述第一分段音频的行为标签为正常标签，或各个第二分段音频的行为标签存在不为同一类型下的违规标签，则返回执行获取所述用户在上麦期间产生的实时音频及其后续步骤，直到检测到所述用户闭麦为止。

8、可选地，所述通过预先部署的目标sdk接收多个连续的实时音频后形成第一分段音频，包括：

9、确定部署目标sdk时设置的时间阈值，所述时间阈值用于确定接收所述实时音频的数量，且所述时间阈值的阈值大小与检测所述第一分段音频的行为标签的检测精度呈正相关；

10、利用所述目标sdk按照所述时间阈值接收多个连续的实时音频后形成第一分段音频。

11、可选地，所述目标sdk的部署过程，包括：

12、向服务端发送第一数据获取请求，以及接收所述服务端根据所述第一数据获取请求返回的sdk文件；

13、在本地部署所述sdk文件，得到目标sdk。

14、可选地，所述检测所述第一分段音频的行为标签，包括：

15、获取预先部署的目标检测模型；

16、将所述第一分段音频输入至所述目标检测模型中，得到所述目标检测模型输出的所述第一分段音频的行为标签。

17、可选地，所述目标检测模型的部署过程，包括：

18、向服务端发送第二数据获取请求，以及接收所述服务端根据所述第二数据获取请求返回的模型文件；

19、对所述模型文件进行解析，得到模型结构和配置参数；

20、根据所述模型结构构建初始检测模型，根据所述配置参数对所述初始检测模型进行参数调节，并将调节后的初始检测模型作为目标检测模型。

21、可选地，所述目标检测模型包括频谱特征提取层和行为标签预测层；

22、所述将所述第一分段音频输入至所述目标检测模型中，得到所述目标检测模型输出的所述第一分段音频的行为标签，包括：

23、通过所述频谱特征提取层确定所述第一分段音频的频谱图，并提取所述频谱图的第一频谱特征；

24、通过所述行为标签预测层根据所述第一频谱特征确定所述第一分段音频的行为标签。

25、可选地，所述行为标签预测层包括相似度匹配层和违规类型筛选层；

26、所述通过所述行为标签预测层根据所述第一频谱特征确定所述第一分段音频的行为标签，包括：

27、利用所述相似度匹配层将所述第一频谱特征分别与各个违规类型对应的第二频谱特征进行相似度匹配，得到每一违规类型的匹配度；

28、利用所述违规类型筛选层从各个违规类型中筛选出匹配度大于预设相似度阈值的违规类型，并根据筛选后的违规类型生成所述第一分段音频的行为标签。

29、可选地，所述违规标签中存在至少一种违规类型；

30、所述判断各个第二分段音频的行为标签是否均为同一类型下的违规标签，包括：

31、若所述第一分段音频的行为标签中只有一种违规类型，则判断各个第二分段音频的行为标签中是否均存在该违规类型；

32、若所述第一分段音频的行为标签中存在多个违规类型，则判断所述第一分段音频和各个第二分段音频的行为标签中是否同时存在相同的违规类型。

33、可选地，所述按照预设违规处理规则对所述用户进行违规处理操作，包括：

34、对所述用户进行信息警告操作，并更新所述用户在所述虚拟房间中的违规行为次数；

35、当所述违规行为次数超过预设阈值后，对所述用户进行禁言处理。

36、本技术还提供了一种违规行为检测装置，包括：

37、数据获取模块，用于当检测到用户在虚拟房间中进行上麦操作时，获取所述用户在上麦期间产生的实时音频；

38、音频检测模块，用于通过预先部署的目标sdk接收多个连续的实时音频后形成第一分段音频，并检测所述第一分段音频的行为标签；

39、标签判断模块，用于若所述第一分段音频的行为标签为违规标签，则继续获取并检测多个连续的第二分段音频的行为标签，并判断各个第二分段音频的行为标签是否均为同一类型下的违规标签；

40、第一处理模块，用于若是，则确定所述用户出现违规行为，并按照预设违规处理规则对所述用户进行违规处理；

41、第二处理模块，用于若所述第一分段音频的行为标签为正常标签，或各个第二分段音频的行为标签存在不为同一类型下的违规标签，则返回执行所述用户在上麦期间产生的实时音频及其后续步骤，直到检测到所述用户闭麦为止。

42、本技术还提供了一种存储介质，所述存储介质中存储有计算机可读指令，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行如上述实施例中任一项所述违规行为检测方法的步骤。

43、本技术还提供了一种计算机设备，包括：一个或多个处理器，以及存储器；

44、所述存储器中存储有计算机可读指令，所述计算机可读指令被所述一个或多个处理器执行时，执行如上述实施例中任一项所述违规行为检测方法的步骤。

45、从以上技术方案可以看出，本技术实施例具有以下优点：

46、本技术提供的一种违规行为检测方法、装置、存储介质及计算机设备，该方法用于客户端上，当检测到用户在虚拟房间中进行上麦操作后，获取用户在上麦期间产生的实时音频，并通过预先部署的目标sdk接收多个连续的实时音频后形成第一分段音频，并检测第一分段音频的行为标签，以此可以在客户端上直接实现对用户产生的实时音频进行音频检测，以缩短音频检测过程数据传输链路，将因音频检测而产生的延迟缩短至毫秒级；若第一分段音频的行为标签为违规标签，则继续获取并检测多个连续的第二分段音频的行为标签，并判断各个第二分段音频的行为标签是否均为同一类型下的违规标签，若是，则确定用户出现违规行为，并按照预设违规处理规则对用户进行违规处理，这里通过连续多个检测得到的行为标签进行违规行为的判断，可以避免语音检测模型某个时刻出现误测的影响；若第一分段音频的行为标签为正常标签，或各个第二分段音频的行为标签存在不为同一类型下的违规标签，则说明在检测的各个分段音频中用户未出现违规行为，此时可以返回执行用户在上麦期间产生的实时音频及其后续步骤，直到检测到用户闭麦为止。本技术采用在客户端上直接获取用户的实时音频并进行分段检测的方式，可以缩短数据传输链路，从而提高检测效率和违规处理操作的及时性。