违规图像分类方法、装置、设备及存储介质与流程

本发明涉及图像处理，尤其涉及一种违规图像分类方法、装置、设备及存储介质。

背景技术：

1、在互联网和网络论坛飞速发展的如今，各类短视频、直播、论坛每天生产海量的图片和视频。网民基数大，受教育程度差异大，海量的内容可能会包含一些不适宜观看或者向未成年人展示的违规的场景，从而危害未成年人的健康发展。单纯依靠人力去审核这些海量内容成本很高并且无法及时检测和做出措施，并且大部分推出的违规审核只涉及正常和违规这两个类别，容易误判的同时也不能反馈给用户具体的违规信息。

2、上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

技术实现思路

1、本发明的主要目的在于提供一种违规图像分类方法、装置、设备及存储介质，旨在解决现有技术违规信息不能自动实现细致分类的技术问题。

2、为实现上述目的，本发明提供了一种违规图像分类方法，所述方法包括以下步骤：

3、当目标图像被认定为违规图像时，通过预设分类模型对所述目标图像进行违规分类，获得所述目标图像的目标违规分类信息，所述预设分类模型用于表征图像与违规分类信息之间的对应关系；

4、根据所述目标违规分类信息确定所述目标图像所属的分类类别。

5、可选地，所述当目标图像被认定为违规图像时，通过预设分类模型对所述目标图像进行违规分类，获得所述目标图像的目标违规分类信息之前，还包括：

6、将待分类图像按照预设输入尺寸进行裁剪，得到目标图像；

7、通过预设判断模型对所述目标图像进行违规判断，以确定所述目标图像是否为违规图像。

8、可选地，所述根据所述目标违规分类信息确定所述目标图像所属的分类类别之后，还包括：

9、获取所述目标图像的账户来源信息；

10、根据所述账户来源信息确定所述目标图像的来源账户；

11、通过所述预设分类模型对所述来源账户进行风险评估，得到账户评估结果。

12、可选地，所述通过所述预设分类模型对所述来源账户进行风险评估，得到账户评估结果，包括：

13、获取所述来源账户的图像记录信息；

14、根据所述图像记录信息得到多个抽检图像；

15、通过预设分类模型对所述抽检图像进行违规分类，获得所述抽检图像的抽检违规分类信息；

16、根据所述抽检违规分类信息确定所述来源账户的账户评估结果。

17、可选地，所述根据所述抽检违规分类信息确定所述来源账户的账户评估结果，包括：

18、根据所述抽检违规分类信息确定所述抽检图像所属的分类类别；

19、根据所述抽检图像所属的分类类别确定抽检违规率；

20、根据所述抽检违规率确定所述来源账户的账户评估结果。

21、可选地，所述根据所述抽检违规率确定所述来源账户的账户评估结果，包括：

22、当所述抽检违规率超过预设拉黑阈值时，将所述账户评估结果确定为将所述来源账户设定为黑名单账户；

23、当所述抽检违规率未超过预设拉黑阈值时，将所述账户评估结果确定为将所述来源账户设定为警告帐户。

24、可选地，所述当所述抽检违规率超过预设拉黑阈值时，将所述账户评估结果确定为将所述来源账户设定为黑名单账户之后，还包括：

25、获取所述黑名单账户的账户身份信息；

26、根据所述账户身份信息将所述黑名单账户加入违规账户名单；

27、禁止所述违规账户名单中的所述黑名单账户进行图像传输。

28、可选地，所述当所述抽检违规率未超过预设拉黑阈值时，将所述账户评估结果确定为将所述来源账户设定为警告帐户之后，还包括：

29、获取所述警告账户的登录设备信息；

30、根据所述登录设备信息向所述警告账户的登录设备发送警告信息，以提示所述警告账户避免发送违规图像。

31、可选地，所述根据所述目标违规分类信息确定所述目标图像所属的分类类别之后，还包括：

32、获取所述目标图像的图像参数信息；

33、根据所述图像参数信息确定所述目标图像的图像来源信息；

34、根据所述图像来源信息更新违规站点名单。

35、可选地，所述根据所述图像来源信息更新违规站点名单，包括：

36、根据所述图像来源信息确定所述目标图像的来源站点；

37、根据所述来源站点和所述目标图像所属的分类类别确定所述来源站点和分类类别的对应关系；

38、根据所述对应关系更新违规站点名单。

39、可选地，所述根据所述对应关系更新违规站点名单之后，还包括：

40、当接收到来自用户账户的图像传输请求时，获取图像传输信息；

41、根据所述图像传输信息确定待传输图像的传输来源站点；

42、当所述传输来源站点与所述违规站点名单中的站点相同时，拒绝所述图像传输请求，并向所述用户账户反馈图像报警信息。

43、此外，为实现上述目的，本发明还提出一种违规图像分类装置，所述违规图像分类装置包括：

44、分析模块，用于当目标图像被认定为违规图像时，通过预设分类模型对所述目标图像进行违规分类，获得所述目标图像的目标违规分类信息，所述预设分类模型用于表征图像与违规分类信息之间的对应关系；

45、分类模块，用于根据所述目标违规分类信息确定所述目标图像所属的分类类别。

46、可选地，所述分析模块，还用于将待分类图像按照预设输入尺寸进行裁剪，得到目标图像；通过预设判断模型对所述目标图像进行违规判断，以确定所述目标图像是否为违规图像。

47、可选地，所述分类模块，还用于获取所述目标图像的账户来源信息；根据所述账户来源信息确定所述目标图像的来源账户；通过所述预设分类模型对所述来源账户进行风险评估，得到账户评估结果。

48、可选地，所述分类模块，还用于获取所述来源账户的图像记录信息；根据所述图像记录信息得到多个抽检图像；通过预设分类模型对所述抽检图像进行违规分类，获得所述抽检图像的抽检违规分类信息；根据所述抽检违规分类信息确定所述来源账户的账户评估结果。

49、可选地，所述分类模块，还用于根据所述抽检违规分类信息确定所述抽检图像所属的分类类别；根据所述抽检图像所属的分类类别确定抽检违规率；根据所述抽检违规率确定所述来源账户的账户评估结果。

50、可选地，所述分类模块，还用于当所述抽检违规率超过预设拉黑阈值时，将所述账户评估结果确定为将所述来源账户设定为黑名单账户；当所述抽检违规率未超过预设拉黑阈值时，将所述账户评估结果确定为将所述来源账户设定为警告帐户。

51、可选地，所述分类模块，还用于获取所述黑名单账户的账户身份信息；根据所述账户身份信息将所述黑名单账户加入违规账户名单；禁止所述违规账户名单中的所述黑名单账户进行图像传输。

52、此外，为实现上述目的，本发明还提出一种违规图像分类设备，所述违规图像分类设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的违规图像分类程序，所述违规图像分类程序配置为实现如上文所述的违规图像分类方法的步骤。

53、此外，为实现上述目的，本发明还提出一种存储介质，所述存储介质上存储有违规图像分类程序，所述违规图像分类程序被处理器执行时实现如上文所述的违规图像分类方法的步骤。

54、本发明当目标图像被认定为违规图像时，通过预设分类模型对所述目标图像进行违规分类，获得所述目标图像的目标违规分类信息，所述预设分类模型用于表征图像与违规分类信息之间的对应关系；根据所述目标违规分类信息确定所述目标图像所属的分类类别。通过这种方式，实现了在目标图像被认定为违规图像之后通过预设分类模型直接对目标图像进行违规分类，得到了目标违规分类信息，然后根据目标违规分类信息得到了目标图像所述的分类类别，使得目标图像的违规具体分类可以不经过人工审核和分类直接得到，更加有效率和准确。