一种媒体内容自动检测审核方法与审核系统与流程

1.本发明涉及媒体内容审核技术领域，具体地说就是一种媒体内容自动检测审核方法与审核系统。


背景技术：

2.随着自媒体与短视频的不断发展以及新一代基础设施建设的不断推进，媒体审核部门对于自媒体以及短视频节目审核需求日益增加。与此同时，自媒体朝着信息化、精细化以及智能化的方向发展。自媒体以及相关应用程序内容繁多，种类复杂，作品质量良莠不齐，部分自媒体和短视频会在节目中插播色情和暴力内容，对观众产生不良影响。自媒体和短视频发展迅速，传统的审核方式已完全不足以应对当前形势，比如，人力不足、审核人员的素值良莠不齐等，会造成审核素材的错检和漏检。


技术实现要素：

3.为解决上述人工视频审核素材的错检和漏检的问题，本发明提供了一种媒体内容自动检测审核方法与审核系统。
4.本发明解决其技术问题所采取的技术方案是：一种媒体内容自动检测审核方法，包括以下步骤：
5.s1.建立元素行为库，预设多个动作元素；
6.s2.屏幕捕获：对安卓设备屏幕显示内容进行捕捉，并对屏幕内容进行识别，获取屏幕元素；
7.s3.元素语义分析：首先提取步骤s2中的屏幕元素的坐标及尺寸，获得截取准确的屏幕元素，对屏幕元素进行语义分析，得到精准的上下文语义；
8.s4.建立元素-行为匹配库：将步骤s3中分析得到的语义与步骤s1中的元素行为库进行匹配得到元素-行为匹配库；
9.s5.建立元素-坐标库：重新对屏幕元素与坐标尺寸进行匹配，得到元素
‑ꢀ
坐标，建立元素-坐标库。
10.s6.建立策略库：设置自动化操作流程，对屏幕元素进行自动化操作；
11.s7.建立策略-动作库：通过s6的策略库对s5中重新匹配坐标尺寸的元素动作进行自动化串联，得到完整的自动化操作流程，即策略-动作库；
12.s8.元素动作审核：将步骤s7中得到的自动化操作流程作为数据拉取的输入源头，对屏幕内容进行检测并记录。
13.作为优化，步骤s1中所述的元素行为库中的动作元素包括侵权内容、低俗内容、违规营销内容、过度营销内容、违法违规内容、令人不适内容、诱导性内容和色情内容。
14.作为优化，所述的步骤s3中元素语义分析包括对光学字符识别得到的文字信息的语义分析和图标信息中元素特征的语义分析。
15.一种媒体内容自动检测审核系统，包括上述媒体内容自动检测审核方法，包括如
下部分：
16.屏幕捕获部分用于截取屏幕，获取屏幕内容；
17.元素语义分析部分用于对屏幕内容进行分割，针对分割后的屏幕内容中包含的元素进行语义分析；
18.元素-动作-策略匹配部分用于将元素分析后的语义与元素行为库进行匹配，决定针对元素的动作，由策略库对元素动作进行串联，得到完整的自动化操作流程；
19.数据拉取部分用于对输入源进行检测和记录。
20.作为优化，所述的屏幕捕获部分包括获取屏幕图片模块和识别屏幕元素模块，所述的获取屏幕图片用于对安卓设备的屏幕内容进行截取，所述的识别屏幕元素模块用于对截取屏幕中包含的图标信息、文字信息和元素坐标及尺寸进行识别和分割。
21.作为优化，所述的元素语义分析部分包括文字信息分析部分和图标信息分析部分，所述的文字信息分析部分包括光学字符识别模块和语义分析模块，所述的图标信息分析模块包括提取元素特征模块和语义分析模块。
22.作为优化，所述的元素-动作-策略匹配部分包括元素行为库模块、元素
‑ꢀ
行为匹配模块、元素-坐标匹配模块、策略库和策略-动作匹配模块，元素行为库模块用于储存侵权内容、低俗内容、违规营销内容、过度营销内容、违法违规内容、令人不适内容、诱导性内容和色情内容的动作元素，元素-行为匹配模块用于将元素语义分析部分处理过的屏幕内容与元素行为库模块中的动作元素进行匹配，元素-坐标匹配模块用于将经过元素行为匹配模块匹配后的动作元素进行定位，策略库用于储存目标元素行为的处理操作流程，策略-动作匹配模块用于将策略库中的处理策略与目标元素进行匹配。
23.作为优化，所述的数据拉取部分通过安卓调试桥对安卓系统设备进行连接，所述的数据拉取部分流程为：
24.第一步，先滑动屏幕获取一个稳定位置；
25.第二步，检测是否有目标元素，该目标元素是通过元素语义分析部分分析得出，如条件为真则进行模拟点击，进入下一界面；如条件为假，则继续滑动屏幕，此方法可以过滤非兴趣页面；如界面为兴趣界面，则寻找目标结果，目标结果可分为文字、视频等；
26.第三步，对目标结果进行录屏操作；
27.第四步，将录屏结果进行违规内容分析，如果存在违规内容，则存入违规内容库。
28.本方案的有益效果是，一种媒体内容自动检测审核方法与审核系统，具有以下有益之处：
29.(1)媒体内容获取效率提高
30.本发明所提出的媒体内容获取方法，相对于传统物理获取方法，无需进行庞大的逆向工程，效率高；
31.(2)媒体内容获取灵活性高
32.本发明所提出的媒体内容获取方法，能够灵活适应媒体页面更新以及报文内容更新，传统逆向工程方法需要再次投入巨大工程量，因此本发明提出方法更具有灵活性；
33.(3)节约了人工审核成本
34.传统软件内容审核需要人工逐一查看，对于视频审核领域投入时间大且容易漏检，本发明所提出的内容自动捕获方法可以进行自动审核与证据留存，可以进行24小时不
间断工作，能够大大减少人工成本。
附图说明
35.附图1为本发明媒体内容自动检测审核系统系统流程图。
36.附图2为本发明数据拉取部分系统流程图。
37.其中，1、获取屏幕图片模块，2、识别屏幕元素模块，3、图标信息，4、文字信息，5、元素坐标及尺寸，6、光学字符识别模块，7、语义分析模块， 8、提取元素特征模块，9、元素行为库模块，10、元素-行为匹配模块，11、元素-坐标匹配模块，12、策略库，13、策略-动作匹配模块。
具体实施方式
38.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
39.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
40.在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该发明产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
41.一种媒体内容自动检测审核方法，包括以下步骤：
42.s1.建立元素行为库，预设多个动作元素；
43.s2.屏幕捕获：对安卓设备屏幕显示内容进行捕捉，并对屏幕内容进行识别，获取屏幕元素；
44.s3.元素语义分析：首先提取步骤s2中的屏幕元素的坐标及尺寸，获得截取准确的屏幕元素，对屏幕元素进行语义分析，得到精准的上下文语义；
45.s4.建立元素-行为匹配库：将步骤s3中分析得到的语义与步骤s1中的元素行为库进行匹配得到元素-行为匹配库；
46.s5.建立元素-坐标库：重新对屏幕元素与坐标尺寸进行匹配，得到元素
‑ꢀ
坐标，建立元素-坐标库。
47.s6.建立策略库12：设置自动化操作流程，对屏幕元素进行自动化操作；
48.s7.建立策略-动作库：通过s6的策略库12对s5中重新匹配坐标尺寸的元素动作进行自动化串联，得到完整的自动化操作流程，即策略-动作库；
49.s8.元素动作审核：将步骤s7中得到的自动化操作流程作为数据拉取的输入源头，对屏幕内容进行检测并记录。
50.步骤s1中所述的元素行为库中的动作元素包括侵权内容、低俗内容、违规营销内容、过度营销内容、违法违规内容、令人不适内容、诱导性内容和色情内容。
51.所述的步骤s3中元素语义分析包括对光学字符识别得到的文字信息4的语义分析和图标信息3中元素特征的语义分析。
52.一种媒体内容自动检测审核系统，上述媒体内容自动检测审核方法，包括如下部分：
53.屏幕捕获部分用于截取屏幕，获取屏幕内容；
54.元素语义分析部分用于对屏幕内容进行分割，针对分割后的屏幕内容中包含的元素进行语义分析；
55.元素-动作-策略匹配部分用于将元素分析后的语义与元素行为库进行匹配，决定针对元素的动作，由策略库12对元素动作进行串联，得到完整的自动化操作流程；
56.数据拉取部分用于对输入源进行检测和记录。
57.如图1所示，所述的屏幕捕获部分包括获取屏幕图片模块1和识别屏幕元素模块2，所述的获取屏幕图片模块1用于对安卓设备的屏幕内容进行截取，所述的识别屏幕元素模块2用于对截取屏幕中包含的图标信息3、文字信息4 和元素坐标及尺寸5进行识别和分割。
58.如图1所示，所述的元素语义分析部分包括文字信息4分析部分和图标信息3分析部分，所述的文字信息4分析部分包括光学字符识别模块6和语义分析模块7，所述的图标信息3分析模块包括提取元素特征模块8和语义分析模块7。
59.如图1所示，所述的元素-动作-策略匹配部分包括元素行为库模块9、元素-行为匹配模块10、元素-坐标匹配模块11、策略库12和策略-动作匹配模块13，元素行为库模块9用于储存侵权内容、低俗内容、违规营销内容、过度营销内容、违法违规内容、令人不适内容、诱导性内容和色情内容的动作元素，元素-行为匹配模块10用于将元素语义分析部分处理过的屏幕内容与元素行为库模块9中的动作元素进行匹配，元素-坐标匹配模块11用于将经过元素行为匹配模块匹配后的动作元素进行定位，策略库12用于储存目标元素行为的处理操作流程，策略-动作匹配模块13用于将策略库12中的处理策略与目标元素进行匹配。
60.所述的数据拉取部分通过安卓调试桥对安卓系统设备进行连接，所述的数据拉取部分流程为：
61.第一步，先滑动屏幕获取一个稳定位置；
62.第二步，检测是否有目标元素，该目标元素是通过元素语义分析部分分析得出，如条件为真则进行模拟点击，进入下一界面；如条件为假，则继续滑动屏幕，此方法可以过滤非兴趣页面；如界面为兴趣界面，则寻找目标结果，目标结果可分为文字、视频等；
63.第三步，对目标结果进行录屏操作；
64.第四步，将录屏结果进行违规内容分析，如果存在违规内容，则存入违规内容库。
65.本发明所采用的的技术方案在具体实施时，包括如下步骤：
66.a.将带有本技术的系统的主机通过数据线与基于安卓操作系统的设备进行连接，启用开发者模式，并同意usb调试；
67.b.在基于安卓系统的设备上启动需要监测的软件，在主机上点击启动实时检测后
台程序；
68.c.安卓系统设备将实时的屏幕信息传递给后台检测系统，由后台检测系统进行自动化智能分析；
69.d.通过本技术的系统和方法分析得出兴趣界面和界面元素-动作匹配库；
70.e.在步骤d后通过安卓调试桥对当前屏幕进行操作，当对兴趣区域进行分析后，得出是否违规的结论，如果有违规内容，则进行记录并存档。
71.上述具体实施方式仅是本发明的具体个案，本发明的专利保护范围包括但不限于上述具体实施方式的产品形态和式样，任何符合本发明权利要求书的一种媒体内容自动检测审核方法与审核系统且任何所属技术领域的普通技术人员对其所做的适当变化或修饰，皆应落入本发明的专利保护范围。