基于人工智能的内容审核方法及系统与流程

1.本发明涉及互联网以及图像领域，具体涉及一种基于人工智能的内容审核方法及系统。


背景技术：

2.内容审核是很多互联网平台必须要进行的审核方式，随着短视频的兴起，短视频的审核数量越来越多，通过人工审核的方式已经无法满足内容审核的要求，尤其是对于短视频，其可以通过拼接(例如画中画)的方式来实现整体视频的呈现，此种内容通过单一的审核无法得到结果，因此需要一种人工智能的审核方式来实现对内容的审核，提高审核的准确性。


技术实现要素：

3.本发明实施例提供了一种基于人工智能的内容审核方法及系统，对短视频的拼接进行人工智能的审核，提高审核的准确性，具有提高用户体验度的优点。
4.第一方面，本发明实施例提供一种基于人工智能的内容审核方法，所述方法包括如下步骤：
5.计算机设备接收待审核的内容，该内容可以为：短视频；
6.计算机设备将短视频进行检测确定是否为画中画视频，若为画中画视频，将画中画视频拆分成2个视频，将2个视频中每个视频作为单一视频执行内容审核；若为非画中画视频，将短视频作为单一视频执行内容审核；
7.计算机设备确定每个视频均审核通过时，确定画中画视频内容审核通过，确定多个视频中任意一个视频审核不通过时，确定画中画视频内容审核不通过。
8.第二方面，提供一种基于人工智能的内容审核系统，所述系统包括：
9.通信单元，用于接收待审核的内容，该内容可以为：短视频；
10.审核单元，用于将短视频进行检测确定是否为画中画视频，若为画中画视频，将画中画视频拆分成2个视频，将2个视频中每个视频作为单一视频执行内容审核；若为非画中画视频，将短视频作为单一视频执行内容审核；确定每个视频均审核通过时，确定画中画视频内容审核通过，确定多个视频中任意一个视频审核不通过时，确定画中画视频内容审核不通过。
11.第三方面，提供一种计算机可读存储介质，其存储用于电子数据交换的程序，其中，所述程序使得终端执行第一方面提供的方法。
12.实施本发明实施例，具有如下有益效果：本技术提供的技术方案计算机设备接收待审核的内容，该内容可以为：短视频；计算机设备将短视频进行检测确定是否为画中画视频，若为画中画视频，将画中画视频拆分成多个视频，将多个视频中每个视频作为单一视频执行内容审核；若为非画中画视频，将短视频作为单一视频执行内容审核；计算机设备确定每个视频均审核通过时，确定画中画视频内容审核通过，确定多个视频中任意一个视频审
核不通过时，确定画中画视频内容审核不通过。这样通过对短视频执行不同的策略进行内容审核，提高了审核的准确性，提高了用户体验度。
附图说明
13.为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
14.图1是一种计算机设备的结构示意图
15.图2是一种基于人工智能的内容审核方法的流程示意图；
16.图3是一种基于人工智能的内容审核系统的结构示意图。
具体实施方式
17.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
18.本发明的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
19.在本文中提及“实施例”意味着，结合实施例描述的特定特征、结果或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
20.参阅图1，图1提供了一种计算机设备，具体的，上述计算机设备可以为ios、安卓、鸿蒙等操作系统的计算机设备，当然也可以为其他系统的计算机设备，本技术并不限制上述具体的操作系统。上述计算机设备可以通过无线方式与其他设备连接，当然还可以通过有线方式与其他设备链接，该计算机设备具体可以为：个人电脑、服务器、智能手机、平板电脑等等。
21.对于短视频来说，由于其剪切的方式非常多，对于互联网平台来说，其是允许引用部分已知的短视频的，例如视频a+原创视频b是允许的，但是对于视频a+非原创视频b的拼接视频c，视频c是一个单独的视频，其在比对时与视频a和视频b均不相似，但是此种方式的视频属于简单的拼接，这在互联网视频平台是不允许的，但是由于视频c的内容属于独立的内容，通过现有的人工智能的审核无法有效的审核出来，因此需要一种新的人工智能的内容审核方法来实现对这些视频的审核。
22.参阅图2，图2为本技术提供的一种基于人工智能的内容审核方法的流程示意图，该方法由如图1所示的计算机设备执行，如图2所示，包括如下步骤：
23.步骤s201、计算机设备接收待审核的内容，该内容可以为：短视频；
24.上述短视频可以为不同平台的短视频，本技术并不限制上述平台的具体表现形式。
25.步骤s202、计算机设备将短视频进行检测确定是否为画中画视频，若为画中画视频，将画中画视频拆分成2个视频，将2个视频中每个视频作为单一视频执行内容审核；若为非画中画视频，将短视频作为单一视频执行内容审核；
26.步骤s203、计算机设备确定每个视频均审核通过时，确定画中画视频内容审核通过，确定多个视频中任意一个视频审核不通过时，确定画中画视频内容审核不通过。
27.本技术提供的技术方案计算机设备接收待审核的内容，该内容可以为：短视频；计算机设备将短视频进行检测确定是否为画中画视频，若为画中画视频，将画中画视频拆分成多个视频，将多个视频中每个视频作为单一视频执行内容审核；若为非画中画视频，将短视频作为单一视频执行内容审核；计算机设备确定每个视频均审核通过时，确定画中画视频内容审核通过，确定多个视频中任意一个视频审核不通过时，确定画中画视频内容审核不通过。这样通过对短视频执行不同的策略进行内容审核，提高了审核的准确性，提高了用户体验度。
28.示例的，上述计算机设备将短视频进行检测确定是否为画中画视频具体可以包括：
29.计算机设备将短视频按竖直方向划分成n个等份，提取n个等份中第一等份的x帧子图片，将x帧子图片的每帧子图片的像素点的rgb值组成x个矩阵，计算相邻帧子图片对应的矩阵之间的差值确定x个差值矩阵，从x个差值矩阵中获取非0元素对应的像素点区域确定为待确定子区域，遍历n个等份得到n个确定子区域，将n个确定子区域按从左至右的顺序连接起来得到短视频区域，提取n个等份中第一等份在短视频区域的第一子视频，将第一子视频的第一帧图片按竖直方向等分成2份，将2份的像素点的rgb值分别组成第一子矩阵和第二子矩阵，计算第一子矩阵与第二子矩阵的差得到第一差子矩阵，计算第一差子矩阵所有元素值的平均值得到第一平均值，将第一子视频的x帧遍历得到第一子视频的x个帧的平均值，计算第一子视频的所有平均值方差以及所有平均值的平均值即总平均值，若方差小于方差阈值且总平均值大于平均阈值，确定该短视频具有画中画视频。上述n可以为大于等于10的整数。
30.示例的，上述将画中画视频拆分成2个视频具体可以包括：
31.将画中画视频的短视频区域按竖直方向划分成2个等份，每个等份对应一个单一视频。
32.上述确定画中画的方式是通过对画中画视频的确认来得到，对于画中画视频，其一般为上下分布或左右分布，上述主要解决的为上下分布的方式，首先确定短视频的关注区域(因为短视频上、下可能具有不具有视频区域，即非关注区域，例如黑色区域)，因此需要将关注区域确定出来，然后将关注区域进行上、下等份的划分得到两个子矩阵，对于同帧视频来说，由于这里取的是最边缘的区域，其变化相对较小，因为大概率是关注区域的背景区域，这样等分两个部分以后，若是完全相同的视频(即非画中画视频)，由于视频的关联性，上下两个矩阵的差值一般不会太大，但是对于画中画视频，由于上、下两个视频属于完全不同的视频，因此上、下变化会非常大，因此其差值一般会比较大，但是差值波动会比较
小，即方差会较小，通过此种检测即能够实现对画中画的检测。下面说明下左、右结构的检测的技术方案。
33.示例的，上述计算机设备将短视频进行检测确定是否为画中画视频具体可以包括：
34.计算机设备将短视频按水平方向划分成n个等份，提取n个等份中第一等份的x帧子图片，将x帧子图片的每帧子图片的像素点的rgb值组成x个矩阵，计算相邻帧子图片对应的矩阵之间的差值确定x个差值矩阵，从x个差值矩阵中获取非0元素对应的像素点区域确定为待确定子区域，遍历n个等份得到n个确定子区域，将n个确定子区域按从上至下的顺序连接起来得到短视频区域，提取n个等份中第一等份在短视频区域的第一子视频，将第一子视频的第一帧图片按水平方向等分成2份，将2份的像素点的rgb值分别组成第一子矩阵和第二子矩阵，计算第一子矩阵与第二子矩阵的差得到第一差子矩阵，计算第一差子矩阵所有元素值的平均值得到第一平均值，将第一子视频的x帧遍历得到第一子视频的x个帧的平均值，计算第一子视频的所有平均值方差以及所有平均值的平均值即总平均值，若方差小于方差阈值且总平均值大于平均阈值，确定该短视频具有画中画视频。
35.示例的，上述将画中画视频拆分成2个视频具体可以包括：
36.将画中画视频的短视频区域按水平方向划分成2个等份，每个等份对应一个单一视频。
37.示例的，上述将短视频作为单一视频执行内容审核的具体方式可以采用平台的审核方式，这里对单一视频的审核方式并不限制。
38.参阅图3，图3为本技术提供的一种基于人工智能的内容审核系统，所述系统包括：
39.通信单元301，用于接收待审核的内容，该内容可以为：短视频；
40.审核单元302，用于将短视频进行检测确定是否为画中画视频，若为画中画视频，将画中画视频拆分成2个视频，将2个视频中每个视频作为单一视频执行内容审核；若为非画中画视频，将短视频作为单一视频执行内容审核；确定每个视频均审核通过时，确定画中画视频内容审核通过，确定多个视频中任意一个视频审核不通过时，确定画中画视频内容审核不通过。
41.示例的，
42.所述审核单元，具体用于将短视频按竖直方向划分成n个等份，提取n个等份中第一等份的x帧子图片，将x帧子图片的每帧子图片的像素点的rgb值组成x个矩阵，计算相邻帧子图片对应的矩阵之间的差值确定x个差值矩阵，从x个差值矩阵中获取非0元素对应的像素点区域确定为待确定子区域，遍历n个等份得到n个确定子区域，将n个确定子区域按从左至右的顺序连接起来得到短视频区域，提取n个等份中第一等份在短视频区域的第一子视频，将第一子视频的第一帧图片按竖直方向等分成2份，将2份的像素点的rgb值分别组成第一子矩阵和第二子矩阵，计算第一子矩阵与第二子矩阵的差得到第一差子矩阵，计算第一差子矩阵所有元素值的平均值得到第一平均值，将第一子视频的x帧遍历得到第一子视频的x个帧的平均值，计算第一子视频的所有平均值方差以及所有平均值的平均值即总平均值，若方差小于方差阈值且总平均值大于平均阈值，确定该短视频具有画中画视频；上述n为大于等于10的整数。
43.示例的，
44.所述审核单元，具体用于将画中画视频的短视频区域按竖直方向划分成2个等份，每个等份对应一个单一视频。
45.示例的，
46.所述审核单元，具体用于将短视频按水平方向划分成n个等份，提取n个等份中第一等份的x帧子图片，将x帧子图片的每帧子图片的像素点的rgb值组成x个矩阵，计算相邻帧子图片对应的矩阵之间的差值确定x个差值矩阵，从x个差值矩阵中获取非0元素对应的像素点区域确定为待确定子区域，遍历n个等份得到n个确定子区域，将n个确定子区域按从上至下的顺序连接起来得到短视频区域，提取n个等份中第一等份在短视频区域的第一子视频，将第一子视频的第一帧图片按水平方向等分成2份，将2份的像素点的rgb值分别组成第一子矩阵和第二子矩阵，计算第一子矩阵与第二子矩阵的差得到第一差子矩阵，计算第一差子矩阵所有元素值的平均值得到第一平均值，将第一子视频的x帧遍历得到第一子视频的x个帧的平均值，计算第一子视频的所有平均值方差以及所有平均值的平均值即总平均值，若方差小于方差阈值且总平均值大于平均阈值，确定该短视频具有画中画视频；所述n为大于等于10的整数。
47.示例的，
48.所述审核单元，具体用于将画中画视频的短视频区域按水平方向划分成2个等份，每个等份对应一个单一视频。
49.示例的，本技术实施例中的审核单元可以用于执行如图2所示实施例的细化方案、可选方案等，这里不再赘述。
50.本发明实施例还提供一种计算机存储介质，其中，该计算机存储介质存储用于电子数据交换的计算机程序，该计算机程序使得计算机执行如上述方法实施例中记载的任何一种基于人工智能的内容审核方法的部分或全部步骤。
51.本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，所述计算机程序可操作来使计算机执行如上述方法实施例中记载的任何一种基于人工智能的内容审核方法的部分或全部步骤。
52.需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以接收其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本发明所必须的。
53.在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
54.在本技术所提供的几个实施例中，应该理解到，所揭露的装置，可通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性或其它的形式。
55.本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可
以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储器中，存储器可以包括：闪存盘、只读存储器(英文：read-only memory，简称：rom)、随机存取器(英文：random access memory，简称：ram)、磁盘或光盘等。
56.以上对本发明实施例进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。