视频审核方法及装置、电子设备及可读存储介质与流程

本申请涉及互联网技术领域，具体而言，涉及一种视频审核方法及装置、电子设备及可读存储介质。

背景技术：

随着互联网技术的不断发展，大量的视频(例如，直播视频及用户自行上传的视频等)被上传到网络上进行传播及分享，这些视频中可能存在部分视频包括有违规内容(例如，衣着暴露内容、宣传邪教内容及血腥暴戾内容等)。因此，为避免存在违规内容的视频流通到网络中，通常需要对视频本身进行审核。

目前，业界主流通常采用对视频画面进行人工审核，来完成全部的视频审核操作。这种审核方式仅是对视频在画面上的表现情况进行审核，使最终得到的审核结果并不能真实反映出视频是否违规，容易致使存在违规内容的视频流入到网络中，造成不良影响。

技术实现要素：

有鉴于此，本申请的目的在于提供一种视频审核方法及装置、电子设备及可读存储介质，其能够对待审核的视频进行多方面地审核，得到真实有效的审核结果，尽可能地避免存在违规内容的视频流入到网络中，降低产生不良影响的概率。

为了实现上述目的，本申请实施例采用的技术方案如下：

第一方面，本申请实施例提供一种视频审核方法，所述方法包括：

提取待审核视频的待审核对象，其中所述待审核对象包括画面内容、文本内容及封面图像中的多种组合；

将不同的待审核对象发送给对应的客户端进行审核。

第二方面，本申请实施例提供一种视频审核装置，所述装置包括：

审核对象提取模块，用于提取待审核视频的待审核对象，其中所述待审核对象包括画面内容、文本内容及封面图像中的多种组合；

审核对象发送模块，用于将不同的待审核对象发送给对应的客户端进行审核。

第三方面，本申请实施例提供一种电子设备，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的机器可执行指令，所述处理器可执行所述机器可执行指令，以实现前述实施方式中的视频审核方法。

第四方面，本申请实施例提供一种可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现前述实施方式中的视频审核方法。

相对于现有技术而言，本申请具有以下有益效果：

本申请在得到待审核视频时，通过从该待审核视频中提取出对应的待审核对象，其中待审核对象包括该待审核视频的画面内容、文本内容及封面图像中的多种组合，而后本申请将提取出的不同待审核对象发送给各自对应的客户端，使每个客户端对接收到的待审核对象进行审核，从而针对待审核的视频实现全面审核，确保最终得到的审核结果能够真实反映出该视频的违规情况，尽可能地避免存在违规内容的视频流入到网络中，降低产生不良影响的概率。

为使本申请的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本申请第一实施例提供的电子设备的结构方框示意图；

图2为本申请第二实施例提供的视频审核方法的流程示意图；

图3为本申请第三实施例提供的视频审核方法的流程示意图；

图4为图3中的步骤s220包括的子步骤的流程示意图；

图5为图3中的步骤s230包括的子步骤的流程示意图之一；

图6为图3中的步骤s230包括的子步骤的流程示意图之二；

图7为图3中的步骤s230包括的子步骤的流程示意图之三；

图8为图3中的步骤s240包括的子步骤的流程示意图；

图9为本申请第四实施例提供的视频审核方法的流程示意图；

图10为图9中的步骤s250包括的子步骤的流程示意图；

图11为本申请第五实施例提供的视频审核装置的功能模块示意图。

图标：10-电子设备；11-存储器；12-处理器；13-通信单元；100-视频审核装置；110-审核对象提取模块；120-审核对象发送模块。

具体实施方式

下面将结合本申请实施例中附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

需要说明的是，术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

第一实施例

请参照图1，图1是本申请第一实施例提供的电子设备10的结构方框示意图。在本申请实施例中，所述电子设备10可用于对待审核的视频进行多方面地审核，以确保最终得到的审核结果能够真实反映出该视频的违规情况，尽可能地避免存在违规内容的视频流入到网络中，并尽量避免产生不良影响。其中，所述电子设备10可以是，但不限于，服务器、个人电脑(personalcomputer，pc)、个人数字助理(personaldigitalassistant，pda)、移动上网设备(mobileinternetdevice，mid)等。

在本实施例中，所述电子设备10包括视频审核装置100、存储器11、处理器12及通信单元13。所述存储器11、所述处理器12及所述通信单元13各个元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，所述存储器11、所述处理器12及所述通信单元13这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。

在本实施例中，所述存储器11可用于存储程序，所述处理器12在接收到执行指令后，可相应地执行所述程序。其中，所述存储器11可以是，但不限于，随机存取存储器(randomaccessmemory，ram)，只读存储器(readonlymemory，rom)，可编程只读存储器(programmableread-onlymemory，prom)，可擦除只读存储器(erasableprogrammableread-onlymemory，eprom)，电可擦除只读存储器(electricerasableprogrammableread-onlymemory，eeprom)等。

在本实施例中，所述处理器12可以是一种具有信号的处理能力的集成电路芯片。所述处理器12可以是通用处理器，包括中央处理器(centralprocessingunit，cpu)及网络处理器(networkprocessor，np)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。

在本实施例中，所述通信单元13用于通过有线网络或无线网络建立所述电子设备10与其他终端设备之间的通信连接，例如，所述电子设备10通过所述通信单元13获取需要审核的视频，并与用于对视频进行审核的客户端进行数据交互。

在本实施例中，所述视频审核装置100包括至少一个能够以软件或固件的形式存储于所述存储器11中或固化在所述电子设备10的操作系统中的软件功能模块。所述处理器12可用于执行所述存储器11存储的可执行模块，例如所述视频审核装置100所包括软件功能模块及计算机程序等。所述电子设备10通过所述视频审核装置100完成对待审核的视频的全面审核操作，得到真实有效的审核结果，从而尽可能地避免存在违规内容的视频流入到网络中，降低产生不良影响的概率。

可以理解的是，图1所示的方框示意图仅为电子设备10的一种结构组成示意图，所述电子设备10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。

第二实施例

请参照图2，图2是本申请第二实施例提供的视频审核方法的流程示意图。在本申请实施例中，所述视频审核方法可由上述的电子设备10执行，用于对待审核的视频进行全面审核。下面对图2所示的视频审核方法的具体流程和步骤进行详细阐述。

步骤s210，提取待审核视频的待审核对象，其中所述待审核对象包括画面内容、文本内容及封面图像中的多种组合。

在本实施例中，待审核对象用于表示待审核视频在内容审核过程中的不同对象种类所对应的具体审核内容，对象种类用于表示对应待审核对象的具体审核类型，其中所述待审核对象包括所述待审核视频的画面内容、文本内容及封面图像中的多种组合。例如，画面内容所对应的对象种类为画面审核，文本内容所对应的对象种类为文本审核，封面图像所对应的对象种类为封面审核。

其中，当待审核对象为画面内容时，待审核视频的视频画面将被提取以被用于审核；当待审核对象为文本内容时，待审核视频的用于表示该视频的视频简介、剧情内容、主题标签等文字描述的描述文本，以及由该视频中的语音信息转换得到的语音文本将被提取以被用于审核；当待审核对象为封面图像时，待审核视频的视频封面将被提取以被用于审核。

进一步地，所述电子设备10在接收到需要审核的某个待审核视频时，会按照预设的对象种类组合对该待审核视频进行内容提取，从而得到该待审核视频的不同对象种类的待审核对象。其中，预设的对象种类组合可以是画面审核与文本审核的组合，则对应的待审核对象包括所述待审核视频的画面内容及文本内容；预设的对象种类组合也可以是画面审核与封面审核的组合，则对应的待审核对象包括所述待审核视频的画面内容及封面图像；预设的对象种类组合也可以是文本审核与封面审核的组合，则对应的待审核对象包括所述待审核视频的文本内容及封面图像；预设的对象种类组合还可以是画面审核、文本审核与封面审核的组合，则对应的待审核对象包括所述待审核视频的画面内容、文本内容及封面图像。

步骤s240，将不同的待审核对象发送给对应的客户端进行审核。

在本实施例中，不同客户端各自负责的对象种类的视频内容可以相同也可以不同，所述电子设备10通过将所述待审核视频的不同的待审核对象发送给对象种类对应的客户端进行审核，以确保对应客户端能够正常地完成对接收到的待审核对象的审核操作。

进一步地，每个需要审核的视频具有其对应的视频主题，视频主题用于表示对应视频所表达出的核心思想，所述视频主题可以包括爱国题材、科学技术、社会人文、自然景观、美食鉴赏等。其中，不同的视频所对应的视频主题可以相同也可以不同，而不同视频主题所对应的内容审核标准同样是可以相同也可以不同，同一视频的各项待审核对象的内容审核标准之间也存在较大差异，所述内容审核标准用于表示对应视频主题的视频在进行内容审核时的违规评判尺度。为此，本申请通过针对与所述电子设备10通信连接的每个客户端配置各自负责的视频主题类别及对象审核类型，使每个客户端仅对视频主题及对象种类匹配的视频内容进行审核，确保对应客户端能够持续地对某一种视频主题下的某一类视频内容进行审核，尽量避免出现因混用审核标准而产生的误判现象，同时提高整个审核过程的审核效率。其中，所述客户端可以是，但不限于，个人电脑、个人数字助理及移动上网设备等。此时，所述将不同的待审核对象发送给对应的客户端进行审核，包括：

根据所述待审核视频的视频主题，将不同的待审核对象发送给与视频主题和对象种类对应的客户端进行审核。

具体地，所述电子设备10在从所述待审核视频中提取出不同对象种类的待审核对象后，通过对该待审核视频进行主题识别，获取到该待审核视频的视频主题，而后根据预设的每个客户端所负责的视频主题类别及对象审核类型，直接将该待审核视频的多项待审核对象分别发送给与该待审核视频的视频主题及对象种类均对应的客户端，由对应的客户端对接收到的待审核对象进行审核。

在本实施例的一种实施方式中，接收到待审核对象的客户端通过向审核人员展示该待审核对象，由审核人员根据与该待审核对象对应的内容审核标准进行人工审核。审核人员在得出针对该待审核对象的审核结果后，通过所述客户端向所述电子设备10反馈对应的人工审核结果，使所述电子设备10根据待审核视频的所有待审核对象各自对应的人工审核结果，判断该待审核视频是否存在违规内容，以及对应违规内容的分布位置。

在本实施例的另一种实施方式中，接收到待审核对象的客户端按照与该待审核对象对应的内容审核标准，自行地对该待审核对象进行内容审核，并在完成内容审核时向所述电子设备10反馈对应的机器审核结果，使所述电子设备10根据待审核视频的所有待审核对象各自对应的机器审核结果，判断该待审核视频是否存在违规内容，以及对应违规内容的分布位置。

其中，具体内容为画面内容的待审核对象为在被审核人员审核时，可通过按照图片墙的形式向审核人员展示一定数目的画面图像，或通过播放该待审核对象，供审核人员观看，以便于审核人员的审核操作。

具体内容为文本内容的待审核对象在被审核人员审核时，可由该审核人员从当前使用的客户端或其他设备处调用视频主题匹配的违规词库，来对该待审核对象进行违规词匹配操作，从而得到对应的审核结果。

具体内容为封面图像的待审核对象在被审核人员审核时，可由对应的客户端直接进行展示，以供审核人员观看，并进行相应的审核操作。

进一步地，所述电子设备10在待审核视频的至少一项待审核对象所对应的审核结果表示存在违规内容时，判定该待审核视频存在违规内容，并从表示存在违规内容的审核结果中确定出对应违规内容在待审核视频中的分布位置。

本申请实施例在得到待审核视频后，通过提取出该待审核视频的与预设的对象种类组合对应的待审核对象，并将提取出的不同待审核对象分配给视频主题对应且对象种类对应的客户端进行内容审核，从而达到对该待审核视频进行全面审核的效果，并最终得到能够真实反映视频违规情况的审核结果，以尽可能地避免存在违规内容的视频流入到网络中，降低产生不良影响的概率。同时，本申请实施例中的每个客户端仅对视频主题及对象种类匹配的视频内容进行审核，确保对应客户端能够持续地对某一种视频主题下的某一类视频内容进行审核，避免出现因混用审核标准而产生的误判现象，并提高整个视频审核过程的审核效率。

第三实施例

请参照图3，图3是本申请第三实施例提供的视频审核方法的流程示意图。在本申请实施例中，所述视频审核方法可由上述的电子设备10执行，用于实现对待审核的视频进行两次全面审核的功能。其中，对待审核的视频的初次全面审核操作直接由所述电子设备10实现，并由所述电子设备10将包括有初次全面审核结果的视频内容分配给对应客户端，使对应的客户端进行二次全面审核操作，从而达到充分利用电子设备10的计算资源，并降低客户端处的审核工作量，提高整体的视频审核效率的效果。下面对图3所示的视频审核方法的具体流程和步骤进行详细阐述。

步骤s210，提取待审核视频的待审核对象，其中所述待审核对象包括画面内容、文本内容及封面图像中的多种组合。

步骤s220，根据所述待审核视频的视频主题，确定用于进行内容审核的审核模板。

在本实施例中，所述电子设备10在得到待审核视频的各项待审核对象后，根据该待审核视频的视频主题确定出用于针对各项待审核对象进行内容审核的审核模板，以基于所述审核模板对所述各项待审核对象进行违规内容审核，从而完成初次全面审核操作。其中，所述审核模板可以是单独针对某个对象种类的待审核对象的模板，也可以是单独的一个包括有针对所有对象种类的待审核对象的内容审核标准的模板。

可选地，请参照图4，图4是图3中的步骤s220包括的子步骤的流程示意图。在本实施例中，所述步骤s220可以包括子步骤s221及子步骤s222。

子步骤s221，根据审核模板库与视频来源和视频主题之间的预设对应关系，查找与待审核视频的视频来源及视频主题匹配的审核模板库。

在本实施例中，视频来源用于表示对应视频的上传地址或上传应用，不同的视频来源所对应的内容审核标准可以相同也可以不同，例如视频来源为中国大陆时的内容审核标准，与视频来源为中国台湾或中国香港时的内容审核标准可能存在差异。不同的视频主题对应的内容审核标准同样是可以相同也可以不同，例如视频主题为爱国题材时的内容审核标准，与视频主题为社会人文时的内容审核标准可能存在差异。为此，本申请通过针对不同视频来源及不同视频主题创建对应的用于进行内容审核的审核模板库，得到审核模板库与视频来源和视频主题之间的预设对应关系，并在得到待审核视频各项待审核对象时，根据所述审核模板库与视频来源和视频主题之间的预设对应关系，从存储的所有审核模板库中筛选出与待审核视频的视频来源及视频主题匹配的审核模板库。

子步骤s222，从查找到的审核模板库中筛选出与所述待审核对象的对象种类对应的审核模板。

在本实施例中，一个审核模板库可以是存储至少一个涉及不同对象种类的审核模板，也可以是存储多个单独涉及一项对象种类的审核模板。所述电子设备10通过在与所述待审核视频的视频来源及视频主题匹配的审核模板库中，查找与所述待审核对象的对象种类对应的审核模板，确定出对应的用于对所述待审核视频的各项待审核对象进行内容审核的审核模板。

步骤s230，采用所述审核模板对所述待审核对象进行内容审核，并在所述待审核对象存在违规时，将该待审核对象标注为违规。

在本实施例中，当所述电子设备10确定出与所述待审核视频的各项待审核对象对应的审核模板后，所述电子设备10会针对不同待审核对象采用对象种类匹配的审核模板进行内容审核，并在该待审核对象存在违规时，在该待审核对象中完成违规标注操作，从而实现所述电子设备10对待审核的视频的初次全面审核操作。

可选地，请参照图5，图5是图3中的步骤s230包括的子步骤的流程示意图之一。在本实施例中，当待审核对象为画面内容时，所述步骤s230包括子步骤s231、子步骤s232及子步骤s233。

子步骤s231，按照预设采样频率对待审核视频的视频画面进行采样，得到多个视频帧图像。

在本实施例中，预设采样频率用于从待审核视频的整个视频画面中抽取部分视频图像进行内容审核。所述电子设备10根据预设采样频率从待审核视频的视频画面中，抽取出需要进行画面审核的多个视频帧图像。

子步骤s232，对每个视频帧图像进行特征识别，并将识别出的图像特征与审核模板记录的违规画面特征进行匹配。

在本实施例中，所述电子设备10按照各视频帧图像的被采样顺序，依次对每个视频帧图像进行图像特征识别，并将识别出的该视频帧图像的具体图像特征，与所述审核模板中记录的违规画面特征进行比对，以根据所述图像特征与所述违规画面特征之间的特征相似度，判断该视频帧图像的具体图像特征是否与违规画面特征匹配。在本实施例的一种实施方式中，若所述特征相似度大于第一预设相似度阈值时，判定该视频帧图像的图像特征与违规画面特征匹配，其中所述第一预设相似度阈值可以是85％，也可以是93％。

子步骤s233，若匹配成功，则在该视频帧图像上标注用于表示画面内容涉嫌违规的第一违规标识。

在本实施例中，所述电子设备10在确定出某个视频帧图像的图像特征与违规画面特征匹配时，判定该视频帧图像中存在违规，可直接在该视频帧图像上标注出第一违规标识，以表征该视频帧图像的画面内容涉嫌违规，也可在所述待审核视频的视频画面中的与该视频帧图像对应的画面位置处标注第一违规标识。

可选地，请参照图6，图6是图3中的步骤s230包括的子步骤的流程示意图之二。在本实施例中，当待审核对象为文本内容时，该待审核对象在待审核视频中的具体表现包括该待审核视频的描述文本及由该待审核视频的语音信息转换得到的语音文本，所述步骤s230包括子步骤s234及子步骤s235。

子步骤s234，对待审核视频的语音文本及描述文本进行文本分词，并将分词得到的每个词语与审核模板记录的敏感词汇进行匹配。

在本实施例中，所述电子设备10可通过对待审核视频的语音文本及描述文本进行分词识别处理，得到所述语音文本与所述描述文本各自包括的词语，并将得到的每个词语与审核模板中记录的敏感词汇进行匹配，以判断得到的该词语是否为敏感词汇。

子步骤s235，若匹配成功，则在对应的文本中标注用于表示文本内容涉嫌违规的第二违规标识。

在本实施例中，所述电子设备10在确定出语音文本或描述文本中存在与敏感词汇匹配的词语时，可在该词语所在文本中标注第二违规标识，以表征该文本的文本内容涉嫌违规。其中，所述电子设备10可对每个与敏感词汇匹配的词语进行第二违规标识标注操作，以进一步地缩减客户端在执行对文本内容进行二次全面审核操作时的审核工作量。

可选地，请参照图7，图7是图3中的步骤s230包括的子步骤的流程示意图之三。在本实施例中，当待审核对象为封面图像时，所述步骤s230包括子步骤s236及子步骤s237。

子步骤s236，对待审核视频的视频封面进行特征识别，并将识别出的图像特征与审核模板记录的违规封面特征进行匹配。

在本实施例中，所述电子设备10通过图像特征识别的手段，从所述待审核视频的视频封面中提取出对应的图像特征，而后通过将提取出的图像特征与审核模板中记录的违规封面特征进行特征匹配，以判断该视频封面是否涉嫌违规。

子步骤s237，若匹配成功，则在所述视频封面上标注用于表示封面内容涉嫌违规的第三违规标识。

在本实施例中，所述电子设备10通过计算所述待审核视频的视频封面的图像特征与违规封面特征之间的特征相似度，并在计算出的特征相似度大于第二预设相似度阈值时，判定匹配成功，而后在该视频封面上标注出第三违规标识，以表征该视频封面的封面内容涉嫌违规。其中，所述第二预设相似度阈值通常小于所述第一预设相似度阈值，使封面违规审核过程相较于画面违规审核过程更为严格，所述第二预设相似度阈值可以是70％或80％。

步骤s240，将不同的待审核对象发送给对应的客户端进行审核。

在本实施例中，所述电子设备10在完成对所述待审核视频的各项待审核对象的内容审核操作后，可通过将完成内容审核的待审核对象发送给视频主题匹配且对象种类对应的客户端，由对应的客户端对接收到的完成内容审核的待审核对象进行审核，实现对所述待审核视频的各项待审核对象进行二次全面审核。其中，所述电子设备10所执行的初次全面审核操作，可使客户端无需对待审核对象进行内容审核，仅需由审核人员针对该待审核对象中的违规标识进行违规评判，从而在一定程度上减少客户端进行审核时的审核工作量，缩短整体的视频审核时长，提高视频审核效率。

具体地，接收到完成内容审核的待审核对象的客户端可通过向审核人员展示该待审核对象，由审核人员直接根据该待审核对象所展示出的违规标识分布情况，及与该待审核对象对应的违规评判审核标准，人工确认该待审核对象中的违规标识是否对应真实违规，以实现对所述待审核对象的二次全面审核。而审核人员在得出针对该待审核对象的违规评判结果后，可通过所述客户端向所述电子设备10反馈对应的违规评判结果，使所述电子设备10根据待审核视频的所有待审核对象各自对应的违规评判结果，判断该待审核视频是否存在违规内容，以及对应违规内容的分布位置。

可选地，请参照图8，图8是图3中的步骤s240包括的子步骤的流程示意图。在本实施例中，所述步骤s240包括子步骤s241、子步骤s242及子步骤s243。

子步骤s241，根据客户端与视频来源和视频主题之间的预设对应关系，筛选出与待审核视频的视频来源及视频主题对应的客户端。

在本实施例中，所述待审核视频在初次全面审核的过程中所采用的审核模板是与其视频来源相关。为确保客户端仍能持续地对某一种视频主题下的某一类视频内容进行审核，并避免出现混用审核标准现象，本申请通过针对与所述电子设备10通信连接的每个客户端配置各自负责的视频来源、视频主题类别及对象审核类型，即设置客户端与视频来源和视频主题之间的预设对应关系，以及每个客户端独自对应的对象，使每个客户端仅对视频来源、视频主题及对象种类对应的视频内容进行审核。此时，所述电子设备10会根据所述待审核视频的视频来源及视频主题，确定出与所述待审核视频的视频来源及视频主题对应的多个客户端。

子步骤s242，从筛选得到的客户端中确定出不同待审核对象各自的对象种类所对应的目标客户端。

子步骤s243，将完成内容审核的每个待审核对象发送给对象种类对应的目标客户端进行审核。

在本实施例中，所述电子设备10通过将完成初次全面审核的各项待审核对象发送给视频来源、视频主题及对象种类均对应的客户端，使对应客户端能够持续地对某个视频来源下的某一种视频主题的某一类视频内容进行二次审核，尽量避免出现因混用审核标准而产生的误判现象，并相应地提高了整个审核过程的审核效率。

本申请实施例通过在所述电子设备10处对待审核的视频进行初次全面审核，并由所述电子设备10将完成初次全面审核的具体视频内容发送给对应客户端，使对应客户端针对接收到的视频内容进行内容审核，以完成对待审核的视频的二次全面审核，并最终得到能够真实反映视频违规情况的审核结果，从而尽可能地避免存在违规内容的视频流入到网络中，降低产生不良影响的概率。其中，本申请通过充分利用电子设备10的计算资源进行初次全面审核，降低客户端处的审核工作量，并提高整体的视频审核效率。

第四实施例

请参照图9，图9是本申请第四实施例提供的视频审核方法的流程示意图。在本申请实施例中，所述视频审核方法可由上述电子设备10执行，用于在接收到多个需要审核的视频时，确定出每个需要审核的视频的审核顺序，以便于根据得到的审核顺序对每个需要审核的视频进行全面审核。下面对图3所示的视频审核方法的具体流程和步骤进行详细阐述。

步骤s250，从需要审核的多个视频中确定出待审核视频。

在本实施例中，当所述电子设备10从接收到多个需要进行审核的视频时，可根据实际审核需求对接收到的各视频的审核顺序进行调整，以实现对视频的灵活审核，并可对关键视频进行优先审核。其中，所述关键视频可以是传播及时性要求高的视频(例如，直播视频、抗灾视频、征兵宣传视频等)，也可以是重要视频平台提供的视频，也可以是来自于某个特定地区的视频。

可选地，请参照图10，图10是图9中的步骤s250包括的子步骤的流程示意图。在本实施例中，所述步骤s250包括子步骤s251、子步骤s252、子步骤s253及子步骤s254。

子步骤s251，根据需要审核的每个视频的视频来源，并根据预设的审核优先级与视频来源之间的预设对应关系，确定需要审核的各视频的审核优先级。

在本实施例中，所述电子设备10通过在视频来源与审核优先级之间建立对应关系，来区分不同视频来源的视频在被审核时的优先情况。所述电子设备10在接收到多个需要审核的视频时，可基于已创建的审核优先级与视频来源之间的预设对应关系，直观地了解到各个视频对应的审核优先级。

子步骤s252，根据需要审核的各视频的审核优先级，对各视频进行优先级排序，得到对应的优先级排序结果。

在本实施例中，所述电子设备10基于各视频的审核优先级，按照审核优先级从高到低地对各视频进行优先级排序，得到对应的优先级排序结果。

子步骤s253，根据每个视频的获取时间点，对所述优先级排序结果中的具有相同审核优先级的视频进行排序位置调整，得到各视频的审核顺序。

在本实施例中，当所述电子设备10得到与各视频对应的优先级排序结果后，可采用同一审核优先级的多个视频按照获取时间先后顺序进行内容审核的原则，对所述优先级排序结果中的具有相同审核优先级的视频进行排序位置调整，从而得到每个需要审核的视频在被审核时的先后顺序，即各视频的审核顺序，从而提高整个视频审核过程的审核灵活性。

子步骤s254，按照所述审核顺序依次将各视频作为对应的待审核视频。

在本实施例中，所述电子设备10在确定出每个需要审核的视频的审核顺序后，按照得到的所述审核顺序依次选取对应的视频作为当前执行审核操作的待审核视频。

步骤s210，提取待审核视频的待审核对象，其中所述待审核对象包括画面内容、文本内容及封面图像中的多种组合。

在本实施例中，第四实施例中步骤s210的具体描述，可参照第二实施例中对步骤s210的详细描述，在此就不再一一赘述。

在本申请实施例的一种实施方式中，第四实施例提供的视频审核方法还可以包括第二实施例中的步骤s240，以通过所述步骤s240实现对每个待审核的视频进行全面审核操作。

在本申请实施例的另一种实施方式中，第四实施例提供的视频审核方法还可以包括第三实施例中的步骤s220、步骤s230及步骤s240，以通过所述步骤s220、步骤s230及步骤s240实现对每个待审核的视频进行两次全面审核操作。

本申请实施例在得到多个需要审核的视频时，根据审核优先级与视频来源的预设对应关系，确定出每个需要审核的视频的审核顺序，从而提高整个视频审核过程的审核灵活性，以便于按照得到的审核顺序对每个需要审核的视频进行全面审核。

第五实施例

请参照图11，图11是本申请第五实施例提供的视频审核装置100的功能模块示意图。在本申请实施例中，所述视频审核装置100应用于上述的电子设备10，所述视频审核装置100包括：

审核对象提取模块110，用于提取待审核视频的待审核对象，其中所述待审核对象包括画面内容、文本内容及封面图像中的多种组合；

审核对象发送模块120，用于将不同的待审核对象发送给对应的客户端进行审核。

在本实施例的第一种实施方式中，所述视频审核装置100还包括：

审核视频确定模块，用于从需要审核的多个视频中确定出待审核视频。

在本实施例的第二种实施方式中，所述视频审核装置100还包括：

审核模板确定模块，用于根据所述待审核视频的视频主题，确定用于进行内容审核的审核模板；

内容审核标注模块，用于采用所述审核模板对所述待审核对象进行内容审核，并在所述待审核对象存在违规时，将该待审核对象标注为违规。

在本实施例的第三种实施方式中，所述视频审核装置100还包括：

审核视频确定模块，用于从需要审核的多个视频中确定出待审核视频；

审核模板确定模块，用于根据所述待审核视频的视频主题，确定用于进行内容审核的审核模板；

内容审核标注模块，用于采用所述审核模板对所述待审核对象进行内容审核，并在该待审核对象存在违规时，将该待审核对象标注为违规。

第六实施例

本申请实施例提供一种包括有计算机程序的可读存储介质，所述可读存储介质在被加载到计算机设备(包括个人计算机，服务器，或者网络设备等)上时，可由该计算机设备的处理器执行所述计算机程序，以实现上述第二实施例、第三实施例及第四实施例中任意一项实施例提供的视频审核方法的全部或部分步骤。其中，所述可读存储介质可以是，但不限于，u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。

综上所述，在本申请提供的视频审核方法及装置、电子设备及可读存储介质中，本申请在得到待审核视频时，通过从该待审核视频中提取出对应的待审核对象，其中待审核对象包括该待审核视频的画面内容、文本内容及封面图像中的多种组合，而后本申请将提取出的不同待审核对象发送给各自对应的客户端，使每个客户端对接收到的待审核对象进行审核，从而针对待审核的视频实现全面审核，确保最终得到的审核结果能够真实反映出该视频的违规情况，尽可能地避免存在违规内容的视频流入到网络中，降低产生不良影响的概率。

此外，可以理解的是，本申请所提供的几个实施例所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。