视频数据处理方法、装置、电子设备及计算机可读介质与流程
本公开涉及视频处理技术领域，具体而言，涉及一种视频数据处理方法、装置、电子设备及计算机可读介质。
背景技术：
在观测内窥镜输出的实时视频流时，通常通过目标检测算法对目标检测对象进行检测，获得目标对象的定位框。相关技术中，通过目标检测模型对视频流中按照时间进行排序的各帧图像进行目标检测。其中，每张独立的帧图像得到一个独立的定位框，该定位框用于标识目标对象。并将定位框叠加到视频上以进行显示。
然而，视频流和普通图片不一样，同一目标在视频流上会连续出现一段时间。但由于内窥镜检测的环境较为复杂，无法精细操控镜头，且检测对象通常较小，上述方式将导致连续输出的视频中的定位框不稳定(视频的微小变化会导致定位框输出不稳定)，产品应用在病灶检测视频流上，表现为同一目标对象的定位框一直在“抖动”。
因此，需要一种新的视频数据处理方法、装置、电子设备及计算机可读介质。
需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
技术实现要素：
本公开实施例提供一种视频数据处理方法、装置及电子设备，进而至少在一定程度上克服视频处理技术领域中视频流中由于镜头变化导致的定位框的抖动现象。
本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
本公开实施例提出一种视频数据处理方法，包括：获取待处理视频的当前帧图像，检测所述当前帧图像中目标对象的初始定位框；确定所述当前帧图像与前一帧图像的图像相似度；当所述图像相似度大于第一阈值时，将所述前一帧图像的初始定位框作为所述当前帧图像的显示定位框；当所述图像相似度小于或等于所述第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定所述当前帧图像的显示定位框，其中，所述第一阈值大于所述第二阈值，所述n为大于1的整数。
本公开实施例提出一种视频数据处理装置，包括：定位框检测模块，用于获取待处理视频的当前帧图像，检测所述当前帧图像中目标对象的初始定位框；相似度生成模块，用于确定所述当前帧图像与前一帧图像的图像相似度；第一判断模块，用于当所述图像相似度大于第一阈值时，将所述前一帧图像的初始定位框作为所述当前帧图像的显示定位框；第二判断模块，用于当所述图像相似度小于或等于所述第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定所述当前帧图像的显示定位框，其中，所述第一阈值大于所述第二阈值，所述n为大于1的整数。
本公开实施例提出一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中所述的视频数据处理方法。
本公开实施例提出一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如上述实施例中所述的视频数据处理方法。
在本公开的一些实施例所提供的技术方案中，对当前帧图像与前一帧图像的图像相似度进行判断，在图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框，能够在当前帧图像与前一帧图像的图像相似度达到一定程度时，保证当前帧图像与前一帧图像的定位框的位置一致，以避免定位框的抖动现象；在图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，能够在当前帧图像与前一帧图像的图像相似度不高时，根据前n帧图像的初始定位框的平均值对当前帧图像的定位框进行平滑，以减轻定位框的抖动现象，提高连续帧图像中定位框的显示质量。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
在附图中：
图1示出了可以应用本公开实施例的视频数据处理方法或装置的示例性系统架构100的示意图；
图2示意性示出了根据本公开的一个实施例的视频数据处理方法的流程图；
图3示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图；
图4是基于图3的步骤s340在一个示例性实施例中的流程图；
图5示意性示出了根据本公开的再一个实施例的视频数据处理方法的流程图；
图6是基于图2的步骤s240在一个示例性实施例中的流程图；
图7是基于图3的步骤s340在一个示例性实施例中的流程图；
图8示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图；
图9示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图；
图10示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图；
图11示意性示出了根据本公开的再一个实施例的视频数据处理方法的流程图；
图12是基于图2的步骤s220在一个示例性实施例中的流程图；
图13示出了根据本公开实施例的当前帧图像的显示定位框的示意图；
图14示意性示出了根据本公开的一实施例的视频数据处理装置的框图；
图15示意性示出了根据本公开的另一实施例的视频数据处理装置的框图；
图16示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
图1示出了可以应用本公开实施例的视频数据处理方法或装置的示例性系统架构100的示意图。
如图1所示，系统架构100可以包括终端设备101、102、103中的一种或多种，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、便携式计算机、台式计算机、可穿戴设备、虚拟现实设备、智能家居等等。
服务器105可以是提供各种服务的服务器。例如终端设备103(也可以是终端设备101或102)向服务器105上传待处理视频。服务器105可以获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框；确定当前帧图像与前一帧图像的图像相似度；当图像相似度大于第一阈值时，将前一帧图像的初始定位框作为所述当前帧图像的显示定位框；当图像相似度小于或等于所述第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，该第一阈值大于该第二阈值，所述n为大于1的整数。并将当前帧图像的显示定位框反馈给终端设备103，进而终端设备103可以根据当前帧图像的显示定位框显示所述待处理图像，从而能够减轻待处理视频中定位框的抖动现象，提高连续帧图像中定位框的显示质量。
图2示意性示出了根据本公开的一个实施例的视频数据处理方法的流程图。本公开实施例所提供的方法可以由任意具备计算处理能力的电子设备处理，例如上述图1实施例中的服务器105和/或终端设备102、103，在下面的实施例中，以服务器105为执行主体为例进行举例说明，但本公开并不限定于此。
如图2所示，本公开实施例提供的视频数据处理方法可以包括以下步骤。
在步骤s210中，获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
本公开实施例的应用场景可例如为基于内窥镜视频流的结直肠病灶检测、上消化道病灶检测等，但本公开对具体的应用场景并不作特殊限定。在基于内窥镜视频流的结直肠病灶检测场景中，待处理视频可为结直肠病灶的内窥镜检测视频流。在该待处理视频中，目标对象可为结直肠。待处理视频是由若干按照时间排序的视频帧图像组成的。在实时的视频流中，当前时刻显示的帧图像为当前帧图像。若待处理视频不是实时的视频流，可按照时间先后顺序对待处理视频的各个帧图像进行处理，当前尚未处理的第一帧图像为当前帧图像。
其中，定位框可为矩形框、圆形或者椭圆形等形状，本公开对此并不作特殊限定。定位框可用于标识目标对象在帧图像中所在的位置。可通过(youonlylookonce，yolo)yolo算法、单次检测(singleshotmultiboxdetector，ssd)算法、快速卷积检测(fastregionwithcnnfeature)算法进行目标对象的检测，以生成目标对象的初始定位框。但此处仅为示例，本公开还可通过其他目标检测算法对目标对象进行检测。
在步骤s220中，确定当前帧图像与前一帧图像的图像相似度。
本公开实施例中，图像相似度用于描述图像之间的相似程度。图像相似度的指标可包括结构相似性度量(structuralsimilarityindex)、余弦相似度、均方误差(mean-squareerror,mse)等。结构相似性度量分别从亮度、对比度、结构三个方面度量图像相似度。余弦相似度将图像表示为向量形式，通过计算向量之间的余弦距离获得两张图像的图像相似度。均方误差根据两张图像之间的均方误差度量图像相似度。又例如，可通过孪生神经网络(siameseneuralnetwork)计算方法计算当前帧图像与前一帧图像的图像相似度，但本公开的技术方案对此并不作特殊限定。
在步骤s230中，当图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
本公开实施例中，当前帧图像的显示定位框用于显示在待处理视频中的当前帧图像中。其中，当图像相似度大于第一阈值时，表示该当前帧图像与前一帧图像的相似度已达到一定程度。通过将前一帧图像的初始定位框作为当前帧图像的显示定位框，能够使前一帧图像与当前帧图像的显示定位框的位置相同，以避免定位框的抖动现象。
其中，图像相似度的取值范围可为[0，1]。第一阈值可取值为0.5或0.8，其具体取值可通过经验数据获得，本公开对此并不作特殊限定。
在步骤s240中，当图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第一阈值大于第二阈值，n为大于1的整数。
本公开实施例中，当图像相似度小于或等于第一阈值且大于第二阈值时，表示该当前帧图像与前一帧图像的具有一定区别，但并非完全不同。通过前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，能够根据前n帧图像的初始定位框的平均值对当前帧图像的显示定位框进行平滑，以减轻定位框的抖动现象。
在示例性实施例中，还可包括步骤s250。在步骤s250中，当图像相似度小于或等于第二阈值时，将当前帧图像的初始定位框作为当前帧图像的显示定位框。其中，当图像相似度小于或等于第二阈值时，表示当前帧图像的初始定位框与前一帧图像的初始定位框几乎不同。该情况下当前帧图像的拍摄画面相对于前一帧图像已出现较为明显的变动。此时通过将当前帧图像的初始定位框作为当前帧图像的显示定位框，能够准确展示出定位框的移动情况。
在示例性实施例中，当图像相似度小于或等于第一阈值时，还可将前一帧图像的初始定位框作为当前帧图像的显示定位框。
本公开实施方式提供的视频数据处理方法，对当前帧图像与前一帧图像的图像相似度进行判断，在图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框，能够在当前帧图像与前一帧图像的图像相似度达到一定程度时，保证当前帧图像与前一帧图像的定位框的位置一致，以避免定位框的抖动现象；在图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框。能够在当前帧图像与前一帧图像的图像相似度不高时，根据前n帧图像的初始定位框的平均值对当前帧图像的定位框进行平滑，以减轻定位框的抖动现象。
图3示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图。
如图3所示，本公开实施例提供的视频数据处理方法可以包括以下步骤。
在步骤s310中，获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
在步骤s320中，确定当前帧图像与前一帧图像的图像相似度。
在步骤s330中，当图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
在步骤s340中，当图像相似度小于或等于第一阈值且大于第二阈值时，根据当前帧图像和前一帧图像的初始定位框的交并比确定当前帧图像的显示定位框，交并比为当前帧图像的初始定位框和前一帧图像的初始定位框的交集与并集的比值。
本公开实施例中，当前帧图像和前一帧图像的初始定位框的交并比(intersectionoverunion，iou)是指：当前帧图像的初始定位框和前一帧图像的初始定位框的交集与并集的比值。根据当前帧图像和前一帧图像的初始定位框的交并比确定当前帧图像的显示定位框时，在交并比大于一定数值时，认为当前帧图像的初始定位框与前一帧图像的初始定位框的基本一致；在交并比小于一定数值时，认为当前帧图像的初始定位框与前一帧图像的初始定位框的几乎无交集。本公开实施例可根据上述交并比的判断结果确定当前帧图像的显示定位框，以预防抖动现象的发生。
其中，第二阈值可为小于第一阈值的数值，其可通过经验数据获得。例如，当第一阈值为0.8时，第二阈值可为0.5。但此处仅为示例，本公开对第二阈值的具体取值并不作特殊限定。
图4是基于图3的步骤s340在一个示例性实施例中的流程图。
如图4所示，上述图3实施例中的步骤s340可以进一步包括以下步骤。
在步骤s3411中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
本公开实施例中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，表示当前帧图像的初始定位框与前一帧图像的初始定位框的基本一致。交并比的取值范围可为[0，1]。第三阈值可取值为0.5或0.8，其具体取值可通过经验数据获得，本公开对此并不作特殊限定。
其中，通过将前一帧图像的初始定位框作为当前帧图像的显示定位框，能够在后续显示待处理视频中的前一帧图像和当前帧图像时，避免显示的定位框发送现象。
在步骤s3412中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第三阈值大于第四阈值。
本公开实施例中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，表示当前帧图像的初始定位框与前一帧图像的初始定位框有一定的交集，但并非完全吻合。在该情况下，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，能够根据前n帧图像的初始定位框的平均值对当前帧图像的定位框进行平滑，以减轻定位框的抖动现象。
其中，第四阈值可为小于第三阈值的数值，其可通过经验数据获得。例如，当第三阈值为0.8时，第四阈值可为0.5。但此处仅为示例，本公开对第四阈值的具体取值并不作特殊限定。
图5示意性示出了根据本公开的再一个实施例的视频数据处理方法的流程图。
如图5所示，本实施例提供的视频数据处理方法包括以下步骤。
在步骤s510中，获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
在步骤s520中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
在步骤s530中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第三阈值大于第四阈值。
本公开实施方式提供的视频数据处理方法，在当前帧图像和前一帧图像的初始定位框的交并比大于一定数值时，认为当前帧图像的初始定位框与前一帧图像的初始定位框的基本一致。在该情况下，通过将前一帧图像的初始定位框作为当前帧图像的显示定位框，能够防止前一帧图像与当前帧图像的显示定位框的抖动现象。在当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，认为当前帧图像的初始定位框与前一帧图像的初始定位框有一定的交集，但并非完全吻合。在该情况下，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，能够根据前n帧图像的初始定位框的平均值对当前帧图像的定位框进行平滑，以减轻定位框的抖动现象。
图6是基于图2的步骤s240在一个示例性实施例中的流程图。
如图6所示，上述图2实施例中的步骤s240可以进一步包括以下步骤。
在步骤s241中，对前n帧图像的初始定位框的中心坐标信息进行加权平均，生成前n帧图像的初始定位框的中心坐标平均值。
本公开实施例中，定位框可通过中心坐标信息和尺寸信息进行表示。例如，定位框可表示为：(x,y,w,h)。其中，(x,y)为中心坐标信息，其中的x、y分别表示该定位框的中心坐标的横坐标值与纵坐标值。(w,h)为尺寸信息，其中的w、h分别表示该定位框的尺寸信息：长度尺寸和宽度尺寸。
其中，当前帧图像的初始定位框可表示为(x0，y0，w0，h0)，该当前帧图像的前i帧图像的初始定位框可表示为(xi，yi，wi，hi)，i为大于或等于0且小于或等于n的正整数。中心坐标平均值(x′，y′)可分别通过下式计算：
其中，ωi为各帧图像的权重值，x′为初始定位框的中心坐标的横坐标，y′为初始定位框的中心坐标的纵坐标。例如，ωi可取值为
在步骤s242中，对前n帧图像的初始定位框的尺寸信息进行加权平均，生成前n帧图像的初始定位框的尺寸平均值。
其中，当前帧图像的初始定位框可表示为(x0，y0，w0，h0)，该当前帧图像的前i帧图像的初始定位框可表示为(xi，yi，wi，hi)，i为大于或等于0且小于或等于n的正整数。尺寸平均值(w′，h′)可分别通过下式进行计算：
其中，w′为初始定位框的长度尺寸，h′为初始定位框的宽度尺寸。
在步骤s243中，根据中心坐标平均值和尺寸平均值确定前n帧图像的初始定位框的平均值，以根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框；中心坐标信息包括横坐标信息与纵坐标信息，尺寸信息包括长度信息与宽度信息。
本公开实施例中，接步骤s241与步骤s242的实施例，前n帧图像的初始定位框的平均值可表示为(x′，y′，w′，h′)。可将前n帧图像的初始定位框的平均值作为当前帧图像的显示定位框。
图7是基于图3的步骤s340在一个示例性实施例中的流程图。
如图7所示，上述图3实施例中的步骤s340可以进一步包括以下步骤。
在步骤s3421中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
本步骤可以采用与图4中步骤s3411类似的步骤，此处不再赘述。
在步骤s3422中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，根据前n帧图像的初始定位框的平均值确定为当前帧图像的显示定位框。
本步骤可以采用与图4中步骤s3412类似的步骤，此处不再赘述。
在步骤s3423中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第四阈值时，将当前帧图像的初始定位框作为当前帧图像的显示定位框。
本公开实施例中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第四阈值时，表示当前帧图像的初始定位框与前一帧图像的初始定位框几乎没有交集。该情况下目标对象在当前帧图像中的位置相对于前一帧图像已出现大范围移动。本步骤通过将当前帧图像的初始定位框作为当前帧图像的显示定位框，能够准确展示出定位框的移动情况。
图8示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图。
如图8所示，基于上述实施例的视频数据处理方法还包括以下步骤。
在步骤s810中，根据当前帧图像的显示定位框显示待处理视频。
本公开实施例中，可在当前帧图像中叠加其对应的显示定位框，以在显示待处理视频时，显示该叠加后的当前帧图像。例如，在内窥镜的实时视频流场景中，可实时显示叠加后的当前帧图像，以减轻待处理视频中定位框的抖动现象。
图9示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图。
如图9所示，本实施例提供的视频数据处理方法包括以下步骤。
在步骤s910中，获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
在步骤s920中，确定当前帧图像的初始定位框与前一帧图像的初始定位框的交并比。
具体实现可以参见前述实施例中关于交并比的描述和介绍，此处不再赘述。
在步骤s930中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
本步骤可以采用与图4中步骤s3411类似的步骤，此处不再赘述。
在步骤s940中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，确定当前帧图像与前一帧图像的图像相似度。
本公开实施例中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，表示当前帧图像的初始定位框与前一帧图像的初始定位框的有一定的交集，但并非完全吻合。在该情况下，可根据当前帧图像和前一帧图像的图像相似度进行后续操作，以完成视频数据处理方法。
在步骤s950中，当图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
本步骤可以采用与图2中步骤s230类似的步骤，此处不再赘述。
在示例性实施例中，当图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第一阈值大于第二阈值，n为大于1的整数。
在示例性实施例中，当图像相似度小于或等于第一阈值时，将当前帧图像的初始定位框作为当前帧图像的显示定位框。
图10示意性示出了根据本公开的另一个实施例的视频数据处理方法的流程图。
如图10所示，本实施例提供的视频数据处理方法包括以下步骤。
在步骤s1010中，获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
在步骤s1020中，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框。
图11示意性示出了根据本公开的再一个实施例的视频数据处理方法的流程图。
如图11所示，本实施例提供的视频数据处理方法包括以下步骤。
在步骤s1110中，获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
在步骤s1120中，确定当前帧图像的初始定位框与前一帧图像的初始定位框的交并比。
在步骤s1130中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
在步骤s1140中，当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值时，将当前帧图像的初始定位框作为当前帧图像的显示定位框。
图12是基于图2的步骤s220在一个示例性实施例中的流程图。
如图12所示，上述图2实施例中的步骤s220可以进一步包括以下步骤。
在步骤s221中，获取当前帧图像的第一均值、第一方差，前一帧图像的第二均值、第二方差以及当前帧图像与前一帧图像的协方差。
在步骤s222中，根据第一均值和第二均值确定当前帧图像与前一帧图像的亮度相似度。
在步骤s223中，根据第一方差和第二方差确定当前帧图像与前一帧图像的对比度相似度。
在步骤s224中，根据第一方差、第二方差和协方差确定当前帧图像与前一帧图像的结构相似度。
在步骤s225中，根据亮度相似度、对比度相似度和结构相似度确定当前帧图像与前一帧图像的图像相似度。本公开实施例中，图像相似度可通过下式进行计算：
ssim(x,y)＝l(x,y)α·c(x,y)β·s(x,y)γ(5)
式中
其中，x、y分别为当前帧图像和前一帧图像，μx、μy分别为第一均值和第二均值，σx、σy分别为第一方差和第二方差，σxy为协方差。l(x,y)为亮度相似度，c(x,y)为对比度相似度，s(x,y)为结构相似度，c1、c2、c3为常数。α、β、γ可取值为1。
本公开实施例的图像相似度的计算方式仅为示例，本公开的技术方案对图像相似度的具体计算方式并不作特殊限定。
图13示出了根据本公开实施例的当前帧图像的显示定位框的示意图。如图13(a)所示，当前帧图像1301包括初始定位框1303。前一帧图像1302包括初始定位框1304。在当前帧图像1301的初始定位框1303和前一帧图像1302的初始定位框1304的交并比大于第三阈值时，将前一帧图像1302的初始定位框1304作为当前帧图像的显示定位框1305。在当前帧图像1301的初始定位框1303和前一帧图像1302的初始定位框1304的交并比小于或等于第三阈值时，将当前帧图像1301的初始定位框1303作为当前帧图像的显示定位框1305。
在示例性实施例中，在当前帧图像1301与前一帧图像1302的图像相似度大于第一阈值时，将前一帧图像1302的初始定位框1304作为当前帧图像1301的显示定位框1305。在当前帧图像1301与前一帧图像1302的图像相似度小于或等于第一阈值时，将当前帧图像1301的初始定位框1303作为当前帧图像的显示定位框1305。
如图13(b)所示，在当前帧图像1301的初始定位框1303和前一帧图像1302的初始定位框1304的交并比大于第三阈值时，将前一帧图像1302的初始定位框1304作为当前帧图像的显示定位框1305。在当前帧图像1301的初始定位框1303和前一帧图像1302的初始定位框1304的交并比小于或等于第三阈值且大于第四阈值时，根据前n帧图像1306的初始定位框的平均值确定当前帧图像1301的显示定位框1305。
在示例性实施例中，在当前帧图像1301和前一帧图像1302的初始定位框1304的图像相似度大于第一阈值时，将前一帧图像1302的初始定位框1304作为所述当前帧图像的显示定位框1305，在当前帧图像1301和前一帧图像1302的初始定位框1304的图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像1306的初始定位框的平均值确定当前帧图像1301的显示定位框1305。
以下介绍本公开的装置实施例，可以用于执行本公开上述的视频数据处理方法。对于本公开装置实施例中未披露的细节，请参照本公开上述的视频数据处理方法的实施例。
图14示意性示出了根据本公开的一实施例的视频数据处理装置的框图。
参照图14所示，根据本公开的一个实施例的视频数据处理装置1400，可以包括：定位框检测模块1410、相似度生成模块1420、第一判断模块1430以及第二判断模块1440。
在视频数据处理装置1400中，定位框检测模块1410可以配置为获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
相似度生成模块1420可以配置为确定当前帧图像与前一帧图像的图像相似度。
第一判断模块1430可以配置为当图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
第二判断模块1440可以配置为当图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第一阈值大于第二阈值，n为大于1的整数。
在示例性实施例中，第二判断模块1440可以配置为当图像相似度小于或等于第一阈值且大于第二阈值时，根据当前帧图像和前一帧图像的初始定位框的交并比确定当前帧图像的显示定位框。
在示例性实施例中，第二判断模块1440可以包括第一交并比判断单元和第二交并比判断单元。其中，第一交并比判断单元可以配置为当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。第二交并比判断单元可以配置为当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第三阈值大于第四阈值。
在示例性实施例中，第二判断模块1440可以包括中心坐标计算单元、尺寸信息计算单元和平均值计算单元。其中，中心坐标计算单元可以配置为对前n帧图像的初始定位框的中心坐标信息进行加权平均，生成前n帧图像的初始定位框的中心坐标平均值。尺寸信息计算单元可以配置为对前n帧图像的初始定位框的尺寸信息进行加权平均，生成前n帧图像的初始定位框的尺寸平均值。平均值计算单元可以配置为根据中心坐标平均值和尺寸平均值确定前n帧图像的初始定位框的平均值，以根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框；中心坐标信息包括横坐标信息与纵坐标信息，尺寸信息包括长度信息与宽度信息。
在示例性实施例中，第二判断模块1440还可以包括第三交并比判断单元。其中，第三交并比判断单元可以配置为当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第四阈值时，将当前帧图像的初始定位框作为当前帧图像的显示定位框。
在示例性实施例中，视频数据处理装置1400还可包括第三判断模块，其中，第三判断模块可以配置为当图像相似度小于或等于第二阈值时，将当前帧图像的初始定位框作为当前帧图像的显示定位框。
在示例性实施例中，视频数据处理装置1400还可包括视频显示模块，其中，视频显示模块可以配置为根据当前帧图像的显示定位框显示待处理视频。
本公开实施方式提供的视频数据处理装置，首先对当前帧图像与前一帧图像的图像相似度进行判断。并在图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框，能够在当前帧图像与前一帧图像的图像相似度达到一定程度时，保证当前帧图像与前一帧图像的定位框的位置一致，以避免定位框的抖动现象。并在图像相似度小于或等于第一阈值且大于第二阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框。能够在当前帧图像与前一帧图像的图像相似度不高时，根据前n帧图像的初始定位框的平均值对当前帧图像的定位框进行平滑，以减轻定位框的抖动现象，提高连续帧图像中定位框的显示质量。
图15示意性示出了根据本公开的另一实施例的视频数据处理装置的框图。
参照图15所示，根据本公开的另一个实施例的视频数据处理装置1500，可以包括：定位框检测模块1510、相似度生成模块1520、第一判断模块1530、第二判断模块1540以及第三判断模块1550。
在视频数据处理装置1500中，定位框检测模块1510可以配置为获取待处理视频的当前帧图像，检测当前帧图像中目标对象的初始定位框。
相似度生成模块1520可以配置为确定当前帧图像与前一帧图像的图像相似度。
第一判断模块1530可以配置为当图像相似度大于第一阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
第二判断模块1540可以配置为当图像相似度小于或等于第一阈值且大于第二阈值时，确定当前帧图像和前一帧图像的初始定位框的交并比；以及当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比大于第三阈值时，将前一帧图像的初始定位框作为当前帧图像的显示定位框。
第三判断模块1550可以配置为当当前帧图像的初始定位框和前一帧图像的初始定位框的交并比小于或等于第三阈值且大于第四阈值时，根据前n帧图像的初始定位框的平均值确定当前帧图像的显示定位框，其中，第三阈值大于第四阈值。
图16示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。需要说明的是，图16示出的电子设备的计算机系统1600仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图16所示，计算机系统1600包括中央处理单元(cpu)1601，其可以根据存储在只读存储器(rom)1602中的程序或者从储存部分1608加载到随机访问存储器(ram)1603中的程序而执行各种适当的动作和处理。在ram1603中，还存储有系统操作所需的各种程序和数据。cpu1601、rom1602以及ram1603通过总线1604彼此相连。输入/输出(i/o)接口1605也连接至总线1604。
以下部件连接至i/o接口1605：包括键盘、鼠标等的输入部分1606；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分1607；包括硬盘等的储存部分1608；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分1609。通信部分1609经由诸如因特网的网络执行通信处理。驱动器1610也根据需要连接至i/o接口1605。可拆卸介质1611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1610上，以便于从其上读出的计算机程序根据需要被安装入储存部分1608。
特别地，根据本公开的实施例，下文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1609从网络上被下载和安装，和/或从可拆卸介质1611被安装。在该计算机程序被中央处理单元(cpu)1601执行时，执行本申请的系统中限定的各种功能。
需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块和/或单元和/或子单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的模块和/或单元和/或子单元也可以设置在处理器中。其中，这些模块和/或单元和/或子单元的名称在某种情况下并不构成对该模块和/或单元和/或子单元本身的限定。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如下述实施例中所述的方法。例如，所述的电子设备可以实现如图2或图3或图4或图5或图6或图7或图8或图9或图10或图11或图12所示的各个步骤。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元或者子单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元或者子单元的特征和功能可以在一个模块或者单元或者子单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元或者子单元来具体化。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
- 还没有人留言评论。精彩留言会获得点赞！