用于生成信息的方法和装置,以及目标跟踪方法和装置与流程

文档序号:18556517发布日期:2019-08-30 22:40阅读:120来源:国知局
用于生成信息的方法和装置,以及目标跟踪方法和装置与流程

本公开的实施例涉及计算机技术领域,具体涉及用于生成信息的方法和装置,以及目标跟踪方法和装置。



背景技术:

目标跟踪,是一种对视频中的物体对象进行定位的技术。目标跟踪是图像视频处理领域中受到广泛关注和研究的热门问题。该技术是在视频中初始化第一帧视频帧,其中,第一帧视频帧中确定了需要跟踪的目标,在后续目标视频中,需要确定出待跟踪目标在各个视频帧中的位置。

现有的目标跟踪算法主要分为如下两类:

生成式(generative)模型:通过在线学习方式建立目标模型,然后使用模型搜索重建误差最小的图像区域,完成目标定位。

判别式(discrimination)模型:将目标跟踪看作是一个二元分类问题,同时提取目标和背景信息用来训练分类器,将目标从图像序列背景中分离出来,从而得到当前帧的目标位置。



技术实现要素:

本公开提出了用于生成信息的方法和装置,以及目标跟踪方法和装置。

第一方面,本公开的实施例提供了一种用于生成信息的方法,该方法包括:获取目标视频;从目标视频中选取视频帧;确定视频帧中手腕对象的手腕位置信息;基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。

在一些实施例中,确定视频帧中手腕对象的手腕位置信息,包括:将视频帧输入至预先训练的关节定位模型,得到视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕。

在一些实施例中,基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息,包括:将视频帧的后续视频帧中的、与手腕位置信息对应的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。

在一些实施例中,基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息,包括:对视频帧的后续视频帧中的、手腕位置信息对应的图像区域进行放大处理,得到放大图像区域;将放大图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于手掌位置信息指示放大图像区域中不包括手掌对象,将后续视频帧输入到关节定位模型,得到手腕对象的手腕位置信息;将后续视频帧中的、手腕位置信息对应的图像区域输入至跟踪模型,得到手掌对象的手掌位置信息。

在一些实施例中,目标视频为当前拍摄及呈现的视频。

第二方面,本公开的实施例提供了一种目标跟踪方法,该方法包括:获取当前拍摄及呈现的目标视频;从所述目标视频中选取视频帧作为第一目标视频帧,以及执行如下跟踪步骤:将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息,其中,所述关节定位模型用于确定人体关节点的位置,人体关节点包括手腕,以及执行如下跟踪子步骤:从所述目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧:在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域;将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,所述跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

在一些实施例中,该方法还包括:响应于第二目标视频帧非目标视频中的最后一帧,将第二目标视频帧作为第一目标视频帧,继续执行跟踪子步骤。

在一些实施例中,该方法还包括:响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中不包含手掌对象,将第二目标视频帧作为第一目标视频帧,继续执行所述跟踪步骤。

第三方面,本公开的实施例提供了一种用于生成信息的装置,该装置包括:第一获取单元,被配置成获取目标视频;第一选取单元,被配置成从目标视频中选取视频帧;确定单元,被配置成确定视频帧中手腕对象的手腕位置信息;生成单元,被配置成基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。

在一些实施例中,确定单元包括:第一输入模块,被配置成将视频帧输入至预先训练的关节定位模型,得到视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕。

在一些实施例中,生成单元包括:第二输入模块,被配置成将视频帧的后续视频帧中的、与手腕位置信息对应的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。

在一些实施例中,生成单元包括:放大处理模块,被配置成对视频帧的后续视频帧中的、手腕位置信息对应的图像区域进行放大处理,得到放大图像区域;第三输入模块,被配置成将放大图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置;第四输入模块,被配置成响应于手掌位置信息指示放大图像区域中不包括手掌对象,将后续视频帧输入到关节定位模型,得到手腕对象的手腕位置信息;第五输入模块,被配置成将后续视频帧中的、手腕位置信息对应的图像区域输入至跟踪模型,得到手掌对象的手掌位置信息。

在一些实施例中,目标视频为当前拍摄及呈现的视频。

第四方面,本公开的实施例提供了一种目标跟踪装置,该装置包括:第二获取单元,被配置成获取当前拍摄及呈现的目标视频;第二选取单元,被配置成从所述目标视频中选取视频帧作为第一目标视频帧,以及执行如下跟踪步骤:将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息,其中,所述关节定位模型用于确定人体关节点的位置,人体关节点包括手腕,以及执行如下跟踪子步骤:从所述目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧:在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域;将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,所述跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

在一些实施例中,该装置还包括:第一执行单元,被配置成响应于第二目标视频帧非目标视频中的最后一帧,将第二目标视频帧作为第一目标视频帧,继续执行跟踪子步骤。

在一些实施例中,该装置还包括:第二执行单元,被配置成响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中不包含手掌对象,将第二目标视频帧作为第一目标视频帧,继续执行所述跟踪步骤。

第五方面,本公开的实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行,使得该一个或多个处理器实现如上述第一方面中用于生成信息的方法或第二方面中目标跟踪方法中任一实施例的方法。

第六方面,本公开的实施例提供了一种目标跟踪计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上述第一方面中用于生成信息的方法或第二方面中目标跟踪方法中任一实施例的方法。

本公开的实施例提供的用于生成信息的方法和装置,以及目标跟踪方法和装置,通过获取目标视频,然后,从目标视频中选取视频帧,之后,确定视频帧中手腕对象的手腕位置信息,最后,基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息,由此,基于手腕位置信息,确定手掌位置信息,丰富了手掌位置信息的确定方式,有助于提高所确定的手掌位置的准确度。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:

图1是本公开的一个实施例可以应用于其中的示例性系统架构图;

图2是根据本公开的用于生成信息的方法的一个实施例的流程图;

图3a-图3c是根据本公开的用于生成信息的方法的一个应用场景的示意图;

图4是根据本公开的目标跟踪方法的一个实施例的流程图;

图5是根据本公开的用于生成信息的装置的一个实施例的结构示意图;

图6是根据本公开的目标跟踪装置的一个实施例的结构示意图;

图7是适于用来实现本公开的实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。

需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的实施例的用于生成信息的方法或用于生成信息的装置,或者,目标跟踪方法或目标跟踪装置的实施例的示例性系统架构100。

如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送数据等。终端设备101、102、103上可以安装有各种客户端应用,例如视频播放软件、新闻资讯类应用、图像处理类应用、网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是硬件,也可以是软件。作为示例,当终端设备101、102、103为硬件时,可以是具有显示屏并且支持视频播放的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、mp3播放器(movingpictureexpertsgroupaudiolayeriii,动态影像专家压缩标准音频层面3)、mp4(movingpictureexpertsgroupaudiolayeriv,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103发送的视频进行处理的后台服务器。后台服务器可以对接收到的视频进行分析等处理,获得处理结果(例如视频帧中的手掌对象的手掌位置信息)。作为示例,服务器105可以是虚拟服务器,也可以是物理服务器。

需要说明的是,服务器可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。

还需要说明的是,本公开的实施例所提供的用于生成信息的方法可以由服务器执行,也可以由终端设备执行,还可以由服务器和终端设备彼此配合执行。相应地,用于生成信息的装置包括的各个部分(例如各个单元、子单元、模块、子模块)可以全部设置于服务器中,也可以全部设置于终端设备中,还可以分别设置于服务器和终端设备中。此外,本公开的实施例所提供的目标跟踪方法可以由服务器执行,也可以由终端设备执行,还可以由服务器和终端设备彼此配合执行。相应地,目标跟踪装置包括的各个部分(例如各个单元、子单元、模块、子模块)可以全部设置于服务器中,也可以全部设置于终端设备中,还可以分别设置于服务器和终端设备中。

应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。例如,当用于生成信息的方法运行于其上的电子设备不需要与其他电子设备进行数据传输时,该系统架构可以仅包括目标跟踪方法运行于其上的电子设备(例如服务器或终端设备)。

继续参考图2,示出了根据本公开的用于生成信息的方法的一个实施例的流程200。该用于生成信息的方法,包括以下步骤:

步骤201,获取目标视频。

在本实施例中,用于生成信息的方法的执行主体(例如图1所示的终端设备或服务器)可以通过有线连接方式或者无线连接方式从其他电子设备或者本地,获取目标视频。

其中,目标视频可以是任意视频。作为示例,该目标视频可以是对人的手部(包括手腕和手掌)进行拍摄而得到的视频。可以理解,当目标视频是对手部进行拍摄而得到的视频时,目标视频所包括的全部或部分视频帧中可以包含有手掌对象和/或手腕对象。在这里,手掌对象可以是视频帧中呈现的手掌的影像。手腕对象可以是视频帧中呈现的手腕的影像。

步骤202,从目标视频中选取视频帧。

在本实施例中,上述执行主体可以从步骤201获取到的目标视频中选取视频帧。

作为示例,上述执行主体可以从目标视频中,随机地选取视频帧,也可以从目标视频中,选取符合预设条件的视频帧。示例性的,上述预设条件可以包括:所选取的视频帧为目标视频中的第一帧视频帧,或者,所选取的视频帧为目标视频中目标终端当前呈现的视频帧。其中,当上述执行主体为终端设备时,该目标终端可以为上述执行主体;当上述执行主体为服务器时,该目标终端可以为与上述执行主体通信连接的终端设备。

步骤203,确定视频帧中手腕对象的手腕位置信息。

在本实施例中,上述执行主体可以确定步骤202所选取的视频帧中手腕对象的手腕位置信息。

其中,手腕位置信息可以用于指示手腕对象在视频帧中的位置。上述手腕位置信息可以通过视频帧中包含手腕对象的矩形框(例如视频帧中包括手腕对象的最小外接矩形框)、圆或者手腕对象的轮廓线表征。也可以采用坐标来表征。作为示例,该坐标可以是视频帧中手腕对象的中心点或者质心点的坐标,也可以是视频帧中包含手腕对象的矩形框的坐标。例如,上述坐标可以为“(x,y,w,h)”。其中,x表征视频帧中包含手腕对象的矩形框的左上方的角点在针对该视频帧确定的坐标系下的横坐标,y表征该矩形框的左上方的角点在上述坐标系下的纵坐标,w表征该矩形框的宽度,h表征该矩形框的高度。

示例性的,上述针对该视频帧确定的坐标系可以是以位于该视频帧中的左上角的像素点为原点,以该视频帧的两条垂直边分别为x轴和y轴的坐标系。

可选的,上述手腕位置信息也可以表征“视频帧中不包含手腕对象”。作为示例,在此场景下,手腕位置信息可以是“null”。

作为示例,上述执行主体可以采用如下方式,执行上述步骤203:

将步骤202所选取的视频帧输入至预先训练的手腕定位模型,得到步骤202所选取的视频帧中的手腕对象的手腕位置信息。其中,手腕定位模型可以用于确定视频帧中的手腕对象的手腕位置信息。

作为示例,上述手腕定位模型可以是采用深度学习算法,基于训练样本集训练得到的深度神经网络。其中,上述训练样本集中的训练样本可以包括样本视频帧和样本视频帧中的手腕对象的手腕位置信息。可以理解,上述样本视频帧中的手腕对象的手腕位置信息可以通过标注人员或者具有标注功能的设备预先标注得到。

可选的,上述手腕定位模型也可以是技术人员经过大量的统计而得到的、关联存储有视频帧和视频帧中的手腕对象的手腕位置信息的二维表或数据库。

在本实施例的一些可选的实现方式中,上述执行主体也可以采用如下方式,执行上述步骤203:

将视频帧输入至预先训练的关节定位模型,得到视频帧中手腕对象的手腕位置信息。其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕。

在这里,关节定位模型可以仅用作确定手腕的位置(而不用于确定除手腕之外的其他关节点的位置)。在此场景下,关节定位模型可以是采用机器学习算法,基于包括视频帧和预先标注的、用于指示视频帧中的手腕的位置的手腕位置信息的训练样本的集合,训练得到的深度学习模型。

可选的,上述关节定位模型也可以用作确定人体的多个关节点的位置。例如,上述关节定位模型可以用于确定以下各个关节点的位置:肩、手肘、手腕、髋、膝、踝。在此场景下,关节定位模型可以是采用机器学习算法,基于包括视频帧和预先标注的、用于指示视频帧中的上述各个关节点的位置的手关节位置信息的训练样本的集合,训练得到的深度学习模型。

可以理解,上述关节定位模型可以是人体姿态估计模型,例如:densepose、openpose、realtimemulti-personposeestimation等等。

应当理解,当关节定位模型用作确定人体的多个关节点的位置时,由于人体的多个关节点之间的相对位置具有一定的规律,因而,在此场景下,所确定出的手腕位置信息相对于采用其他方式确定的手腕位置信息更准确。

步骤204,基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。

在本实施例中,上述执行主体可以基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。

其中,上述后续视频帧可以是目标视频中、与步骤202中所选取的视频帧(下文将“步骤202中所选取的视频帧”称为基准视频帧)相邻且位于基准视频帧之后的视频帧,也可以是目标视频中、与基准视频帧间隔预设数量(例如5、1等等)个视频帧且位于基准视频帧之后的视频帧。

上述手掌位置信息可以用于指示手掌对象在视频帧中的位置。上述手掌位置信息可以通过视频帧中包含手掌对象的矩形框(例如视频帧中包括手掌对象的最小外接矩形框)、圆或者手掌对象的轮廓线表征。也可以采用坐标来表征。作为示例,该坐标可以是视频帧中手掌对象的中心点或者质心点的坐标,也可以是视频帧中包含手掌对象的矩形框的坐标。例如,上述坐标可以为“(x,y,w,h)”。其中,x表征视频帧中包含手掌对象的矩形框的左上方的角点在针对该视频帧确定的坐标系下的横坐标,y表征该矩形框的左上方的角点在上述坐标系下的纵坐标,w表征该矩形框的宽度,h表征该矩形框的高度。

示例性的,上述针对该视频帧确定的坐标系可以是以位于该视频帧中的左上角的像素点为原点,以该视频帧的两条垂直边分别为x轴和y轴的坐标系。

可选的,上述手掌位置信息也可以表征“视频帧中不包含手掌对象”。作为示例,在此场景下,手掌位置信息可以是“null”。

在本实施例的一些可选的实现方式中,上述执行主体可以采用如下方式,执行上述步骤204:

将视频帧的后续视频帧中的、与手腕位置信息对应的图像区域输入至预先训练的跟踪模型,得到手掌位置信息。其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。

在这里,与手腕位置信息相对应的图像区域在后续视频帧中的位置,可以与该手腕位置信息指示的图像区域在基准视频帧中的位置相同。可以理解,如果手腕位置信息为“(100,100,100,100)”,该手腕位置信息可以表征包含手腕对象的矩形框的左上方的角点在针对该视频帧确定的坐标系下的横、纵坐标均为100像素,手腕对象的矩形框的长度和宽度均为100像素。那么,在此场景下,与该手腕位置信息相对应的图像区域可以是基准视频帧的后续视频帧中位于(100,100,100,100)的图像区域。

可以理解,由于手腕位置信息指示的图像区域的大小可以是预先确定的。例如,手腕位置信息指示的图像区域的大小可以是“100像素×100像素”,也可以是基于视频帧中的手腕对象的大小确定的。上述手腕位置信息指示的图像区域中可以包含手掌对象,也可以不包含手掌对象。

应当理解,由于跟踪模型用于确定图像区域中的手腕对象的手腕对象信息,因此,本可选的实现方式的技术方案,相对于直接从视频帧中确定手腕对象的手腕对象信息,可以减少上述执行主体的运算量,提高手腕对象信息的生成速度。

在本实施例的一些可选的实现方式中,上述执行主体也可以采用如下方式,执行上述步骤204:

第一步,对视频帧的后续视频帧中的、手腕位置信息对应的图像区域进行放大处理,得到放大图像区域。

在这里,与手腕位置信息相对应的图像区域在后续视频帧中的位置,可以与该手腕位置信息指示的图像区域在基准视频帧中的位置相同。可以理解,如果手腕位置信息为“(100,100,100,100)”,该手腕位置信息可以表征包含手腕对象的矩形框的左上方的角点在针对该视频帧确定的坐标系下的横、纵坐标均为100像素,手腕对象的矩形框的长度和宽度均为100像素。那么,在此场景下,与该手腕位置信息相对应的图像区域可以是基准视频帧的后续视频帧中位于(100,100,100,100)的图像区域。

需要说明的是,进行放大处理后得到的放大后的位置区域,可以包含放大前位置信息指示的位置区域。作为示例,放大后的位置区域的面积,或者包括的像素点的数量可以是放大前位置信息指示的位置区域的面积的1.2倍、1.5倍等等。

第二步,将放大图像区域输入至预先训练的跟踪模型,得到手掌位置信息。其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。

作为示例,上述跟踪模型可以是采用如下方式训练得到的:

首先,获取训练样本集。其中,训练样本包括图像区域和预先确定的、手掌对象在该图像区域中的位置信息。

然后,采用机器学习算法,将训练样本集中的训练样本包括的图像区域作为初始模型的输入数据,将与输入的图像区域对应的位置信息作为初始模型的期望输出数据,对初始模型进行训练。将训练完成后得到的初始模型确定为训练得到的跟踪模型。

在这里,可以预先设置训练完成条件,以确定初始模型是否完成训练。上述训练完成条件可以包括但不限于以下至少一项:训练次数超过预设次数、训练时间超过预设时长、基于预先确定的损失函数计算得到的函数值小于预设阈值。

上述初始模型可以是未经训练,或者经过训练但是不满足上述训练完成条件的模型(例如卷积神经网络)。

可选的,上述跟踪模型还可以是技术人员经过大量的统计而得到的、关联存储有图像区域和预先确定的、手掌对象在该图像区域中的位置信息的二维表或数据库。

第三步,响应于手掌位置信息指示放大图像区域中不包括手掌对象,将后续视频帧输入到上述关节定位模型,得到手腕对象的手腕位置信息。

第四步,将后续视频帧中的、手腕位置信息对应的图像区域输入至跟踪模型,得到手掌对象的手掌位置信息。

可以理解,由于关节定位模型用于确定手腕对象在视频帧中的位置信息,而跟踪模型则用于确定手掌对象在视频帧包含的图像区域中的位置信息。因而,关节定位模型对于一次输入数据的计算量大于跟踪模型。因此,本可选的实现方式在手掌位置信息指示放大图像区域中不包括手掌对象的情况下,基于关节定位模型,来得到手腕对象的手腕位置信息,进而确定手掌位置信息;而在手掌位置信息指示放大图像区域中包括手掌对象的情况下,则可以直接得到手掌位置信息,由此,既保证了对视频帧中的手掌对象进行定位的准确性,又提高了定位的速度。

在一些情况下,当基于跟踪模型得到的手掌位置信息指示“图像区域中不包含手掌对象”时,视频帧中除该图像区域之外的其他图像区域可能包含手掌对象,在此场景下,可以通过将后续视频帧输入至上述关节点定位模型,得到手腕对象在后续视频帧中的位置信息,进而得到手掌位置信息。由此,本可选的实现方式相对于,“一旦基于跟踪模型得到的位置信息指示图像区域中不包含手掌对象,则确定后续视频帧中不包含手掌对象”的技术方案,可以提高手掌定位的准确性。另一方面,本可选的实现方式相对于,“将每帧视频帧输入至用于确定多个关节点的关节点定位模型”的技术方案,可以减少上述执行主体的运算量,提高运算速度。

在本实施例的一些可选的实现方式中,上述目标视频为当前拍摄及呈现的视频。

在这里,上述执行主体可以为终端设备。可以理解,本可选的实现方式可以实时地确定终端设备当前呈现的视频中的手掌对象的位置。在确定出手掌对象的位置之后,上述执行主体可以在手掌对象的目标位置处渲染预设图像,或者添加预设特效,由此,丰富了影像的呈现方式。上述目标位置可以是预先针对手掌的位置确定的位置。

继续参见图3a-图3c,图3a-图3c是根据本实施例的第一个目标跟踪方法的一个应用场景的示意图。在图3a中,手机首先获取目标视频(例如通过手机的图像获取装置实时拍摄的视频)。然后,手机从目标视频中选取视频帧301(例如手机当前呈现的视频帧)。之后,请参考图3b,手机确定出了视频帧301中手腕对象的手腕位置信息302(在这里,手腕位置信息302通过视频帧301中包含手腕对象的矩形框表征)。最后,手机基于手腕位置信息302,生成视频帧301的后续视频帧303中的手掌对象的手掌位置信息304(在这里,手掌位置信息304通过视频帧303中包含手掌对象的矩形框表征)。

目前,现有的对视频帧中的手掌对象进行定位的方案往往采用机器学习算法训练得到的模型来确定基准视频帧中的手掌对象的位置,以及基准视频帧的后续视频帧中的手掌对象的位置。上述方案通常需要基于整个视频帧来确定手掌对象的位置,定位时间长且耗费运算量。并且,由于人体的手掌较为灵活,运动较快,因而,包括手掌对象的视频中的各个视频帧中的手掌的位置可能存在很大差异。

本公开的上述实施例提供的方法,通过获取目标视频,然后,从目标视频中选取视频帧,之后,确定视频帧中手腕对象的手腕位置信息,最后,基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息,由此,基于灵活度相对手掌较低的手腕的位置,来确定手掌的位置,可以基于手腕位置信息对应的图像区域而非整个视频帧来定位视频帧中的手掌对象,减少了生成手掌位置信息所耗费的运算量,丰富了手掌位置信息的确定方式,有助于提高所确定的手掌位置的准确度。

进一步参考图4,其示出了目标跟踪方法的一个实施例的流程400。该目标跟踪方法的流程400,包括以下步骤:

步骤401,获取当前拍摄及呈现的目标视频。

在本实施例中,目标跟踪方法的执行主体(例如图1所示的终端设备)可以获取当前拍摄及呈现的目标视频。

之后,上述执行主体可以执行步骤402。

在这里,上述执行主体可以是具有视频拍摄功能的终端设备。由此,上述目标视频可以是上述执行主体当前拍摄的视频。在上述执行主体拍摄视频的过程中,其可以实时地呈现该视频(即目标视频)。

作为示例,该目标视频可以是对手部(例如手掌和手腕)进行拍摄而得到的视频。可以理解,当目标视频是对手部进行拍摄而得到的视频时,目标视频所包括的全部或部分视频帧中可以包含有手掌对象和手腕对象。在这里,手掌对象可以是视频帧中呈现的手掌的影像。手腕对象可以是视频帧中呈现的手腕的影像。

步骤402,从目标视频中选取视频帧作为第一目标视频帧。

在本实施例中,上述执行主体可以从目标视频中选取任意视频帧作为第一目标视频帧。

之后,上述执行主体可以执行跟踪步骤。其中,跟踪步骤包括步骤403-步骤408。

步骤403,将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息。

在本实施例中,上述执行主体可以将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息。其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕。

之后,上述执行主体可以执行跟踪子步骤。其中,跟踪子步骤包括步骤404-步骤408。

步骤404,从目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧。

在本实施例中,上述执行主体可以从目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧。

之后,上述执行主体可以执行步骤405。

步骤405,在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域。

在本实施例中,上述执行主体可以在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域。

之后,上述执行主体可以执行步骤406。

步骤406,将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息。

在本实施例中,上述执行主体可以将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息。其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。

之后,上述执行主体可以执行步骤407。

步骤407,确定第二目标视频帧中的手掌对象的手掌位置信息是否指示图像区域中包含手掌对象。

在本实施例中,上述执行主体可以确定第二目标视频帧中的手掌对象的手掌位置信息是否指示图像区域中包含手掌对象。

之后,若第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,则上述执行主体可以执行步骤408。

在本实施例的一些可选的实现方式中,若第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中不包含手掌对象,上述执行主体还可以执行步骤410“将第二目标视频帧作为第一目标视频帧”,以及执行步骤403。

在这里,在执行步骤410之后,上述执行主体可以将第二目标视频帧作为新的第一目标视频帧。可以理解,在执行步骤410后,后续步骤中的第一目标视频帧与执行步骤410前的第二目标视频帧指代相同的视频帧。

步骤408,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

在本实施例中,上述执行主体可以基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

在本实施例的一些可选的实现方式中,在执行上述步骤408之后,上述执行主体还可以执行步骤409:确定第二目标视频帧是否为目标视频中的最后一帧。之后,若第二目标视频帧非目标视频中的最后一帧,则上述执行主体可以执行步骤410“将第二目标视频帧作为第一目标视频帧”,以及步骤404。

在这里,在执行步骤410之后,上述执行主体可以将第二目标视频帧作为新的第一目标视频帧。可以理解,在执行步骤410后,后续步骤中的第一目标视频帧与执行步骤410前的第二目标视频帧指代相同的视频帧。

需要说明的是,除上面所记载的内容外,本申请实施例还可以包括与图2对应的实施例相同或类似的特征,以及产生与图2对应的实施例相同的有益效果,在此不再赘述。

从图4中可以看出,与图2对应的实施例相比,本实施例中的目标跟踪方法的流程400针对当前拍摄及呈现的目标视频中的各个视频帧进行手掌对象的定位,由此,可以实时地确定当前呈现的视频中的手掌对象的位置。

进一步参考图5,作为对上述图2所示方法的实现,本公开提供了一种用于生成信息的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征,以及产生与图2所示的方法实施例相同或相应的效果。该装置具体可以应用于各种电子设备中。

如图5所示,本实施例的目标跟踪装置500包括:第一获取单元501,被配置成获取目标视频;第一选取单元502,被配置成从目标视频中选取视频帧;确定单元503,被配置成确定视频帧中手腕对象的手腕位置信息;生成单元504,被配置成基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。

在本实施例中,用于生成信息的装置500的第一获取单元501可以通过有线连接方式或者无线连接方式从其他电子设备或者本地,获取目标视频。其中,目标视频可以是任意视频。作为示例,该目标视频可以是对人的手掌进行拍摄而得到的视频。

在本实施例中,上述第一选取单元502可以从第一获取单元501获取到的目标视频中选取视频帧。

在本实施例中,上述确定单元503可以确定第一选取单元502选取的视频帧中手腕对象的手腕位置信息。其中,手腕位置信息可以用于指示手腕对象在视频帧中的位置。

在本实施例中,上述生成单元504可以基于确定单元503得到的手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。上述手掌位置信息可以用于指示手掌对象在视频帧中的位置。

在本实施例的一些可选的实现方式中,确定单元503可以包括:第一输入模块(图中未示出)被配置成将视频帧输入至预先训练的关节定位模型,得到视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕。

在本实施例的一些可选的实现方式中,生成单元504可以包括:第二输入模块(图中未示出)被配置成将视频帧的后续视频帧中的、与手腕位置信息对应的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。

在本实施例的一些可选的实现方式中,生成单元504也可以包括:放大处理模块(图中未示出)被配置成对视频帧的后续视频帧中的、手腕位置信息对应的图像区域进行放大处理,得到放大图像区域。第三输入模块(图中未示出)被配置成将放大图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置。第四输入模块(图中未示出)被配置成响应于手掌位置信息指示放大图像区域中不包括手掌对象,将后续视频帧输入到关节定位模型,得到手腕对象的手腕位置信息。第五输入模块(图中未示出)被配置成将后续视频帧中的、手腕位置信息对应的图像区域输入至跟踪模型,得到手掌对象的手掌位置信息。

在本实施例的一些可选的实现方式中,目标视频为当前拍摄及呈现的视频。

本公开的上述实施例提供的装置,通过第一获取单元501获取目标视频,然后,第一选取单元502从目标视频中选取视频帧,之后,确定单元503确定视频帧中手腕对象的手腕位置信息,最后,生成单元504基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息,由此,基于手腕位置信息,确定手掌位置信息,丰富了手掌位置信息的确定方式,有助于提高所确定的手掌位置的准确度。

接下来请参考图6,作为对上述图4所示方法的实现,本公开提供了一种目标跟踪装置的一个实施例,该装置实施例与图4所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图4所示的方法实施例相同或相应的特征,以及产生与图4所示的方法实施例相同或相应的效果。该装置具体可以应用于各种电子设备中。

如图6所示,本实施例的目标跟踪装置600包括:第二获取单元601,被配置成获取当前拍摄及呈现的目标视频;第二选取单元602,被配置成从目标视频中选取视频帧作为第一目标视频帧,以及执行如下跟踪步骤:将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕,以及执行如下跟踪子步骤:从目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧:在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域;将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

在本实施例中,目标跟踪装置600的第二获取单元601可以获取当前拍摄及呈现的目标视频。

在本实施例中,上述第二选取单元602可以从第二获取单元601获取到的目标视频中选取视频帧作为第一目标视频帧,以及执行如下跟踪步骤:将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕,以及执行如下跟踪子步骤:从目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧:在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域;将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

在本实施例的一些可选的实现方式中,该装置600还包括:第一执行单元(图中未示出)被配置成响应于第二目标视频帧非目标视频中的最后一帧,将第二目标视频帧作为第一目标视频帧,继续执行跟踪子步骤。

在本实施例的一些可选的实现方式中,该装置600还包括:第二执行单元(图中未示出)被配置成响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中不包含手掌对象,将第二目标视频帧作为第一目标视频帧,继续执行跟踪步骤。

本公开的上述实施例提供的装置,通过第二获取单元601获取当前拍摄及呈现的目标视频,然后,第二选取单元602从目标视频中选取视频帧作为第一目标视频帧,以及执行如下跟踪步骤:将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕,以及执行如下跟踪子步骤:从目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧:在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域;将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息,由此,可以实时地确定当前呈现的视频中的手掌对象的位置。

下面参考图7,其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器或终端设备)700的结构示意图。本公开的实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图7示出的终端设备/服务器仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。

如图7所示,电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701,其可以根据存储在只读存储器(rom)702中的程序或者从存储装置708加载到随机访问存储器(ram)703中的程序而执行各种适当的动作和处理。在ram703中,还存储有电子设备700操作所需的各种程序和数据。处理装置701、rom702以及ram703通过总线704彼此相连。输入/输出(i/o)接口705也连接至总线704。

通常,以下装置可以连接至i/o接口705:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置706;包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置707;包括例如磁带、硬盘等的存储装置708;以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图7示出了具有各种装置的电子设备700,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图7中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。

特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置709从网络上被下载和安装,或者从存储装置708被安装,或者从rom702被安装。在该计算机程序被处理装置701执行时,执行本公开的实施例的方法中限定的上述功能。

需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、rf(射频)等等,或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取目标视频;从目标视频中选取视频帧;确定视频帧中手腕对象的手腕位置信息;基于手腕位置信息,生成视频帧的后续视频帧中的手掌对象的手掌位置信息。或者,使得该电子设备:获取当前拍摄及呈现的目标视频;从目标视频中选取视频帧作为第一目标视频帧,以及执行如下跟踪步骤:将第一目标视频帧输入至预先训练的关节定位模型,得到第一目标视频帧中手腕对象的手腕位置信息,其中,关节定位模型用于确定人体关节点的位置,人体关节点包括手腕,以及执行如下跟踪子步骤:从目标视频中选取第一目标视频帧的后续视频帧作为第二目标视频帧:在第二目标视频帧中确定与第一目标视频帧中的手腕对象的手腕位置信息对应的图像区域;将第二目标视频帧中的图像区域输入至预先训练的跟踪模型,得到手掌位置信息,其中,跟踪模型用于确定所输入的图像区域中手掌对象的位置;响应于第二目标视频帧中的手掌对象的手掌位置信息指示图像区域中包含手掌对象,基于手掌对象在图像区域中的手掌位置信息,确定手掌对象在第二目标视频帧中的手掌位置信息。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c++,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括第一获取单元、第一选取单元、确定单元和生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取目标视频的单元”。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1