设备控制方法、装置、电子设备及存储介质与流程

文档序号:25542089发布日期:2021-06-18 20:38阅读:102来源:国知局
设备控制方法、装置、电子设备及存储介质与流程

本公开涉及人机交互技术领域,具体而言,涉及一种设备控制方法、装置、电子设备及存储介质。



背景技术:

人机交互技术是指通过计算机输入、输出设备,以有效的方式实现人与计算机对话的技术。随着科学技术的不断发展,人们对人机交互的水平和质量提出了新的需求。其中,由于手势具有直观性、自然性等的特点,使得手势已成为人机信息交互的一种重要手段。因此,基于计算机视觉的手势识别成为了人机交互领域的研究重点。但是这种情况下,极可能因为用户的一些动作而导致误识别,从而在用户实质上没有对设备进行控制的情况下,造成设备的误触发,这就降低了设备控制过程的精准度。



技术实现要素:

有鉴于此,本公开至少提供一种设备控制方法、装置、电子设备及存储介质。

第一方面,本公开提供了一种设备控制方法,包括:

对获取的待检测图像进行检测,确定所述待检测图像中包括的肢体关键点位置信息;

在所述肢体关键点位置信息满足预设检测条件的情况下,对所述待检测图像进行手势识别,得到手势识别结果;

基于所述手势识别结果,控制目标设备。

采用上述方法,对获取的待检测图像进行检测,确定待检测图像中包括的肢体关键点位置信息,通过对肢体关键点位置信息进行判断,在肢体关键点位置信息不满足预设检测条件时,不对待检测图像进行手势识别,避免了在肢体关键点位置信息不满足预设检测条件而进行手势识别时造成的计算资源的浪费。同时,在肢体关键点位置信息满足预设检测条件时,对待检测图像进行手势识别,并基于手势识别结果,控制目标设备,减少了对目标设备的误触发、误操作,提高目标设备的控制精准度。

一种可能的实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括举手条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手肘关节点指向所述手腕关节点的第一方向角信息;

在所述第一方向角信息属于第一角度范围内的情况下,确定所述肢体关键点位置信息满足所述举手条件。

考虑到用户在对目标设备进行控制时,会举起手部,故这里可以设置的举手条件,通过设置的举手条件对肢体关键点位置信息进行判断,进而实现利用举手条件对用户是否控制目标设备进行判断。即在确定的手肘关节点指向手腕关节点的第一方向角信息属于第一角度范围内时,确定肢体关键点位置信息满足举手条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括肩部关节点位置信息、手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括手臂高度条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手腕关节点与所述手肘关节点分别投影至参考区域后得到的两个投影点之间的目标距离;

基于所述肩部关节点位置信息和所述手肘关节点位置信息,确定举起距离阈值;

在所述目标距离大于或等于确定所述举起距离阈值的情况下,确定所述肢体关键点位置信息满足所述手臂高度条件。

考虑到用户在对目标设备进行控制时,会提高手臂,故这里可以设置的手臂高度条件,通过设置的手臂高度条件对肢体关键点位置信息进行判断,进而实现利用手臂高度条件对用户是否控制目标设备进行判断。即在目标距离大于或等于确定的举起距离阈值时,确定肢体关键点位置信息满足手臂高度条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和人体中心点位置信息、且所述预设检测条件包括手腕高度条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

基于所述人体中心点位置信息,确定手腕高度阈值;

在所述手腕关节点位置信息指示的手腕高度大于或等于所述手腕高度阈值的情况下,确定所述肢体关键点位置信息满足所述手腕高度条件。

考虑到用户在对目标设备进行控制时,手腕的高度一般会高于特定的高度值,故这里可以设置手腕高度条件,通过设置的手腕高度条件对肢体关键点位置信息进行判断,进而实现利用手腕高度条件对用户是否控制目标设备进行判断。即在手腕关节点位置信息指示的手腕高度大于或等于手腕高度阈值的情况下,确定肢体关键点位置信息满足手腕高度条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括第一手部关键点位置信息和第二手部关键点位置信息、且所述预设检测条件包括手势朝向条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

基于所述第一手部关键点位置信息和所述第二手部关键点位置信息,得到第一手部关键点指向第二手部关键点的第二方向角信息;

在所述第二方向角信息属于第二角度范围内的情况下,确定所述肢体关键点位置信息满足所述手势朝向条件。

由设置的用于对目标设备进行控制的手部动作可知,在用户执行设置的手部动作之后,用户的手部会有特定的朝向,即用户的第一关键点与第二关键点之间的角度位于特定的角度范围内,故这里可以设置手势朝向条件,通过设置的手势朝向条件对肢体关键点位置信息进行判断,进而实现利用手势朝向条件对用户是否控制目标设备进行判断。即在第一手部关键点指向第二手部关键点的第二方向角信息属于第二角度范围内时,确定肢体关键点位置信息满足手势朝向条件。

一种可能的实施方式中,在所述得到第一手部关键点指向第二手部关键点的第二方向角信息之前,包括:

对所述待检测图像进行手部检测,确定所述待检测图像中包括的手部检测框信息,所述手部检测框信息与所述肢体关键点位置信息对应于同一用户;

从所述待检测图像中确定所述手部检测框信息对应的手部区域图像,对所述手部区域图像进行检测,确定所述第一手部关键点位置信息和所述第二手部关键点位置信息。

采用上述方法,可以对获取的待检测图像进行手部检测,确定手部检测框信息,在利用手部检测框信息,从待检测图像中确定手部区域图像,通过对手部区域图像进行检测,可以筛除手部区域之外的其他图像,较准确的确定第一手部关键点位置信息和第二手部关键点位置信息。

一种可能的实施方式中,所述第一手部关键点位置信息指示所述第一手部关键点位于手部与手腕连接处的中心位置;

所述第二手部关键点位置信息指示所述第二手部关键点位于中指与手掌的连接位置处。

一种可能的实施方式中,所述控制目标设备,包括如下至少一项:

调整所述目标设备的音量;

调整所述目标设备的工作模式,所述工作模式包括关闭或开启所述目标设备的至少部分功能;

在所述目标设备的显示界面中显示移动标识,或调整所述显示界面中所述移动标识的显示位置;

所述显示界面中至少部分显示内容的缩小或放大;

所述显示界面的滑动或跳转。

这里,可以基于手势识别结果,控制目标设备的音量、控制目标设备的工作模式等,实现了对目标设备的灵活控制。

以下装置、电子设备等的效果描述参见上述方法的说明,这里不再赘述。

第二方面,本公开提供了一种设备控制装置,包括:

第一确定模块,用于对获取的待检测图像进行检测,确定所述待检测图像中包括的肢体关键点位置信息;

第二确定模块,用于在所述肢体关键点位置信息满足预设检测条件的情况下,对所述待检测图像进行手势识别,得到手势识别结果;

控制模块,用于基于所述手势识别结果,控制目标设备。

一种可能的实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括举手条件的情况下,所述第二确定模块,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手肘关节点指向所述手腕关节点的第一方向角信息;

在所述第一方向角信息属于第一角度范围内的情况下,确定所述肢体关键点位置信息满足所述举手条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括肩部关节点位置信息、手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括手臂高度条件的情况下,所述第二确定模块,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手腕关节点与所述手肘关节点分别投影至参考区域后得到的两个投影点之间的目标距离;

基于所述肩部关节点位置信息和所述手肘关节点位置信息,确定举起距离阈值;

在所述目标距离大于或等于所述举起距离阈值的情况下,确定所述肢体关键点位置信息满足所述手臂高度条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和人体中心点位置信息、且所述预设检测条件包括手腕高度条件的情况下,所述第二确定模块,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述人体中心点位置信息,确定手腕高度阈值;

在所述手腕关节点位置信息指示的手腕高度大于或等于所述手腕高度阈值的情况下,确定所述肢体关键点位置信息满足所述手腕高度条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括第一手部关键点位置信息和第二手部关键点位置信息、且所述预设检测条件包括手势朝向条件的情况下,所述第二确定模块,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述第一手部关键点位置信息和所述第二手部关键点位置信息,得到第一手部关键点指向第二手部关键点的第二方向角信息;

在所述第二方向角信息属于第二角度范围内的情况下,确定所述肢体关键点位置信息满足所述手势朝向条件。

一种可能的实施方式中,在所述得到第一手部关键点指向第二手部关键点的第二方向角信息之前,所述第一确定模块,用于:

对所述待检测图像进行手部检测,确定所述待检测图像中包括的手部检测框信息,所述手部检测框信息与所述肢体关键点位置信息对应于同一用户;

从所述待检测图像中确定所述手部检测框信息对应的手部区域图像,对所述手部区域图像进行检测,确定所述第一手部关键点位置信息和所述第二手部关键点位置信息。

一种可能的实施方式中,所述第一手部关键点位置信息指示所述第一手部关键点位于手部与手腕连接处的中心位置;

所述第二手部关键点位置信息指示所述第二手部关键点位于中指与手掌的连接位置处。

一种可能的实施方式中,所述控制模块,在控制目标设备时,包括如下至少一项:

调整所述目标设备的音量;

调整所述目标设备的工作模式,所述工作模式包括关闭或开启所述目标设备的至少部分功能;

在所述目标设备的显示界面中显示移动标识,或调整所述显示界面中所述移动标识的显示位置;

所述显示界面中至少部分显示内容的缩小或放大;

所述显示界面的滑动或跳转。

第三方面,本公开提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如上述第一方面或任一实施方式所述的设备控制方法的步骤。

第四方面,本公开提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如上述第一方面或任一实施方式所述的设备控制方法的步骤。

为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。

附图说明

为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。

图1示出了本公开实施例所提供的一种设备控制方法的流程示意图;

图2a示出了本公开实施例所提供的一种设备控制方法中,肢体关键点的示意图;

图2b示出了本公开实施例所提供的一种设备控制方法中,第一角度范围和第一方向角信息的示意图;

图2c示出了本公开实施例所提供的一种设备控制方法中,参考区域的示意图;

图2d示出了本公开实施例所提供的一种设备控制方法中,第二方向角信息和第二角度范围的示意图;

图2e示出了本公开实施例所提供的一种设备控制方法中,另一种第二角度范围的示意图;

图3示出了本公开实施例所提供的一种设备控制方法中,第一手部关键点和第二手部关键点的示意图;

图4示出了本公开实施例所提供的一种设备控制装置的架构示意图;

图5示出了本公开实施例所提供的一种电子设备的结构示意图。

具体实施方式

为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。

一般的,可以使用用户的手势类别对目标设备进行控制,但是,这种情况下,极可能因为用户的一些动作而导致误识别,从而在用户实质上没有对设备进行控制的情况下,造成设备的误触发,降低了设备控制过程的精准度,比如,用户在双手交叉抱胸的情况,手势识别结果可能为握拳、或者手掌等,在用户实质上没有对设备进行控制时,基于误识别得到的手势识别结果,触发了相应功能,造成了目标设备的误控。为了解决上述问题,实现对目标设备的精准控制,本公开实施例提供了一种设备控制方案。

针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。

为便于对本公开实施例进行理解,首先对本公开实施例所公开的一种设备控制方法进行详细介绍。本公开实施例所提供的设备控制方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备,终端设备可以为用户设备(userequipment,ue)、移动设备、用户终端、蜂窝电话、无绳电话、个人数字助理(personaldigitalassistant,pda)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该设备控制方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。

参见图1所示,为本公开实施例所提供的设备控制方法的流程示意图,该方法包括s101-s103,其中:

s101,对获取的待检测图像进行检测,确定所述待检测图像中包括的肢体关键点位置信息;

s102,在所述肢体关键点位置信息满足预设检测条件的情况下,对所述待检测图像进行手势识别,得到手势识别结果;

s103,基于所述手势识别结果,控制目标设备。

采用上述方法,对获取的待检测图像进行检测,确定待检测图像中包括的肢体关键点位置信息,通过对肢体关键点位置信息进行判断,在肢体关键点位置信息不满足预设检测条件时,不对待检测图像进行手势识别,避免了在肢体关键点位置信息不满足预设检测条件而进行手势识别时造成的计算资源的浪费。同时,在肢体关键点位置信息满足预设检测条件时,对待检测图像进行手势识别,并基于手势识别结果,控制目标设备,减少了对目标设备的误触发、误操作,提高目标设备的控制精准度。

下述对s101-s103进行具体说明。

针对s101:

这里,待检测图像可以为设置的目标区域对应的实时场景图像,目标区域为设置的能够对目标设备进行控制的任一场景区域。具体实施时,可以在目标设备上设置摄像设备,或者,也可以在目标设备的周围区域内设置摄像设备,以便摄像设备可以获取目标设备对应的目标区域的待检测图像。其中,摄像设备对应的拍摄区域包含该目标区域。

在获取了待检测图像之后,可以对待检测图像进行检测,确定待检测图像中包括的肢体关键点位置信息。具体实施时,可以使用训练后的第一神经网络对待检测图像进行检测,确定待检测图像中包括的肢体关键点位置信息。其中,待检测图像中可以包括一个或多个用户的肢体关键点位置信息。

在待检测图像中包括一个用户时,该用户为目标用户,在目标用户的肢体关键点位置信息满足预设检测条件时,对待检测图像进行手势识别,得到手势识别结果。

在待检测图像中包括多个用户时,可以确定每个用户的肢体关键点位置信息是否满足预设检测条件,将肢体关键点位置信息满足预设检测条件的用户作为目标用户,对待检测图像中的目标用户进行手势识别,得到手势识别结果。在肢体关键点位置信息满足预设检测条件的用户为多个时,可以随机选择一个作为目标用户,或也可以将位于目标区域中间的用户作为目标用户等等。

目标用户的肢体关键点位置信息可以包括目标用户的半身肢体关键点的位置信息、和/或手部检测框的位置信息。其中,肢体关键点位置信息中包括的肢体关键点的数量和肢体关键点的位置,可以根据需要进行设置。比如,肢体关键点的数量可以为14个、17个等。

参见图2a所示的一种设备控制方法中,肢体关键点的示意图,图2a中目标用户的肢体关键点可以包括头部顶点5、头部中心点4、颈部关节点3、右肩关节点9、左肩关节点6、右手肘关节点10、左手肘关节点7、右手腕关节点11、左手腕关节点8、半身肢体中心点12、胯部关节点1、胯部关节点2、和胯部中心点0;手部检测框可以包括右手检测框的四个顶点13、15、16、17和右手框的中心点14;以及左手检测框的四个顶点18、20、21、22和左手框的中心点19。

针对s102:

在确定待检测图像中包括的肢体关键点位置信息之后,可以判断肢体关键点位置信息是否满足预设检测条件,若满足,则对待检测图像进行手势识别,确定手势识别结果;若不满足,则不对待检测图像进行手势识别,并获取下一帧待检测图像,对下一帧待检测图像进行检测。其中,手势识别结果包括但不限于手势类别、手势位置等。

下述对判断肢体关键点位置信息是否满足预设检测条件的多种方式进行具体说明。

一种可选实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括举手条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

步骤一、基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手肘关节点指向所述手腕关节点的第一方向角信息;

步骤二、在所述第一方向角信息属于第一角度范围内的情况下,确定所述肢体关键点位置信息满足所述举手条件。

可以基于手腕关节点位置信息和手肘关节点位置信息,确定手腕关节点与手肘关节点之间的连线、与设置的基准线之间的角度,该角度即为确定的目标用户的手肘关节点指向手腕关节点的第一方向角信息。其中,手腕关节点可以为左手对应的手腕关节点、也可以为右手对应的手腕关节点,在手腕关节点为左手对应的手腕关节点时,手肘关节点为左臂对应的手肘关节点;在手腕关节点为右手对应的手腕关节点时,手肘关节点为右臂对应的手肘关节点。

在该第一方向角信息属于第一角度范围内时,确定肢体关键点位置信息满足举手条件;在第一方向角信息属于第一角度范围之外时,确定肢体关键点位置信息不满足举手条件。其中,第一角度范围可以根据实际情况进行设置。比如,基准线可以为水平向左的线条,第一角度范围可以为[0°,180°],若第一方向角信息为60°,则该第一方向角信息位于第一角度范围内;若第一方向角信息为220°,则该第一方向角信息位于第一角度范围之外。

参见图2b所示的一种设备控制方法中,第一角度范围和第一方向角信息的示意图,可知第一角度范围可以为[0°,180°]。在右手腕关键点11位于位置a处时,右手腕关节点11与右手肘关节点10之间的连线、与基准线之间的角度β(比如可以为负值)为第一角度信息,可知该第一角度信息位于第一角度范围之外。在右手腕关节点11位于位置b时,右手腕关节点11与右手肘关节点10之间的连线、与基准线之间的角度α(比如可以为正值)为第一角度信息,可知该第一角度信息位于第一角度范围内。

考虑到用户在对目标设备进行控制时,会举起手部,故这里可以设置举手条件,通过设置的举手条件对肢体关键点位置信息进行判断,进而实现利用举手条件对用户是否控制目标设备进行判断。即在确定的手肘关节点指向手腕关节点的第一方向角信息属于第一角度范围内时,确定肢体关键点位置信息满足举手条件。

在另一可选实施方式中,在所述肢体关键点位置信息包括肩部关节点位置信息、手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括手臂高度条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

步骤一、基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手腕关节点与手肘关节点分别投影至参考区域后得到的两个投影点之间的目标距离;

步骤二、基于所述肩部关节点位置信息和所述手肘关节点位置信息,确定举起距离阈值;

步骤三、在所述目标距离大于或等于确定所述举起距离阈值的情况下,确定所述肢体关键点位置信息满足手臂高度条件。

这里,可以基于手腕关节点位置信息和手肘关节点位置信息,确定目标用户的手腕关节点与手肘关节点分别投影至参考区域后得到的两个投影点之间的目标距离;其中,参考区域可以为待检测图像对应的场景区域。

参见图2c所示的一种设备控制方法中,参考区域的示意图,该参考区域即为待检测图像对应的场景区域。其中,该图中包括右手腕关节点对应的投影点202和右手肘关节点对应的投影点201。

以及可以利用肩部关节点位置信息和手肘关节点位置信息,确定举起距离阈值,比如,可以将肩部关节点与手肘关节点之间的距离的一半,确定为该目标用户对应的举起距离阈值。这里,不同的用户可以对应不同的举起距离阈值。

其中,肩部关节点、手腕关节点和手肘关节点可以为目标用户的左臂对应的肩部关节点、手腕关节点和手肘关节点;或者,也可以为目标用户的右臂对应的肩部关节点、手腕关节点和手肘关节点。

在计算的目标距离大于或等于确定的举起距离阈值时,确定肢体关键点位置信息满足手臂高度条件;在计算的目标距离小于确定的举起距离阈值时,确定肢体关键点位置信息不满足手臂高度条件。

考虑到用户在对目标设备进行控制时,会提高手臂,故这里可以设置手臂高度条件,通过设置的手臂高度条件对肢体关键点位置信息进行判断,进而实现利用手臂高度条件对用户是否控制目标设备进行判断。即在目标用户的手腕关节点与手肘关节点之间的目标距离大于或等于确定的举起距离阈值时,确定肢体关键点位置信息满足手臂高度条件。

一种可选实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和人体中心点位置信息、且所述预设检测条件包括手腕高度条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

步骤一、基于目标用户的所述人体中心点位置信息,确定所述目标用户对应的手腕高度阈值;

步骤二、在所述手腕关节点位置信息指示的手腕高度大于或等于所述手腕高度阈值的情况下,确定所述肢体关键点位置信息满足所述手腕高度条件。

这里,可以基于人体中心点位置信息,确定手腕高度阈值,比如,可以将人体中心点位置信息指示的高度,确定为手腕高度阈值;或者,可以将人体中心点位置信息指示的高度与设置的高度调节值进行相减运算或相加运算,将运算后的高度值确定为手腕高度阈值。其中,手腕关节点可以为左手对应的手腕关节点和/或右手对应的手腕关节点。

进而,在手腕关节点位置信息指示的手腕高度大于或等于手腕高度阈值时,确定肢体关节点位置信息满足手腕高度条件;在手腕关节点位置信息指示的手腕高度小于手腕高度阈值时,确定肢体关节点位置信息不满足手腕高度条件。

考虑到用户在对目标设备进行控制时,手腕的高度一般会高于特定的高度值,故这里可以设置手腕高度条件,通过设置的手腕高度条件对肢体关键点位置信息进行判断,进而实现利用手腕高度条件对用户是否控制目标设备进行判断。即在手腕关节点位置信息指示的手腕高度大于或等于手腕高度阈值的情况下,确定肢体关键点位置信息满足手腕高度条件。

结合设置的多种手势动作可知,用户在执行任一手势动作时,用户手部的朝向会满足一定的角度范围,即用户的第一手部关键点与第二手部关键点之间的角度位于一定的角度范围内,故这里可以设置手势朝向条件,通过手势朝向条件,判断肢体关键点位置信息是否满足手势朝向条件。

在另一可选实施方式中,在所述肢体关键点位置信息包括第一手部关键点位置信息和第二手部关键点位置信息、且所述预设检测条件包括手势朝向条件的情况下,确定所述肢体关键点位置信息满足预设检测条件,包括:

步骤一、基于所述第一手部关键点位置信息和所述第二手部关键点位置信息,得到第一手部关键点指向第二手部关键点的第二方向角信息;

步骤二、在所述第二方向角信息属于设置的第二角度范围内的情况下,确定所述肢体关键点位置信息满足手势朝向条件。

这里,可以基于第一手部关键点位置信息和第二手部关键点位置信息,确定第一手部关键点指向第二手部关键点的线条与设置的基准线之间的角度,即确定第二方向角信息。在第二方向角信息属于设置的第二角度范围内时,确定肢体关键点位置信息满足手势朝向条件;在第二方向角信息位于设置的第二角度范围之外时,确定肢体关键点位置信息不满足手势朝向条件。其中,第二角度范围可以根据实际情况进行设置,比如,基准线可以为水平向左的线条,第二角度范围可以为[-10°,180°],若第二方向角信息为10°时,则确定第二方向角信息位于第二角度范围内;若第二方向角信息为-90°时,则确定第二方向角信息位于第二角度范围之外。

参见图2d所示的一种设备控制方法中,第二方向角信息和第二角度范围的示意图,其中第二角度范围203可以为[0°,180°],该图2d中包括第一手部关键点301和第二手部关键点302,可知第一手部关键点301与第二手部关键点302的线条与设置的基准线之间的角度θ位于第二角度范围之内。可知在图2e中,第一手部关键点301与第二手部关键点302的线条与设置的基准线之间的角度γ位于第二角度范围之外。

由设置的用于对目标设备进行控制的手部动作可知,在用户执行设置的手部动作之后,用户的手部会有特定的朝向,即用户的第一关键点与第二关键点之间的角度位于特定的角度范围内,故这里可以设置手势朝向条件,通过设置的手势朝向条件对肢体关键点位置信息进行判断,进而实现利用手势朝向条件对用户是否控制目标设备进行判断。即在第一手部关键点指向第二手部关键点的第二方向角信息属于第二角度范围内时,确定肢体关键点位置信息满足手势朝向条件。

在具体实施时,上述说明的举手条件、手臂高度条件、手腕高度条件、手势朝向条件,可以单独使用对肢体关键点位置信息进行判断;比如,可以利用手势朝向条件对肢体关键点位置信息进行判断;也可以利用举手条件对肢体关键点位置信息进行判断。或者,也可以结合使用,对肢体关键点位置信息进行判断;比如,可以使用举手条件、和手势朝向条件,对肢体关键点位置信息进行判断,即在肢体关键点位置信息满足举手条件和满足手势朝向条件之后,确定肢体关键点位置信息满足预设检测条件,在肢体关键点位置信息不满足举手条件和/或不满足手势朝向条件之后,确定肢体关键点位置信息不满足预设检测条件。

在肢体关键点位置信息包括第一手部关键点位置信息和第二手部关键点位置信息时,在所述得到第一手部关键点指向第二手部关键点的第二方向角信息之前,包括:

步骤一、对所述待检测图像进行手部检测,确定所述待检测图像中包括的手部检测框信息,所述手部检测框信息与所述肢体关键点位置信息对应于同一用户;

步骤二、从所述待检测图像中确定所述手部检测框信息对应的手部区域图像,对所述手部区域图像进行检测,确定所述第一手部关键点位置信息和所述第二手部关键点位置信息。

这里,可以对获取的待检测图像进行检测,确定待检测图像中包括的手部检测框信息,或者,确定待检测图像中包括的手部检测框信息、和半身肢体关键点的位置信息。手部检测框信息与肢体关键点位置信息属于同一个用户。

示例性的,可以通过训练后的第一神经网络对待检测图像进行检测,确定待检测图像中包括的手部检测框信息。其中,手部检测框信息可以包括手部检测框的位置信息,比如,手部检测框的四个顶点的位置信息、手部检测框的中心点的位置信息。

在得到手部检测框信息之后,可以基于手部检测框信息,从待检测图像中确定手部检测框对应的手部区域图像;再对手部检测框对应的手部区域图像进行检测,确定第一手部关键点位置信息和第二手部关键点位置信息。示例性的,可以利用训练后的第二神经网络对手部检测框对应的手部区域图像进行检测,确定第一手部关键点位置信息和第二手部关键点位置信息。

一种可能的实施方式中,所述第一手部关键点位置信息指示所述第一手部关键点位于手部与手腕连接处的中心位置;所述第二手部关键点位置信息指示所述第二手部关键点位于中指与手掌的连接位置处。

其中,第一手部关键点、和第二手部关键点可以根据需要进行设置,参见图3所示的一种设备控制方法中,第一手部关键点和第二手部关键点的示意图,第一手部关键点301可以为用户的手部与手腕连接处的中心位置的关键点,第二手部关键点302可以为用户的中指与手掌连接位置处的关键点。其中,可以确定用户的左手对应的第一手部关键点和第二手部关键点,也可以确定右手对应的第一手部关键点和第二手部关键点。

采用上述方法,可以对获取的待检测图像进行手部检测,确定手部检测框信息,再利用手部检测框信息,从待检测图像中确定手部区域图像,通过对手部区域图像进行检测,可以筛除手部区域之外的其他图像,较准确的确定第一手部关键点位置信息和第二手部关键点位置信息。

针对s103:

在确定了手势识别结果之后,可以基于手势识别结果,控制目标设备。其中,目标设备可以为智能电视、智能显示屏等。

一种可选实施方式中,所述控制目标设备,包括如下至少一项:

调整所述目标设备的音量;调整所述目标设备的工作模式,所述工作模式包括关闭或开启所述目标设备的至少部分功能;在所述目标设备的显示界面中显示移动标识,或调整所述显示界面中所述移动标识的显示位置;所述显示界面中至少部分显示内容的缩小或放大;所述显示界面的滑动或跳转。

对基于手势识别结果,调整目标设备的音量进行示例性说明。若手势识别结果中包括的手势类别为设置的用于调整音量的第一目标手势类别时,比如,第一目标手势类别可以为竖食指和中指的手势类别,若手势识别结果指示的目标用户的手势类别为竖食指和中指的手势类别时,则可以确定该目标用户触发了调整目标设备的音量的功能,进而可以根据目标用户的手部的移动方向和距离,确定音量放大、或减小,以及确定放大后的音量值或减小后的音量值,比如,若检测到目标用户的手部从下往上移动,表征对目标设备的音量进行放大,并可以根据从下往上移动的距离、和当前音量,确定放大后的音量值;若检测到目标用户的手部从上往下移动,表征对目标设备的音量进减小,并可以根据从上往下移动的距离、和当前音量值,确定减小后的音量值。

对基于手势识别结果,调整目标设备的工作模式进行示例性说明。若手势识别结果中的手势类别为设置的用于关闭目标设备的第二目标手势类别时,比如,第二目标手势类别可以为“ok”的手势类别,若手势识别结果指示的目标用户的手势类别为“ok”的手势类别时,则可以确定该目标用户触发了关闭目标设备的功能,进而可以响应用户触发的功能关闭目标设备。

示例性的,还可以基于手势识别结果指示的目标用户对应的手部的位置,确定移动标识在目标设备上的显示位置,控制目标设备在该显示位置处显示移动标识等,其中,移动标识可以为移动光标等。

还可以根据手势识别结果指示的手势类别、和/或手部位置,控制目标设备将部分显示内容进行缩小或放大等;以及控制目标设备的显示界面的滑动或跳转等。

对基于手势识别结果,控制目标设备的显示界面的跳转进行示例性说明。若手势识别结果中的手势类别与单击对应的第三目标手势类别相同时,比如,第三目标手势类别可以为竖食指的手势类别,若手势识别结果指示的目标用户的手势类别为竖食指的手势类别时,则可以确定该目标用户在与手部的当前位置处匹配的、目标设备的目标显示位置处触发了单击功能,则可以控制目标设备展示与单击操作对应的、且与目标显示位置处匹配的展示内容,实现显示界面的跳转。

本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。

基于相同的构思,本公开实施例还提供了一种设备控制装置,参见图4所示,为本公开实施例提供的一种设备控制装置的架构示意图,包括第一确定模块401、第二确定模块402、控制模块403,具体的:

第一确定模块401,用于对获取的待检测图像进行检测,确定所述待检测图像中包括的肢体关键点位置信息;

第二确定模块402,用于在所述肢体关键点位置信息满足预设检测条件的情况下,对所述待检测图像进行手势识别,得到手势识别结果;

控制模块403,用于基于所述手势识别结果,控制目标设备。

一种可能的实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括举手条件的情况下,所述第二确定模块402,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手肘关节点指向所述手腕关节点的第一方向角信息;

在所述第一方向角信息属于第一角度范围内的情况下,确定所述肢体关键点位置信息满足所述举手条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括肩部关节点位置信息、手腕关节点位置信息和手肘关节点位置信息、且所述预设检测条件包括手臂高度条件的情况下,所述第二确定模块402,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述手腕关节点位置信息和所述手肘关节点位置信息,得到所述手腕关节点与所述手肘关节点分别投影至参考区域后得到的两个投影点之间的目标距离;

基于所述肩部关节点位置信息和所述手肘关节点位置信息,确定举起距离阈值;

在所述目标距离大于或等于确定所述举起距离阈值的情况下,确定所述肢体关键点位置信息满足所述手臂高度条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括手腕关节点位置信息和人体中心点位置信息、且所述预设检测条件包括手腕高度条件的情况下,所述第二确定模块402,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述人体中心点位置信息,确定手腕高度阈值;

在所述手腕关节点位置信息指示的手腕高度大于或等于所述手腕高度阈值的情况下,确定所述肢体关键点位置信息满足所述手腕高度条件。

一种可能的实施方式中,在所述肢体关键点位置信息包括第一手部关键点位置信息和第二手部关键点位置信息、且所述预设检测条件包括手势朝向条件的情况下,所述第二确定模块402,在确定所述肢体关键点位置信息满足预设检测条件时,用于:

基于所述第一手部关键点位置信息和所述第二手部关键点位置信息,得到第一手部关键点指向第二手部关键点的第二方向角信息;

在所述第二方向角信息属于第二角度范围内的情况下,确定所述肢体关键点位置信息满足所述手势朝向条件。

一种可能的实施方式中,在所述得到第一手部关键点指向第二手部关键点的第二方向角信息之前,所述第一确定模块402,用于:

对所述待检测图像进行手部检测,确定所述待检测图像中包括的手部检测框信息,所述手部检测框信息与所述肢体关键点位置信息对应于同一用户;

从所述待检测图像中确定所述手部检测框信息对应的手部区域图像,对所述手部区域图像进行检测,确定所述第一手部关键点位置信息和所述第二手部关键点位置信息。

一种可能的实施方式中,所述第一手部关键点位置信息指示所述第一手部关键点位于手部与手腕连接处的中心位置;

所述第二手部关键点位置信息指示所述第二手部关键点位于中指与手掌的连接位置处。

一种可能的实施方式中,所述控制模块403,在控制目标设备时,包括如下至少一项:

调整所述目标设备的音量;

调整所述目标设备的工作模式,所述工作模式包括关闭或开启所述目标设备的至少部分功能;

在所述目标设备的显示界面中显示移动标识,或调整所述显示界面中所述移动标识的显示位置;

所述显示界面中至少部分显示内容的缩小或放大;

所述显示界面的滑动或跳转。

在一些实施例中,本公开实施例提供的装置具有的功能或包含的模板可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。

基于同一技术构思,本公开实施例还提供了一种电子设备。参照图5所示,为本公开实施例提供的电子设备的结构示意图,包括处理器501、存储器502、和总线503。其中,存储器502用于存储执行指令,包括内存5021和外部存储器5022;这里的内存5021也称内存储器,用于暂时存放处理器501中的运算数据,以及与硬盘等外部存储器5022交换的数据,处理器501通过内存5021与外部存储器5022进行数据交换,当电子设备500运行时,处理器501与存储器502之间通过总线503通信,使得处理器501在执行以下指令:

对获取的待检测图像进行检测,确定所述待检测图像中包括的肢体关键点位置信息;

在所述肢体关键点位置信息满足预设检测条件的情况下,对所述待检测图像进行手势识别,得到手势识别结果;

基于所述手势识别结果,控制目标设备。

此外,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的设备控制方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。

本公开实施例还提供一种计算机程序产品,该计算机程序产品承载有程序代码,所述程序代码包括的指令可用于执行上述方法实施例中所述的设备控制方法的步骤,具体可参见上述方法实施例,在此不再赘述。

其中,上述计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(softwaredevelopmentkit,sdk)等等。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-onlymemory,rom)、随机存取存储器(randomaccessmemory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1