本申请中涉及图像处理技术,尤其是一种图像识别方法、装置、电子设备及介质。
背景技术:
由于通信时代和社会的兴起,深度学习算法已经随着越来越多用户的使用而不断发展。
其中,深度学习算法的主要应用场景即为获取在多个图像中用户所兴趣的目标物体,从而可以知道目标物体的类别以及具体位置。在计算机视觉里,我们将这类任务称为目标检测(objectdetection)或物体检测。进一步的,在一些特定领域需要对拍摄得到的图片中的目标对象利用识别窗口进行标注从而完成对目标的检测,例如:在自动驾驶领域,需要对车辆、行人、三轮车、自行车、电动车、摩托车等进行标注。在网络在线教育等领域需要对老师或者学生等进行标注。
然而,在利用深度学习算法识别图像中的目标物体时,常常存在由于所选取的识别窗口不准确而导致识别效率不高的问题。
技术实现要素:
本发明的实施例提供一种图像识别方法、装置、电子设备及介质。
其中,根据本申请实施例的一个方面,提供的一种图像识别方法,其特征在于,包括:
确定目标物体类型,所述目标物体类型用于反映在图像中,所述目标物体的类别;
基于所述目标物体类型,确定识别窗口,所述识别窗口与所述目标物体类型相匹配;
基于所述识别窗口,对所述图像进行所述目标物体的识别。
可选地,在基于本申请上述方法的另一个实施例中,所述基于所述目标物体类型,确定识别窗口,包括:
基于所述目标物体类型,确定所述目标物体的长宽比例;
基于所述长宽比例,确定所述识别窗口的长宽比例。
可选地,在基于本申请上述方法的另一个实施例中,所述基于所述长宽比例,确定识别窗口的长宽比例,包括:
确定所述目标物体在所述待识别图像中的所占区域比例;
基于所述所占区域比例,计算所述识别窗口的面积;
基于所述识别窗口的面积以及所述长宽比例,得到所述识别窗口。
可选地,在基于本申请上述方法的另一个实施例中,当所述图像中的所述目标物体数量为多个时,基于所述目标物体中面积最大的目标物体的类型,确定识别窗口。
可选地,在基于本申请上述方法的另一个实施例中,所述基于所述识别窗口,对所述图像进行识别处理,包括:
基于所述识别窗口对所述图像进行截取,得到至少一个子图像,对所述至少一个子图像进行所述目标物体的识别。
可选地,在基于本申请上述方法的另一个实施例中,所述基于所述识别窗口对所述图像进行截取,得到至少一个子图像,包括:
将所述识别窗口在所述图像中按水平方向和/或垂直方向滑动,依次截取,得到所述至少一个子图像;和/或
按水平方向和/或垂直方向,将多个所述识别窗口在所述图像中同时排布,分别截取得到所述至少一个子图像。
可选地,在基于本申请上述方法的另一个实施例中,所述基于所述识别窗口,对所述图像进行所述目标物体的识别,包括:
基于预先训练的神经网络图像语义分割模型以及所述识别窗口,对所述图像中的所述目标物体进行识别。
根据本申请实施例的另一个方面,提供的一种图像识别装置,包括:
获取模块,被配置为确定目标物体类型,所述目标物体类型用于反映在图像中,所述目标物体的类别;
确定模块,被配置为基于所述目标物体类型,确定识别窗口,所述识别窗口与所述目标物体类型相匹配;
识别模块,被配置为基于所述识别窗口,对所述图像进行所述目标物体的识别。
根据本申请实施例的又一个方面,提供的一种电子设备,包括:
存储器,用于存储可执行指令;以及
显示器,用于与所述存储器显示以执行所述可执行指令从而完成上述任一所述图像识别方法的操作。
根据本申请实施例的还一个方面,提供的一种计算机可读存储介质,用于存储计算机可读取的指令,所述指令被执行时执行上述任一所述图像识别方法的操作。
本申请中,当获取目标物体类型之后,可以获取与目标物体类型相匹配的识别窗口,并利用识别窗口对图像进行计算。通过应用本申请的技术方案,可以利用与目标物体的类型相匹配的识别窗口对图像进行深度学习计算以完成对目标物体的识别。进而可以避免由于图像识别不正确所导致的影响深度学习计算结果的弊端。
下面通过附图和实施例,对本申请的技术方案做进一步的详细描述。
附图说明
构成说明书的一部分的附图描述了本申请的实施例,并且连同描述一起用于解释本申请的原理。
参照附图,根据下面的详细描述,可以更加清楚地理解本申请,其中:
图1为本申请图像识别方法的系统架构示意图。
图2为识别窗口在图像中的标注示意图。
图3为本申请图像识别方法另一个实施例的流程图。
图4a-图4c为本申请图像识别方法的示意图。
图5为本申请图像识别方法又一个实施例的流程图。
图6a-图6b为本申请图像识别方法的示意图。
图7为本申请图像识别装置的结构示意图。
图8为本申请显示电子设备结构示意图。
具体实施方式
现在将参照附图来详细描述本申请的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本申请的范围。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,不作为对本申请及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
需要说明,本申请实施例中所有方向性指示(诸如上、下、左、右、前、后……)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,在本申请中如涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本申请中,除非另有明确的规定和限定,术语“连接”、“固定”等应做广义理解,例如,“固定”可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请中的具体含义。
另外,本申请各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。
下面结合图1至图6来描述根据本申请示例性实施方式的用于进行图像识别方法。需要注意的是,下述应用场景仅是为了便于理解本申请的精神和原理而示出,本申请的实施方式在此方面不受任何限制。相反,本申请的实施方式可以应用于适用的任何场景。
本申请还提出一种图像识别方法、装置、目标终端及介质。
图1示意性地示出了根据本申请实施方式的一种图像识别方法的流程示意图。如图1所示,该方法包括:
s101,获取目标物体类型,目标物体类型用于反映在图像中,目标物体的类别。
首先需要说明的是,本申请中,不对获取目标物体类型的设备做具体限定,例如,本申请可以由智能设备获取目标物体类型,也可以由服务器获取目标物体类型。
另外,本申请中,不对智能设备做具体限定,即智能设备可以为任意的智能设备,例如,手机,电子笔记本,pda等等。
其中,本申请中的目标物体类型用于反映在图像中,目标物体的类别。例如,以网络在线教育领域而言,当检测者想要识别图像中老师的手部动作以判断其授课效率时,目标物体即为老师的手部。进一步的,目标物体类型即为手部肢体。同样的,当检测者想要识别图像中学生的面部动作以判断其听课状态时,目标物体即为学生的面部。进一步的,目标物体类型即为面部器官。
可选的,本申请中提及的目标物体类型也可以基于其他物体,例如,教室,黑板,汽车等等,本申请对此不做限定。
s102,基于目标物体类型,确定识别窗口,识别窗口与目标物体类型相匹配。
本申请在获取目标物体类型之后,还可以进一步的基于该目标物体类型,获取与之匹配的识别窗口。
首先,本申请对识别窗口不做具体限定,例如识别窗口可以为边界框。在利用深度学习算法实现的目标检测里,我们通常使用边界框(boundingbox)来描述目标位置。其中,边界框是一个矩形框,可以由矩形左上角的x和y轴坐标与右下角的x和y轴坐标确定。用户可以根据图像中的坐标信息来定义图像中目标物体。如图2所示,为在网络在线教育中,老师进行授课时的一帧图像。当检测者想要通过神经网络识别图像中老师的手部动作以判断其授课效率时,可以将识别窗口加载在老师的手部肢体中,从而实现识别窗口将目标物体的整体轮廓进行框选,以使后续利用预设的神经网络模型,自动对识别窗口选中的目标物体进行计算,以达到自动识别目标物体的目的。
进一步的,在相关技术中,利用识别窗口对目标物体进行自动识别的过程中,常常存在因为识别窗口的选取不合适而导致计算结果不准确的问题。本申请中,在获取到目标物体的目标物体类型后,可以根据该目标物体类型,选取与该类型相匹配的识别窗口。
需要说明的是,本申请中在获取到目标物体类型后,可以从数据库中,获取与之匹配的识别窗口。也可以根据该目标物体类型,自动生成与之匹配的目标识别窗口。本申请对此不做限定。
进一步可选的,本申请同样不对识别窗口做具体限定,即识别窗口可以为与目标物体类型尺寸相匹配的识别窗口,识别窗口也可以为与目标物体类型面积相匹配的识别窗口。本申请对此不做限定。
s103,基于识别窗口,对图像进行目标物体的识别。
可选的,本申请中在获取到与目标物体类型相匹配的识别窗口之后,可以基于该识别窗口,实现对目标物体的识别。
本申请中,当获取目标物体类型之后,可以获取与目标物体类型相匹配的识别窗口,并利用识别窗口对图像进行计算。通过应用本申请的技术方案,可以利用与目标物体的类型相匹配的识别窗口对图像进行深度学习计算以完成对目标物体的识别。进而可以避免由于图像识别不正确所导致的影响深度学习计算结果的弊端。
进一步可选的,在本申请的一种实施方式中,在s102(基于目标物体类型,获取目标识别窗口)中,还包括一种具体的实施方式,如图3所示,包括:
s201,获取目标物体类型。
s202,基于目标物体类型,确定目标物体的长宽比例。
本申请中,在获取目标物体对应的目标物体类型后,可以根据该目标物体类型,确定目标物体的长宽比例。其中,目标物体的长宽比例即为该物体的长度与宽度的长度比。例如,对于一个长度为120cm,宽度为40cm的黑板来说,其长宽比例即为3:1。
在本申请一种可能的实施方式,可以根据目标物体类型以及预设的策略,确定目标物体的长宽比例。例如,当目标物体类型为用户的手部肢体时,可以根据查询预设策略,确定对应的手部的长宽比例为2:1。当目标物体类型为用户的面部器官时,可以根据查询预设策略,确定对应的面部器官的长宽比例为1.5:1。又或,当目标物体类型为教室的黑板时,可以根据查询预设策略,确定对应的面部器官的长宽比例为3:1。
需要说明的是,本申请中不对预设策略做具体限定,即预设策略中包含的各个目标物体类型对应的长宽比例可以根据开发者不断的采集计算而相应变化。预设策略的具体变化并不会影响本申请的保护范围。
s203,基于长宽比例,确定识别窗口的长宽比例。
可选的,本申请中在确定目标物体的长宽比例后,可以进一步的获取具有该长宽比例的目标识别窗口。例如,当目标物体为用户的手部肢体时,根据预设策略确定对应的长宽比例为2:1。进一步的,可以根据该长宽比例,获取长宽比例同样为2:1的目标识别窗口。
需要说明的是,本申请中不对获取识别窗口的方式做具体限定。例如,本申请可以在确定目标物体的长宽比例后,从数据库中获取对应的识别窗口。本申请也可以在确定目标物体的长宽比例后,自动生成对应长宽比例的识别窗口。
在本申请一种优选的实施方式中,还可以通过以下方式实现基于长宽比例,确定识别窗口:
确定目标物体在图像中的所占区域比例;
进一步的,在确定目标物体的长宽比例后,为了确保能够选择合适的识别窗口,还需要进一步的确定目标物体的大小。可以理解的,如图4a所示,可以看出图像中包含了两个用户的面部,且两个用户的面部器官大小各不相同。也即虽然两个用户面部的目标物体类型相同(可以选取具有相同长宽比例的识别窗口),但是由于两个目标物体的面积大小不同,因此如果选择两个相同的识别窗口容易出现其中面积较大的目标物体无法被识别窗口覆盖完全的问题。更进一步的,只有在确定目标物体的比例以及大小之后,才可以为其选择完全框住目标物体的目标识别窗口。
可选的,在确定目标物体在图像中的面积大小的实施方式中,需要首先获取目标物体在图像中的所占区域比例。例如,当目标物体占用了图像一半的区域时,则判定目标物体在图像中的所占区域比例为50%。同样的,当目标物体占用了图像4分之一的区域时,则判定目标物体在图像中的所占区域比例为25%。
基于所占区域比例,确定目标识别窗口的面积;
进一步的,由于每张图像的尺寸基本是固定的,因此本申请在确定目标物体在图像中的所占区域比例之后,便可以根据该所占区域比例,确定目标物体的面积大小。进一步的,以使后续在选取识别窗口的过程中,选择可以覆盖该目标物体的识别窗口。
基于目标识别窗口的面积以及长宽比例,获取目标识别窗口。
在本申请的另外一种实施方式中,在获取目标物体在图像中的所占区域比例之前,还可以通过以下步骤实现:
当图像中的目标物体数量为多个时,基于目标物体中面积最大的目标物体的类型,确定识别窗口。
进一步的,实现上述步骤的方式可以如下:
获取图像;
检测图像中,目标物体的数量;
当检测到目标物体的数量为多个时,分别获取多个目标物体在图像中的面积大小;
将多个目标物体中,面积最大的目标物体作为目标物体。
可选的,当图像中存在有多个目标物体时,为了提高利用深度学习算法进行图像识别的效率,本申请中可以在多个目标物体中,选择面积最大的目标物体作为目标物体。以避免出现目标物体过小而导致的识别结果不准确的弊端。
以图4b为例,可以看出图像中存在有多个用户的手部肢体。进一步的,如图4c所示,当目标物体为手部肢体时,本申请可以同时获取该多个用户的手部肢体a、b、c、d、e、f、g,并进一步的在多个用户的手部肢体中,选择面积最大的手部肢体a作为目标物体。
s204,基于识别窗口,对图像进行目标物体的识别。
可选的,本申请中基于识别窗口,对图像进行识别可以通过以下方式实现:
基于预先训练的神经网络图像语义分割模型以及识别窗口,对图像进行识别。
进一步的,实现上述步骤的流程可以为:
获取样本图像,其中,样本图像包括至少一个目标物体的样本特征。
利用样本图像对预设的神经网络图像语义分割模型进行训练,得到满足预设条件的神经网络图像语义分割模型。
可选的,本申请提及的目标物体的样本特征中,目标物体特征可以包含有用户的器官特征,具体还可以为例如可以包含用户的眉部特征,眼部特征,唇部特征,额头特征,耳部特征等等。进一步的,本申请可以利用神经网络模型,来对用户的面部器官特征进行检测并分析。又或,目标物体特征也可以包含有用户的肢体特征,具体还可以为例如可以包含用户的手指特征,手掌特征,手臂特征,手背特征等等。同样的,本申请也可以利用神经网络模型,来对用户的肢体特征进行检测并分析。
进一步的,本申请可以通过神经网络图像语义分割模型,来识别待处理视频中的图像所包括的至少一个目标物体。更进一步而言,神经网络图像语义分割模型还可以对图像中的目标物体中的每一特征进行分类,并且将属于同一分类的特征分为同一类型,这样,图像进行语义分割之后所得到的目标物体特征可以为由多个不同的特征所组成。
可选的,对于所使用的神经网络图像语义分割模型,一种实施方式中,可以通过样本图像对神经网络图像语义分割模型进行训练。具体地,可以获取样本图像,并利用样本图像对预设的神经网络图像语义分割模型进行训练,得到满足预设条件的神经网络图像语义分割模型。
其中,样本图像包括至少一个目标物体特征,目标物体特征可以与本申请实施例中的目标物体特征相同。例如,样本图像中的样本目标物体特征可以包括用户的面部其他,手部肢体等等。
神经网络图像语义分割模型对样本图像进行语义分割处理时,对样本图像中的像素点分类越准确,则识别样本图像中的标记对象的准确率越高。其中需要说明的是,预设条件可以是自定义设定的。
例如,可以设定预设条件为:对像素点的分类准确率达到70%以上,那么,样本图像对神经网络图像语义分割模型进行反复训练,在神经网络图像语义分割模型对像素点的分类准确率达到70%以上时,则此时该神经网络图像语义分割模型可以应用在本发明实施例中,对图像进行语义分割处理。
本申请中,当获取目标物体类型之后,可以获取与目标物体类型具有相同长宽比例以及面积大小的识别窗口,并利用识别窗口对图像进行计算。通过应用本申请的技术方案,可以根据目标物体的类型以及面积,自动选取与之匹配的识别窗口对图像进行深度学习计算。进而可以避免由于图像识别不正确所导致的影响深度学习计算结果的弊端。
进一步可选的,在本申请的其中一种实施方式中,在s103(基于识别窗口,对图像进行目标物体的识别)中,还包括一种具体的实施方式,如图5所示,包括:
s301,获取目标物体类型。
s302,基于目标物体类型,获取识别窗口。
s303,识别图像中的目标物体。
s304,基于识别窗口对图像进行截取,得到至少一个子图像,对至少一个子图像进行目标物体的识别。
本申请中,在获取到目标识别窗口之后,还可以进一步的识别在图像中,目标物体的区域以及目标物体所在图像中的水平方向。以使后续根据该待检测区域以及水平方向,利用标识别窗口,对图像进行识别。
s305,将识别窗口在图像中按水平方向和/或垂直方向滑动,依次截取,得到至少一个子图像;和/或,按水平方向和/或垂直方向,将多个识别窗口在图像中同时排布,分别截取得到至少一个子图像。
在本申请的一种可能的实施方式中,还可以通过以下方式实现将识别窗口在图像中按水平方向和/或垂直方向滑动,依次截取,得到至少一个子图像;和/或,按水平方向和/或垂直方向,将多个识别窗口在图像中同时排布,分别截取得到至少一个子图像:
获取多个识别窗口;
根据多个识别窗口,对图像进行识别,多个识别窗口为在距离待检测区域预设距离,且位于目标物体的水平方向和/或垂直方向的识别窗口,多个识别窗口在图像中的位置各不相同。
可选的,为了避免虽然有合适的识别窗口,但是由于识别窗口没有自动覆盖目标物体的所有轮廓而导致的识别结果不准确的问题。本申请中,可以首先检测目标物体在图像中的区域,并同时利用多个与目标物体相同水平方向目标识别窗口,对目标物体进行标注。其中需要说明的是,各个识别窗口在图像中的位置各不相同。
以目标物体为图像中老师的面部器官为例,由于相关技术中常常存在识别窗口无法准确对目标物体进行完全标注的问题。例如由图6a可以看出,识别窗口的标定位置没有将老师的面部器官完全进行标注。从而会导致由于图像识别不到位而出现的识别结果不准确的问题。
为了解决这一问题,本申请中可以同时获取多个目标识别窗口,并将该多个识别窗口在目标物体的区域周围,以同一水平方向多次对目标物体进行标注。以水平方向举例说明,如图6b所示,可以看出目标识别窗口1、目标识别窗口2、目标识别窗口3、目标识别窗口4为在图像中具备同一水平方向的多个识别窗口,且各个目标识别窗口均在距离待检测区域预设距离所标注。进一步的,以使在后续根据多个目标识别窗口对图像进行图像识别的结果中,依次截取,得到至少一个子图像。和/或,按水平方向和/或垂直方向,将多个识别窗口在图像中同时排布并分别截取,以得到对应的多个子图像。进而在后续根据多个子图像的识别结果,选择识别结果最准确的子图像发生给用户。从而可以提高识别的准确率。
本申请中,当获取目标物体类型之后,可以获取与目标物体类型相匹配的目标识别窗口,并利用目标物体在图像中的待检测区域、待检测水平方向以及多个目标识别窗口,对图像进行计算。通过应用本申请的技术方案,可以根据目标物体的在图像中的待检测区域以及待检测水平方向,利用多个目标识别窗口对图像识别。进而可以避免由于识别窗口在图像中的标注位置不准确而导致的降低识别准确率的弊端。
在本申请的另外一种实施方式中,如图7所示,本申请还提供一种图像识别装置,该装置包括第一获取模块401,第二获取模块402,计算模块403,其中,
第一获取模块401,被配置为获取目标物体类型,所述目标物体类型用于反映在图像中,目标物体的类别;
第二获取模块402,被配置为基于所述目标物体类型,获取目标识别窗口,所述目标识别窗口为与所述目标物体类型相匹配的识别窗口;
计算模块403,被配置为基于所述目标识别窗口,对所述图像进行计算。
本申请中,当获取目标物体类型之后,可以获取与目标物体类型相匹配的目标识别窗口,并利用目标物体在图像中的待检测区域、待检测水平方向以及多个目标识别窗口,对图像进行计算。通过应用本申请的技术方案,可以根据目标物体的在图像中的待检测区域以及待检测水平方向,利用多个目标识别窗口对图像进行深度学习计算。进而可以避免由于识别窗口在图像中的标注位置不准确而导致的降低识别准确率的弊端。
可选的,在本申请的另一种实施方式中,第二获取模块402,还包括,确定单元,获取单元,其中:
确定单元,被配置为基于所述目标物体类型,确定所述目标物体的长宽比例;
获取单元,被配置为确定所述识别窗口的长宽比例。。
在本申请的另一种实施方式中,第二获取模块402,还包括,确定单元,获取单元,其中:
获取单元,被配置为确定所述目标物体在所述图像中的所占区域比例;
确定单元,被配置为基于所述所占区域比例,计算所述识别窗口的面积;
获取单元,被配置为基于所述识别窗口的面积以及所述长宽比例,得到所述识别窗口。
在本申请的另一种实施方式中,第二获取模块402,还包括,确定单元,其中:
确定单元,被配置为当所述图像中的所述目标物体数量为多个时,基于所述目标物体中面积最大的目标物体的类型,确定识别窗口。
在本申请的另一种实施方式中,计算模块403,还包括,识别单元,计算单元,其中:
识别单元,被配置为基于所述识别窗口对所述图像进行截取,得到至少一个子图像,对所述至少一个子图像进行所述目标物体的识别。
在本申请的另一种实施方式中,计算模块403,还包括,识别单元,计算单元,其中:
获取单元,被配置为将所述识别窗口在所述图像中按水平方向和/或垂直方向滑动,依次截取,得到所述至少一个子图像;和/或
按水平方向和/或垂直方向,将多个所述识别窗口在所述图像中同时排布,分别截取得到所述至少一个子图像。
在本申请的另一种实施方式中,计算模块403,还包括:
计算模块,被配置为基于预先训练的神经网络图像语义分割模型以及所述目标识别窗口,对所述图像进行计算。
图8是根据一示例性实施例示出的一种电子设备的逻辑结构框图。例如,电子设备500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图8,电子设备500可以包括以下一个或多个组件:处理器501和存储器502。
处理器501可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器501可以采用dsp(digitalsignalprocessing,数字信号处理)、fpga(field-programmablegatearray,现场可编程门阵列)、pla(programmablelogicarray,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器501也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称cpu(centralprocessingunit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器501可以在集成有gpu(graphicsprocessingunit,图像处理器),gpu用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器501还可以包括ai(artificialintelligence,人工智能)处理器,该ai处理器用于处理有关机器学习的计算操作。
存储器502可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器502还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器502中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器501所执行以实现本申请中方法实施例提供的互动特效标定方法。
在一些实施例中,电子设备500还可选包括有:外围设备接口503和至少一个外围设备。处理器501、存储器502和外围设备接口503之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口503相连。具体地,外围设备包括:射频电路504、触摸显示屏505、摄像头506、音频电路507、定位组件508和电源509中的至少一种。
外围设备接口503可被用于将i/o(input/output,输入/输出)相关的至少一个外围设备连接到处理器501和存储器502。在一些实施例中,处理器501、存储器502和外围设备接口503被集成在同一芯片或电路板上;在一些其他实施例中,处理器501、存储器502和外围设备接口503中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路504用于接收和发射rf(radiofrequency,射频)信号,也称电磁信号。射频电路504通过电磁信号与通信网络以及其他通信设备进行通信。射频电路504将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路504包括:天线系统、rf收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路504可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2g、3g、4g及5g)、无线局域网和/或wifi(wirelessfidelity,无线保真)网络。在一些实施例中,射频电路504还可以包括nfc(nearfieldcommunication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏505用于显示ui(userinterface,用户界面)。该ui可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏505是触摸显示屏时,显示屏505还具有采集在显示屏505的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器501进行处理。此时,显示屏505还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏505可以为一个,设置电子设备500的前面板;在另一些实施例中,显示屏505可以为至少两个,分别设置在电子设备500的不同表面或呈折叠设计;在再一些实施例中,显示屏505可以是柔性显示屏,设置在电子设备500的弯曲表面上或折叠面上。甚至,显示屏505还可以设置成非矩形的不规则图形,也即异形屏。显示屏505可以采用lcd(liquidcrystaldisplay,液晶显示屏)、oled(organiclight-emittingdiode,有机发光二极管)等材质制备。
摄像头组件506用于采集图像或视频。可选地,摄像头组件506包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及vr(virtualreality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件506还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路507可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器501进行处理,或者输入至射频电路504以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在电子设备500的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器501或射频电路504的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路507还可以包括耳机插孔。
定位组件508用于定位电子设备500的当前地理位置,以实现导航或lbs(locationbasedservice,基于位置的服务)。定位组件508可以是基于美国的gps(globalpositioningsystem,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源509用于为电子设备500中的各个组件进行供电。电源509可以是交流电、直流电、一次性电池或可充电电池。当电源509包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,电子设备500还包括有一个或多个传感器510。该一个或多个传感器510包括但不限于:加速度传感器511、陀螺仪传感器512、压力传感器513、指纹传感器514、光学传感器515以及接近传感器516。
加速度传感器511可以检测以电子设备500建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器511可以用于检测重力加速度在三个坐标轴上的分量。处理器501可以根据加速度传感器511采集的重力加速度信号,控制触摸显示屏505以横向视图或纵向视图进行用户界面的显示。加速度传感器511还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器512可以检测电子设备500的机体方向及转动角度,陀螺仪传感器512可以与加速度传感器511协同采集用户对电子设备500的3d动作。处理器501根据陀螺仪传感器512采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变ui)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器513可以设置在电子设备500的侧边框和/或触摸显示屏505的下层。当压力传感器513设置在电子设备500的侧边框时,可以检测用户对电子设备500的握持信号,由处理器501根据压力传感器513采集的握持信号进行左右手识别或快捷操作。当压力传感器513设置在触摸显示屏505的下层时,由处理器501根据用户对触摸显示屏505的压力操作,实现对ui界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器514用于采集用户的指纹,由处理器501根据指纹传感器514采集到的指纹识别用户的身份,或者,由指纹传感器514根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器501授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器514可以被设置电子设备500的正面、背面或侧面。当电子设备500上设置有物理按键或厂商logo时,指纹传感器514可以与物理按键或厂商logo集成在一起。
光学传感器515用于采集环境光强度。在一个实施例中,处理器501可以根据光学传感器515采集的环境光强度,控制触摸显示屏505的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏505的显示亮度;当环境光强度较低时,调低触摸显示屏505的显示亮度。在另一个实施例中,处理器501还可以根据光学传感器515采集的环境光强度,动态调整摄像头组件506的拍摄参数。
接近传感器516,也称距离传感器,通常设置在电子设备500的前面板。接近传感器516用于采集用户与电子设备500的正面之间的距离。在一个实施例中,当接近传感器516检测到用户与电子设备500的正面之间的距离逐渐变小时,由处理器501控制触摸显示屏505从亮屏状态切换为息屏状态;当接近传感器516检测到用户与电子设备500的正面之间的距离逐渐变大时,由处理器501控制触摸显示屏505从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图8中示出的结构并不构成对电子设备500的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器504,上述指令可由电子设备500的处理器520执行以完成上述图像识别方法,该方法包括:确定目标物体类型,所述目标物体类型用于反映在图像中,所述目标物体的类别;基于所述目标物体类型,确定识别窗口,所述识别窗口与所述目标物体类型相匹配;基于所述识别窗口,对所述图像进行所述目标物体的识别。可选地,上述指令还可以由电子设备500的处理器520执行以完成上述示例性实施例中所涉及的其他步骤。例如,所述非临时性计算机可读存储介质可以是rom、随机存取存储器(ram)、cd-rom、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种应用程序/计算机程序产品,包括一条或多条指令,该一条或多条指令可以由电子设备500的处理器520执行,以完成上述图像识别方法,该方法包括:确定目标物体类型,所述目标物体类型用于反映在图像中,所述目标物体的类别;基于所述目标物体类型,确定识别窗口,所述识别窗口与所述目标物体类型相匹配;基于所述识别窗口,对所述图像进行所述目标物体的识别。可选地,上述指令还可以由电子设备500的处理器520执行以完成上述示例性实施例中所涉及的其他步骤。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。