一种物体位置预测方法、装置、设备及存储介质与流程

文档序号:30087588发布日期:2022-05-18 06:27阅读:85来源:国知局
一种物体位置预测方法、装置、设备及存储介质与流程

1.本技术涉及深度学习领域,具体地,涉及一种物体位置预测方法、装置、设备及存储介质。


背景技术:

2.随着深度学习技术研究取得了重大突破、海量的大数据支撑以及计算成本下降等因素的出现,深度学习方法已经被广泛运用在目标检测任务上。相关技术中,对目标的位置进行检测的神经网络模型通常规模较大,对部署神经网络模型的设备的内存空间具有较高的要求,同时神经网络模型推算物体位置的速度,也与部署神经网络模型的设备的计算能力有关。因此,相关技术中存在利用深度学习模型对物体位置检测成本高的问题。


技术实现要素:

3.本技术实施例提供了一种物体位置预测方法、装置、设备及存储介质,以改善上述问题。
4.第一方面,本技术实施例提供了一种物体位置预测方法,所述方法包括:获取初始神经网络模型,所述初始神经网络模型具有第一精度的初始模型参数,所述初始神经网络模型基于多张具有样本标签的样本图像训练得到,所述样本标签用于标识样本图像中的物体的位置;对所述初始模型参数进行量化处理,获得量化模型参数;根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的第一结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的第二结果,获得引入噪声;当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于所述预设噪声阈值时,获得目标神经网络模型;基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。
5.第二方面,本技术实施例提供了一种物体位置预测装置,所述装置包括:初始模型获取单元、量化参数获取单元,、引入噪声获取单元、目标模型获取单元以及位置预测单元。其中,初始模型获取单元,用于获取初始神经网络模型,所述初始神经网络模型具有第一精度的初始模型参数,所述初始神经网络模型基于多张具有样本标签的样本图像训练得到,所述样本标签用于标识样本图像中的物体的位置;量化参数获取单元,用于对所述初始模型参数进行量化处理,获得量化模型参数;引入噪声获取单元,用于根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的检测结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的检测结果,获得引入噪声;目标模型获取单元,用于当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声小于或等于所述预设噪声阈值时,获得目标神经网络模型;位置预测单元,用于基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。
6.第三方面,本技术实施例提供了一种电子设备,所述电子设备包括:一个或多个处
理器以及存储器,所述存储器上存储有一个或多个程序。当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述第一方面所述方法。
7.第四方面,本技术实施例提供了一种计算机可读存储介质,其上存储有计算机程序。其中,所述程序被处理器执行上述第一方面所述方法。
8.本技术提供的技术方案,通过获取初始神经网络模型,所述初始神经网络模型具有第一精度的初始模型参数,所述初始神经网络模型基于多张具有样本标签的样本图像训练得到,所述样本标签用于标识样本图像中的物体的位置;对所述初始模型参数进行量化处理,获得量化模型参数;根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的第一结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的第二结果,获得引入噪声;当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于所述预设噪声阈值时,获得目标神经网络模型;基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。因此,采用本技术的上述方法,将初始神经网络模型的参数根据可训练的阈值进行量化,减小初始神经网络模型规模,利用量化后的模型参数推算目标物体的位置,在兼顾部署模型的硬件计算能力的同时提高了模型推算速度,降低了利用神经网络模型预测物体位置的成本。
附图说明
9.为了更清楚地说明本技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
10.图1示出了本技术一实施例提供的一种物体位置预测方法的应用场景的示意图;
11.图2示出了本技术一实施例提供的一种物体位置预测方法的流程示意图;
12.图3示出了本技术一实施例提供的一种物体位置预测装置的结构框图;
13.图4示出了本技术一实施例提供的一种电子设备的结构框图;
14.图5示出了本技术一实施例提供的一种计算机可读存储介质的结构框图。
具体实施方式
15.为了使本技术领域的人员更好地理解本技术方案,下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
16.随着科学技术的飞速发展,人工智能技术越来越受到重视。尤其是人工智能技术中的机器学习技术的应用甚为广泛。通常可以使用机器学习技术训练定位识别目标对象的机器学习模型。
17.目标检测是自动驾驶车辆感知模块非常重要的一类任务,随着近年来深度学习的发展,深度学习方法也运用在自动驾驶车辆感知模块的目标检测任务上。通常预测目标物体的位置的深度学习模型规模较大,对部署深度学习模型的设备的内存空间有较高的要
求,同时深度学习模型预测目标物体的位置的速度与部署深度学习模型的设备的硬件计算能力有关。为获得目标物体准确的位置,需要部署深度学习模型的设备有足够的存储资源以及等级较高的硬件计算能力。因此,相关技术中,存在利用深度学习模型准确预测目标物体的位置的成本较高的问题。
18.为了缓解上述问题,本技术的发明人提出了本技术实施例提供的一种物体位置预测方法、装置、设备以及存储介质。该方法通过获取初始神经网络模型,所述初始神经网络模型具有第一精度的初始模型参数,所述初始神经网络模型基于多张具有样本标签的样本图像训练得到,所述样本标签用于标识样本图像中的物体的位置;对所述初始模型参数进行量化处理,获得量化模型参数;根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的第一结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的第二结果,获得引入噪声;当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于所述预设噪声阈值时,获得目标神经网络模型;基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。因此,采用本技术的上述方法,采用可训练的量化阈值的算法,将初始神经网络模型参数进行量化,获得规模较小的检测目标物体的位置的目标神经网络模型,利用目标神经网络模型中的量化模型参数推算目标物体的位置,在兼顾硬件计算能力的同时,提高了模型的推算速度,使得模型预测目标物体的位置的延时减短,降低了预测目标物体的位置的成本。
19.图1为一个实施例中本技术提供的一种物体位置预测方法的应用场景图。参照图1,该应用场景中包括网络连接的服务器10和终端20。终端20可以是手机、平板电脑、智能穿戴设备、车辆、摄像头等能够采集图像的终端设备中的至少一种。服务器10可以用独立的服务器或者是多个物理服务器组成的服务器集群来实现。可以理解,在其他实施例中,服务器10也可以用具备执行本技术各实施例中的物体位置预测方法能力的终端替换。图1仅示出了终端20为车辆的示意图。
20.终端20可以是进行图像采集,并对采集的图像进行处理,获得具有标识样本图像中的物体的位置的样本标签的样本图像,并将样本图像发送给服务器10,以为服务器10提供能够进行模型训练获得初始神经网络模型的样本图像。同时终端20还可以进行图像采集,获得待检测图像,并将待检测图像发送给服务器10,以基于服务器10上部署的目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。可以理解,服务器10也可以直接获取已存储的由终端20发送的图像。
21.可以理解,服务器10中初始神经网络模型通过多轮量化阈值的迭代训练获得目标神经网络模型。所以,在每次量化阈值的迭代训练过程中,服务器10对所述初始模型参数进行量化处理,获得量化模型参数;根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的第一结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的第二结果,获得引入噪声;当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于所述预设噪声阈值时,获得目标神经网络模型;基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。
22.在一些实施方式中,服务器10还可以将预测的待测图像中的目标物体的位置反馈
给终端20。
23.下面将结合附图具体描述本技术的各实施例。
24.请参阅图2,其示出了本技术一实施例提供的一种物体位置预测方法的流程示意图。本实施例中的该一种物体位置预测方法可以应用于计算机设备,现主要以计算机设备为图1中的服务器10进行具体描述,所述方法包括步骤s110至步骤s150。
25.步骤s110:获取初始神经网络模型,所述初始神经网络模型具有第一精度的初始模型参数。
26.在本技术实施例中,所述获取初始神经网络模型可以是计算机设备通过无线通信技术(如wifi、蓝牙、zigbee技术)从相关联的云端或电子设备获得的,也可以是通过串口通信接口(如spi接口)从相关联的电子设备获得的,还可以是预先存储在该计算机设备存储单元的初始神经网络模型;所述初始神经网络模型可以是各类神经网络模型。如,dbn(深度信念网络)、sae(堆叠自动编码器)、cnn(卷积神经网络)、rnn(递归神经网络)等。
27.具体地,初始神经网络模型基于多张具有样本标签的样本图像训练得到;其中,样本标签用于标识样本图像中的物体的位置。
28.在一些实施方式中,利用样本标签标识样本图像中的物体的位置的方式可以是,利用矩形框标注、语音分割、多边形标注、关键点标注、点云标注、3d立方体标注等标注方式标记样本图像中物体的位置。如,利用矩形框标注框定样本图像中物体,标识出样本图像中的物体的位置。
29.其中,基于多张具有样本标签的样本图像训练得到的初始神经网络模型具有第一精度的初始模型参数;所述第一精度即所述初始神经网络模型中所述初始模型参数的初始分布情况,初始模型参数具有对应所述第一精度的第一均值、第一标准差。初始神经网络模型可以包括位置检测网络、图像标识网络以及目标物体识别网络。其中,目标物体识别网络对图像中的目标物体进行识别;图像标识网络可以对输入初始神经网络模型的图像进行标识,如对图像中的物体进行标注、框定;位置检测网络可以计算对图像标注或框定的标记的位置坐标。
30.步骤s120:对所述初始模型参数进行量化处理,获得量化模型参数。
31.可选地,对初始模型参数进行量化处理,获得量化模型参数可以是对初始模型参数预处理,获得第一初始参数;根据初始神经网络模型中初始模型参数的数量,计算初始神经网络模型的初始阈值;利用第一缩放参数和第二缩放参数对第一初始参数进行精度下降处理,得到目标模型参数;基于初始阈值,对所述目标模型参数进行处理,得到量化模型参数。
32.具体地,考虑到初始神经网络模型每层卷积核的超参数差异比较大,难以为初始神经网络模型每一层设定一个具有普遍性的阈值,对初始模型参数预处理,获得第一初始参数可以是,对初始模型参数进行min-max标准化、0均值标准化等归一化处理,获得第一初始参数。
33.在本技术提供的一种可选的实施方式中,对初始模型参数预处理,获得第一初始参数,可以是对初始神经网络模型中初始模型参数进行欧式距离归一化处理,获得第一初始参数。具体地,可以是将初始神经网络模型中初始模型参数带入欧式距离归一化公式,对初始模型参数进行欧式距离归一化处理,获得第一初始参数。其中,欧式距离归一化公式
为:
[0034][0035]wlk
表示所述初始神经网络模型第l层第k个卷积核的初始模型参数,表示所述初始神经网络模型第l层第k个卷积核的初始模型参数进行欧式距离归一化处理后,获得的第一初始参数。
[0036]
在本技术实施例中,根据初始神经网络模型中初始模型参数的数量,计算初始神经网络模型的初始阈值,可以是将初始神经网络模型中初始模型参数的数量带入阈值计算公式,获得初始阈值。具体地,,所述阈值计算公式为:
[0037][0038]
δ
l
表示所述初始阈值,n
l
表示所述初始神经网络模型中第l层的初始模型参数的数量。
[0039]
进一步的,根据初始神经网络模型每一层卷积核的初始模型参数的数量对量化初始神经网络模型的阈值进行初始化,获得量化初始神经网络模型每一层的初始阈值。
[0040]
在本技术实施例中,所述利用第一缩放参数和第二缩放参数对所述第一初始参数进行精度下降处理,得到目标模型参数可以是,分别利用第一缩放参数对不小于0的所述第一初始参数进行精度下降处理,利用第二缩放参数对小于0的所述第一初始参数精度下降处理,获得目标模型参数。
[0041]
其中,在一些实施方式中,所述第一缩放参数以及所述第二缩放参数可以是预先存储在计算机设备的,也可以是通过无线通信技术从相关联的云端或电子设备获得的,还可以是通过串口通信接口从相关联的电子设备获得的。
[0042]
其中,目标模型参数是初始模型参数经过缩放获得的,应当理解,初始模型参数对应的初始神经网络模型对样本图像中的目标物体位置的预测结果的误差小于目标模型参数对应的神经网络模型对样本图像中的目标物体位置的预测结果的误差,即目标模型参数的精度小于所述第一精度。
[0043]
具体地,目标模型参数的精度小于所述第一精度,即目标模型参数的分布情况与初始模型参数的分布不同,目标模型参数的均值与初始模型参数的均值不同,目标模型参数的标准方差与初始模型参数的标准方差不同,即目标模型参数的精度与初始模型参数的第一精度不同。
[0044]
可选地,分别利用第一缩放参数对不小于0的所述第一初始参数进行精度下降处理,利用第二缩放参数对小于0的所述第一初始参数精度下降处理,获得目标模型参数。可以是将第一缩放参数、第二缩放参数以及第一初始参数带入第一计算公式,得到目标模型参数。其中,所述第一计算公式为:
[0045][0046]
表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,表示所述
第一缩放参数,表示所述第二缩放参数,表示所述初始神经网络模型第l层第k个卷积核的第一初始参数;所述初始神经网络模型第l层第k个卷积核的目标模型参数为所述初始神经网络模型第l层第k个卷积核的第一初始参数经过所述第一缩放参数以及所述第二缩放参数缩放后得到的归一化参数值。
[0047]
在本技术实施例中,考虑到在利用第一缩放参数和第二缩放参数对第一初始参数进行精度下降处理,得到目标模型参数时,存在将第一初始参数无限放大获得目标模型参数的情况,为将所有目标模型参数进行都进行合适的量化处理,得到量化模型参数,所述基于初始阈值,对目标模型参数进行处理,得到量化模型参数可以是,当所述目标模型参数的绝对值不大于超参阈值时,根据预设求导值和所述目标模型参数,得到量化模型参数,以用超参阈值量化被无限放大的目标模型参数,最后获得所有目标模型参数分别对应的量化模型参数。
[0048]
示例性的,当预设求导值为1时,当所述目标模型参数的绝对值不大于超参阈值时,根据预设求导值和所述目标模型参数,得到量化模型参数可以是,利用第二计算公式对预设求导值、超参阈值以及目标模型参数计算,获得量化模型参数。其中,所述第二计算公式为:
[0049][0050]
表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,表示所述初始神经网络模型第l层第k个卷积核的量化模型参数,表示所述超参阈值,n
l
表示所述初始神经网络模型第l层的初始模型参数的数量,γ表示超参数。
[0051]
其中,超参数可以是预先存储在计算机设备的,也可以是通过无线通信技术从相关联的云端获得的,还可以是通过串口通信接口从相关联的电子设备获得的。具体的,超参数的大小可以是用户自主设定的,也可以是通过第三方实验数据获得的。同样的,预设求导值可以是预先存储在计算机设备的,也可以是通过无线通信技术从相关联的云端获得的,还可以是通过串口通信接口从相关联的电子设备获得的。具体的,超参数的大小可以是用户自主设定的,也可以是通过第三方实验数据获得的。
[0052]
在一些实施方式中,当目标模型参数的绝对值大于超参阈值时,基于初始阈值,对目标模型参数进行处理,得到量化模型参数可以是,当目标模型参数小于0且目标模型参数的绝对值大于超参阈值时,将目标模型参数调整为第一指定值作为量化模型参数;当目标模型参数的绝对值小于超参阈值时,将目标模型参数调整为第二指定值作为量化模型参数;当目标模型参数大于0且目标模型参数的绝对值大于超参阈值时,将目标模型参数调整为第三指定值作为量化模型参数。
[0053]
其中,第一指定值、第二指定值以及第三指定值可以是预先存储在计算机设备的,也可以是通过无线通信技术从相关联的云端获得的,还可以是通过串口通信接口从相关联的电子设备获得的。具体的,超参数的大小可以是的,也可以是通过第三方实验数据获得的,其中,第一指定值与第三指定值互为相反数。
[0054]
示例性的,第一指定值为+1、第二指定值为0、第三指定值为-1由用户自主设定的
预先存储在计算机设备。当目标模型参数的绝对值大于超参阈值时,基于所述初始阈值,对目标模型参数进行处理,得到量化模型参数可以是,利用第三计算公式对初始阈值、目标模型参数进行计算,得到量化模型参数。其中,所述第三计算公式为:
[0055][0056]
表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,δ
l
表示所述初始阈值,表示所述初始神经网络模型第l层第k个卷积核的量化模型参数。
[0057]
可以理解,通过固定的初始阈值δ
l
,将初始神经网络模型第l层第k个卷积核的目标模型参数对应到所述初始神经网络模型第l层第k个卷积核的量化模型参数,获得包括第一指定值、第二指定值以及第三指定值的三目算子的模型,减小了预测物体位置的模型的规模。
[0058]
在一些实施方式中,在对模型进行前向推理时,可以依次使用所述第一计算公式、所述第三计算公式,将所述初始模型参数映射到所述量化模型参数上(如,将所述初始神经网络模型第l层第k个卷积核的初始模型参数w
lk
映射到所述初始神经网络模型第l层第k个卷积核的量化模型参数上)。
[0059]
步骤s130:根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的第一结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的第二结果,获得引入噪声。
[0060]
作为一种实施方式,通过初始神经网络模型对样本图像进行物体位置预测,得到所述样本图像中物体对应的第一样本位置检测结果。其中,所述第一样本位置检测结果包括框定样本图像中的物体的矩形框,以及每个矩形框的顶点的坐标;通过初始神经网络模型中的目标物体识别网络对所述样本图像中的目标物体进行识别,得到所述样本图像中目标物体对应的第一目标识别结果;将所述第一样本位置检测结果和第一目标识别结果进行结合,获得第一结果。其中,所述第一结果包括框定样本图像中目标物体的第一矩形框,以及该第一矩形框中心位置的第一坐标。
[0061]
应当理解,量化模型参数对应的模型与初始神经网络模型的功能相同。通过量化模型参数对应的模型对样本图像进行物体位置预测,得到所述样本图像中物体对应的第二样本位置检测结果;通过初始神经网络模型中的目标物体识别网络对所述样本图像中的目标物体进行识别,得到所述样本图像中目标物体对应的第二目标识别结果;将所述第二样本位置检测结果和第二目标识别结果进行结合,获得第二结果。其中,第二结果包括框定样本图像中目标物体的第二矩形框,以及该第二矩形框中心位置的第二坐标。
[0062]
具体地,根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的第一结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的第二结果,获得引入噪声,可以是,所述第一坐标与第二坐标的误差,获得引入噪声利用引入噪声计算公式,对所述第一结果以及第二结果进行计算,获得引入噪声。其中,所述引入
噪声计算公式为:
[0063][0064]
其中,表示量化模型参数对应的神经网络模型检测目标后,该模型第l层的输出数据,即第二结果,i
l
表示初始神经网络模型检测所述目标物体后,所述初始神经网络模型第l层的输出数据,即第一结果,同时也是所述初始神经网络模型第l+1层的输入数据。
[0065]
在本技术实施例中,所述根据所述量化模型参数和所述初始模型参数,获得引入噪声可以是,将所述量化模型参数和初始模型参数带入引入噪声计算公式,获得引入噪声,所述引入噪声计算公式为:
[0066][0067]
ε
l
表示因所述第一缩放参数和第二缩放参数对所述第一初始参数进行处理,所述初始神经网络模型第l层输出数据精度的损失值,l表示所述初始神经网络模型的层数,l表示所述初始神经网络模型第l层,表示所述初始神经网络模型第l层第k个卷积核的量化模型参数,w
lk
表示所述初始神经网络模型第l层第k个卷积核的初始模型参数,表示数据基于量化模型参数对应的神经网络模型处理的输出结果与所述数据基于所述初始神经网络模型处理的数据结果之间的误差的期望。
[0068]
步骤s140:当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于所述预设噪声阈值时,获得目标神经网络模型。
[0069]
其中,所述预设噪声阈值可以是预先存储在计算机设备的,也可以是通过无线通信技术从相关联的云端获得的,还可以是通过串口通信接口从相关联的电子设备获得的。具体的,预设噪声阈值的大小可以是用户自主设定的,也可以是通过第三方实验数据获得的。如,预设噪声阈值大小为0.5通过第三方实验数据获得的预先存储在计算机设备中。
[0070]
应当理解,在本技术实施例中,通过对初始模型参数进行量化获得量化模型参数,通过量化模型参数对应的模型预测样本图像中目标的位置,由于量化这一处理,使得量化模型参数对应的模型预测样本图像中目标的位置的结果在初始神经网络模型预测样本图像中目标的位置的结果上,产生了引入噪声。
[0071]
通常获得准确的图像检测的模型的方式是,利用待训练模型执行样本图像检测任务后,获得待训练模型对样本图像检测的结果,将该结果与样本图像进行对比,获得该结果相对于样本图像的损失值,根据该损失值调整待检测模型的参数,返回利用待训练模型执行样本图像检测任务,直至损失值不大于损失阈值,获得最终的精度较高的图像检测的模型。
[0072]
而本技术实施例中,初始神经网络模型已通过多张具有样本标签的样本图像训练得到,初始神经网络模型具有第一精度的初始模型参数,考虑到保证对初始模型参数进行量化处理后获得的量化模型参数对应的模型的精度与初始神经网络模型的精度相似,可以当引入噪声大于预设噪声阈值时,返回对初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于预设噪声阈值时,获得目标神经网络模型。
[0073]
应当理解,在本技术实施例中,训练模型的损失值约等于引入噪声,即样本图像中目标物体的位置根据第一缩放参数和第二缩放参数对应的量化模型参数对应的神经网络模型的检测结果与样本图像中目标物体的位置根据初始神经网络模型的检测结果之间的偏差。
[0074]
在一些实施方式中,考虑到,模型检测值与真实值之间会有误差,目标检测任务以矩形框的形式给出目标(障碍物、行人、机动车等)在二维图像中的位置的预测。神经网络模型输出对目标中心点的坐标预测而物体真实位置为(x,y);c可以是神经网络模型输出对目标中心点的坐标预测与物体真实位置为(x,y)比较得到的损失,即~表示约等于,c表示模型检测值与真值间的误差。而本技术实施例中,c可以表示样本图像中目标物体的位置根据第一缩放参数和第二缩放参数对应的量化模型参数对应的神经网络模型的检测结果与样本图像中目标物体的位置根据初始神经网络模型的检测结果之间的偏差。
[0075]
在一些实施方式中,当引入噪声大于预设噪声阈值时,根据引入噪声更新第一缩放参数和第二缩放参数,并返回利用第一缩放参数和第二缩放参数对第一初始参数进行精度下降处理的步骤,直至获得的引入噪声小于或等于预设噪声阈值时,获得目标神经网络模型。
[0076]
具体地,当所述引入噪声大于预设噪声阈值时,根据所述引入噪声更新所述第一缩放参数和第二缩放参数可以是,根据引入噪声,获得基于量化模型参数对应的模型对样本图像处理输出的第一结果以及基于初始神经网络模型对样本图像处理输出的第二结果的偏差;根据偏差,获得第一缩放参数的梯度和第二缩放参数的梯度;根据第一缩放参数的梯度和第二缩放参数的梯度更新第一缩放参数和第二缩放参数。
[0077]
示例性的,当引入噪声大于预设噪声阈值时,利用第四计算公式对引入噪声、第一缩放参数、第二缩放参数以及目标模型参数计算,获得所述第一缩放参数的梯度和所述第二缩放参数的梯度。其中,所述第四计算公式为:
[0078][0079][0080][0081]
c表示样本图像中目标物体的位置根据第一缩放参数和第二缩放参数对应的量化模型参数对应的神经网络模型的检测结果与样本图像中目标物体的位置根据初始神经网络模型的检测结果之间的偏差,表示所述引入噪声,l表示所述初始神经网络模型的层数,l表示所述初始神经网络模型第l层,ε
l
表示因所述第一缩放参数和第二缩放参数对所述第一初始参数进行处理,所述初始神经网络模型第l层输出数据精度的损失值,表示所述第一缩放参数,表示所述第二缩放参数,表示所述初始神经网络模型第l层
第k个卷积核的第一初始参数中的第i个数,表示所述初始神经网络模型第l层第k个卷积核的目标模型参数第i个数;根据所述第一缩放参数的梯度和所述第二缩放参数的梯度更新所述第一缩放参数和第二缩放参数。
[0082]
应当理解,模型中的参数可以是一个数值,也可以是一个数组,还可以是一个矩阵等。
[0083]
在一些实施方式中,根据第一缩放参数的梯度和第二缩放参数的梯度更新第一缩放参数和第二缩放参数,可以是利用直通估计器对第一计算公式以及第三计算公式求导。使用c表示样本图像中目标物体的位置根据第一缩放参数和第二缩放参数对应的量化模型参数对应的神经网络模型的检测结果与样本图像中目标物体的位置根据初始神经网络模型的检测结果之间的偏差,即网络损失c,相对于目标模型参数的导数,代替网络损失相对于量化模型参数的导数。
[0084]
利用链式法则得到第一缩放参数相对于网络损失c的梯度以及第二缩放参数相对于网络损失c的梯度以根据第一缩放参数相对于网络损失c的梯度以及第二缩放参数相对于网络损失c,更新第一缩放参数以及第二缩放参数
[0085]
在另一些实施方式中,当目标模型参数不大于超参阈值时,根据第一缩放参数的梯度和第二缩放参数的梯度更新第一缩放参数和第二缩放参数,可以是结合第二计算公式以及第四计算公式,获得初始神经网络模型中初始模型参数的梯度:
[0086][0087]
即,在每一次模型前向数据传播时,模型中的参数经过归一化处理,较大的模型参数会随归一化处理后变小,避免了少部分模型的参数一味的增长。同时,可以设置一个超参数阈值,作为一个截断项,约束模型参数的上限,从而避免第一缩放参数以及第二缩放参数被无限放大。
[0088]
在本技术实施例中,直至获得的引入噪声小于或等于所述预设噪声阈值时,获得目标神经网络模型可以是,当获得的引入噪声不大于预设噪声阈值时,获取引入噪声对应的量化模型参数对应的第一缩放参数和第二缩放参数;根据第一缩放参数以及第二缩放参数对初始阈值进行缩放,获得第一缩放阈值和第二缩放阈值;若第一初始参数小于第一缩放阈值,将第一初始参数调整为第一指定值作为量化模型参数;若第一初始参数不小于第一缩放阈值且不大于第二缩放参数,将第一初始参数调整为第二指定值作为量化模型参数;若第一初始参数大于第二缩放阈值,将第一初始参数调整为第三指定值作为量化模型参数;根据量化模型参数获得量化模型参数对应的目标神经网络模型。
[0089]
示例性的,第一指定值为-1、第二指定值为0、第三指定值为+1,当获得的引入噪声
小于或等于预设噪声阈值时,利用第五计算公式对第一缩放参数、第二缩放参数以及第一初始参数计算,获得目标神经网络模型。其中,所述第五计算公式为:
[0090][0091]
表示所述初始神经网络模型第l层第k个卷积核的量化模型参数,表示所述第一缩放参数,表示所述第二缩放参数,δ
l
表示所述初始阈值,表示所述初始神经网络模型第l层第k个卷积核的第一初始参数。通过对模型的卷积核的参数进行归一化操作,使得模型同一层的不同卷积核的参数数值在相同范围内,从而可以使模型共享量化的初始阈值δ
l
。为第一缩放阈值,为第二缩放阈值。
[0092]
步骤s150:基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。
[0093]
在本技术实施例中,所述目标神经网络模型用于检测待检测图像中的目标物体的位置。具体地,在获得目标神经网络模型之后,目标神经网络模型部署在计算机设备,以检测目标物体的位置,其中,目标神经网络模型也可以部署在如图1中的车辆20上,也可以部署在手机、智能穿戴设备、平板电脑等可以采集图像的设备上。
[0094]
示例性的,当目标神经网络模型部署在如图1中的车辆20,基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置的过程如下:若获取到车辆20中雷达或视觉传感器采集到雷达图像或二维图像时,利用目标神经网络模型对获取到的图像进行识别,得到目标物体在图像中的位置。其中,目标物体具体可以是行人、车辆或者障碍物等等。
[0095]
在该种方式下,在利用目标神经网络模型识别到目标物体后,具体还可以以矩形框框定待检测图像中目标物体,同时通过目标神经网络中的位置检测网络,获得框定待检测图像中目标物体的矩形框的顶点的坐标进而获得矩形框中心的坐标,最后输出对待检测图像中目标物体的位置的预测结果,其中,该预测结果包括框定图像中目标物体的矩形框以及该矩形框中心的坐标。
[0096]
本技术的技术方案,通过获取初始神经网络模型,初始神经网络模型具有第一精度的初始模型参数,初始神经网络模型基于多张具有样本标签的样本图像训练得到,样本标签用于标识样本图像中的物体的位置;对初始模型参数进行量化处理,获得量化模型参数;根据初始神经网络模型对样本图像中的物体的位置预测获得的第一结果以及量化模型参数对应的模型对样本图像中的物体的位置预测获得的第二结果,获得引入噪声;当引入噪声大于预设噪声阈值时,返回对初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声不大于预设噪声阈值时,获得目标神经网络模型;基于目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。因此,采用本技术的上述方法,采用可训练的量化阈值的算法,减小了初始神经网络模型的规模,获得检测目标物体的位置的目标神经网络模型,利用目标神经网络模型中的参数推算目标物体的位置,在
兼顾硬件计算能力的同时,提高了模型的推算速度,使得模型预测目标物体的位置的延时减短,降低了预测目标物体的位置的成本。
[0097]
请参阅图3,其示出了本发明的一个实施例提供的物体位置预测装置,所述装置200包括:初始模型获取单元210、量化参数获取单元220引入噪声获取单元230、目标模型获取单元240以及位置预测单元250。具体地,初始模型获取单元210,用于获取初始神经网络模型,所述初始神经网络模型具有第一精度的初始模型参数,所述初始神经网络模型基于多张具有样本标签的样本图像训练得到,所述样本标签用于标识样本图像中的物体的位置;量化参数获取单元220,用于对所述初始模型参数进行量化处理,获得量化模型参数;引入噪声获取单元230,用于根据所述初始神经网络模型对所述样本图像中的物体的位置预测获得的检测结果以及所述量化模型参数对应的模型对所述样本图像中的物体的位置预测获得的检测结果,获得引入噪声;目标模型获取单元240,用于当所述引入噪声大于预设噪声阈值时,返回所述对所述初始模型参数进行量化处理,获得量化模型参数的步骤,直至获得的引入噪声小于或等于所述预设噪声阈值时,获得目标神经网络模型;位置预测单元250,用于基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。
[0098]
作为一种实施方式,在三目算子量化模型的方法中,初始模型获取单元210,通过wifi技术从相关联的云端获取基于多张具有样本标签的样本图像训练得到的初始神经网络模型,其中,样本标签用于标识样本图像中的物体的位置;所述初始神经网络模型具有第一精度的初始模型参数。
[0099]
量化参数获取单元220,将初始神经网络模型中的初始模型参数带入欧式距离归一化公式,对初始模型参数进行欧式距离归一化处理,获得第一初始参数,所述欧式距离归一化公式为:
[0100][0101]wlk
表示所述初始神经网络模型第l层第k个卷积核的初始模型参数,表示所述初始神经网络模型第l层第k个卷积核的初始模型参数进行欧式距离归一化处理后,获得的第一初始参数。
[0102]
量化参数获取单元220,将所述初始神经网络模型中所述初始模型参数的数量带入阈值计算公式,获得所述初始阈值,所述阈值计算公式为:
[0103][0104]
δ
l
表示所述初始阈值,n
l
表示所述初始神经网络模型中第l层的初始模型参数的数量。
[0105]
量化参数获取单元220,将所述第一初始参数和预先存储在所述量化参数获取单元220的第一缩放参数和第二缩放参数带入第一计算公式,得到目标模型参数,所述第一计算公式为:
[0106][0107]
表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,表示所述第一缩放参数,表示所述第二缩放参数,表示所述初始神经网络模型第l层第k个卷积核的第一初始参数。
[0108]
量化参数获取单元220,当所述目标模型参数的绝对值不大于根据预先存储在所述量化单元220的超参数计算出的超参阈值时,将所述目标模型参数带入第二计算公式,得到量化模型参数,所述第二计算公式为:
[0109][0110]
表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,表示所述初始神经网络模型第l层第k个卷积核的量化模型参数,表示所述超参阈值,n
l
表示所述初始神经网络模型第l层的初始模型参数的数量。
[0111]
当所述目标模型参数小于所述超参阈值时,将所述初始阈值和目标模型参数带入第三计算公式,对所述目标模型参数进行处理,得到量化模型参数,所述第三计算公式为:
[0112][0113]
表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,δ
l
表示所述初始阈值,表示所述初始神经网络模型第l层第k个卷积核的量化模型参数。
[0114]
引入噪声获取单元230,将所述量化模型参数和初始模型参数带入引入噪声计算公式,获得引入噪声,所述引入噪声计算公式为:
[0115][0116]
ε
l
表示因所述第一缩放参数和第二缩放参数对所述第一初始参数进行处理,所述初始神经网络模型第l层输出数据精度的损失值,l表示所述初始神经网络模型的层数,l表示所述初始神经网络模型第l层,表示所述初始神经网络模型第l层第k个卷积核的量化模型参数,w
lk
表示所述初始神经网络模型第l层第k个卷积核的初始模型参数,表示数据基于量化模型参数对应的神经网络模型处理的输出结果与所述数据基于所述初始神经网络模型处理的数据结果之间的误差的期望。
[0117]
目标模型获取单元240,当所述引入噪声大于预先存储在所述目标模型获取单元240的预设噪声阈值时,将所述第一缩放参数、第二缩放参数以及所述引入噪声带入第四计算公式中,获得所述第一缩放参数的梯度和所述第二缩放参数的梯度,所述第四计算公式
为:
[0118][0119][0120][0121]
c表示数据根据所述第一缩放参数和第二缩放参数对应的量化模型参数对应的神经网络模型的检测结果与所述数据的偏差,即网络损失,表示所述引入噪声,l表示所述初始神经网络模型的层数,l表示所述初始神经网络模型第l层,表示所述第一缩放参数,表示所述第二缩放参数,表示所述初始神经网络模型第l层第k个卷积核的第一初始参数,表示所述初始神经网络模型第l层第k个卷积核的目标模型参数,i表示参数里的第i个数。即利用网络损失根据链式法则获得所述第一缩放参数的梯度和所述第二缩放参数的梯度,进而更新所述第一缩放参数和第二缩放参数。
[0122]
同时,目标模型获取单元240利用直通估计器,使用网络损失c相对目标模型参数的导数代替网络损失c相对于量化后量化模型参数的导数,获得反向传播时所述第三计算公式的梯度,对初始阈值进行梯度下降更新,进而调整训练模型的过程中量化模型参数的阈值,使得模型在阈值划分的各个区间更加均匀。
[0123]
目标模型获取单元240更新所述第一缩放参数和所述第二缩放参数后,返回利用第一缩放参数和第二缩放参数对第一初始参数进行精度下降处理,直至获得的引入噪声小于或等于所述预设噪声阈值时,获取对应所述引入噪声的量化模型参数对应的第一缩放参数和第二缩放参数;将所述第一缩放参数、第二缩放参数、初始阈值以及第一初始参数带入第五计算公式,获得目标神经网络模型,所述第五计算公式为:
[0124][0125]
表示所述初始神经网络模型第l层第k个卷积核的量化模型参数,表示所述第一缩放参数,表示所述第二缩放参数,δ
l
表示所述初始阈值,表示所述初始神经网络模型第l层第k个卷积核的第一初始参数。
[0126]
位置预测单元250,用于基于所述目标神经网络模型对待检测图像进行检测,得到待检测图像中的目标物体的位置。
[0127]
在利用目标神经网络模型识别到目标物体后,以矩形框框定待检测图像中目标物体,同时通过目标神经网络中的位置检测网络,获得框定待检测图像中目标物体的矩形框的顶点的坐标进而获得矩形框中心的坐标,最后输出对待检测图像中目标物体的位置的预测结果,其中,该预测结果包括框定图像中目标物体的矩形框以及该矩形框中心的坐标。
[0128]
本技术的技术方案,利用梯度下降更新量化模型参数的阈值的方法,用可变且非对称的阈值作为量化参数,将初始神经网络模型的初始模型参数进行量化获得目标神经网络模型,在满足利用量化后的参数对初始神经网络模型中初始模型参数的估计的期望在预设噪声阈值范围内时,使量化后的模型参数在阈值划分的各个区间分布更为均匀,使得在对模型参数进行精度下降处理后进行量化过程中,减小了模型的存储空间的同时,保障了模型对目标位置预测的准确度,提高了神经网络模型对目标推算速度,降低了部署神网络模型的延时,降低了预测物体位置的成本。
[0129]
应当理解的是,本技术实施例提供的一种物体位置预测方法可以应用于三目算子量化模型中,也可以应用于离散化变量的量化方法中(2位、4位)等,还可以应用在其他深度学习任务的模型量化压缩中。
[0130]
需要说明的是,本说明书的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。对于方法实施例中的所描述的任意的处理方式,在装置实施例中均可以通过相应的处理模块实现,装置实施例中不再一一赘述。
[0131]
请参阅图4,基于上述一种物体位置预测方法,本技术实施例还提供了另一种包括可以执行前述一种物体位置预测方法的电子设备300,电子设备300包括:一个或多个处理器310、存储器320以及一个或多个应用程序。其中,该存储器320中存储有可以执行前述实施例中内容的程序,而处理器310可以执行该存储器320中存储的程序。其中,电子设备300可以是智能控制面板、智能手机、智能机器人、平板电脑、个人计算机、车辆、智能穿戴设备等。
[0132]
其中,处理器310可以包括一个或者多个用于处理数据的核以及消息矩阵单元。处理器310利用各种接口和线路连接整个电子设备内的各个部分,通过运行或执行存储在存储器320内的指令、程序、代码集或指令集,以及调用存储在存储器320内的数据,执行电子设备300的各种功能和处理数据。可选地,处理器310可以采用数字信号处理(digitalsignal processing,dsp)、现场可编程门阵列(field -programmable gate array,fpga)、可编程逻辑阵列(programmable logic array,pla)中的至少一种硬件形式来实现。处理器可310集成中央处理器(central processing unit,cpu)、图像处理器(graphics processingunit,gpu)和调制解调器等中的一种或几种的组合。其中,cpu主要处理操作系统、用户界面和应用程序等;gpu用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器中,单独通过一块通信芯片进行实现。
[0133]
存储器320可以包括随机存储器(random access memory,ram),也可以包括只读存储器(read-only memory)。存储器320可用于存储指令、程序、代码、代码集或指令集。存储器320可包括存储程序区和存储数据区,其中,存储程序区可存储上述方法实施例中所描述的模型训练方法或图像识别方法的代码、用于实现至少一个功能的指令(比如初始阈值等)。存储数据区还可以存储终端在使用中所创建的目标多任务学习模型等。
[0134]
作为一种实施方式,所述电子设备300为车辆,在车辆的自动驾驶部署上,由于硬件平台计算能力的有限性,所以采用本技术实施例提供的一种物体位置预测方法对自动驾
驶部署的检测物体位置的模型进行有效的量化,在使得模型的性能不变的同时使得模型规模减小、执行任务的延时降低,节省了预测物体位置的成本。
[0135]
请参阅图5,其示出了本技术一实施例提供的一种计算机可读存储介质400的结构框图。该计算机可读存储介质400中存储有程序代码410,所述程序代码410可被处理器调用执行上述方法实施例中所描述的模型训练方法。
[0136]
计算机可读存储介质400可以是诸如闪存、eeprom(电可擦除可编程只读存储器)、eprom、硬盘或者rom之类的电子存储器。可选地,计算机可读存储介质400包括非易失性计算机可读介质(non-transitory computer-readable storage medium)。计算机可读存储介质400具有执行上述方法中的任何方法步骤的程序代码410的存储空间。这些程序代码410可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码410可以例如以适当形式进行压缩。
[0137]
在本技术所提供的实施例中,应当理解,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
[0138]
最后应说明的是:以上实施例仅用以说明本技术的技术方案,而非对其限制;尽管参照前述实施例对本技术进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1