基于视频的目标检测方法、装置、电子设备和存储介质与流程

1.本公开涉及人工智能领域，具体涉及计算机视觉和深度学习技术，可用于目标检测和视频分析场景下，尤其涉及基于视频的目标检测方法、装置、电子设备和存储介质。


背景技术：

2.在智慧城市、智能交通、视频分析场景下，对视频中的车辆、行人、物体等事物或目标进行精准检测，可以为异常事件检测、犯人追踪、车辆统计等任务提供帮助。因此，如何实现对视频中的目标进行检测是非常重要的。


技术实现要素：

3.本公开提供了一种用于基于视频的目标检测方法、装置、电子设备和存储介质。
4.根据本公开的一方面，提供了一种基于视频的目标检测方法，包括：
5.获取待检测视频中的多帧图像；
6.对所述多帧图像分别进行特征提取，以得到原特征图；其中，所述原特征图包括第一目标维度的子特征图和第二目标维度的子特征图；
7.对所述多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中所述第一目标维度的子特征图，与后一帧图像的原特征图中所述第二目标维度的子特征图进行特征融合，以得到所述后一帧图像的目标特征图；
8.根据各帧图像的所述目标特征图进行目标检测。
9.根据本公开的另一方面，提供了一种基于视频的目标检测装置，包括：
10.获取模块，用于获取待检测视频中的多帧图像；
11.提取模块，用于对所述多帧图像分别进行特征提取，以得到原特征图；其中，所述原特征图包括第一目标维度的子特征图和第二目标维度的子特征图；
12.融合模块，用于对所述多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中所述第一目标维度的子特征图，与后一帧图像的原特征图中所述第二目标维度的子特征图进行特征融合，以得到所述后一帧图像的目标特征图；
13.检测模块，用于根据各帧图像的所述目标特征图进行目标检测。
14.根据本公开的又一方面，提供了一种电子设备，包括：
15.至少一个处理器；以及
16.与所述至少一个处理器通信连接的存储器；其中，
17.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开上述一方面提出的基于视频的目标检测方法。
18.根据本公开的再一方面，提供了一种计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本公开上述一方面提出的基于视频的目标检测方法。
19.根据本公开的还一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开上述一方面提出的基于视频的目标检测方法。
20.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
21.附图用于更好地理解本方案，不构成对本公开的限定。其中：
22.图1是本公开实施例一所提供的基于视频的目标检测方法的流程示意图；
23.图2为本公开实施例的特征提取示意图；
24.图3为本公开实施例二所提供的基于视频的目标检测方法的流程示意图；
25.图4为本公开实施例中拼接特征图的生成过程示意图；
26.图5为本公开实施例三所提供的基于视频的目标检测方法的流程示意图；
27.图6为本公开实施例四所提供的基于视频的目标检测方法的流程示意图；
28.图7为本公开实施例中目标识别模型的结构示意图；
29.图8为本公开实施例五所提供的基于视频的目标检测装置的结构示意图；
30.图9示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
31.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
32.目前，可以通过以下目标检测技术，对视频帧中的目标进行检测：通过增强视频中各视频帧间的检测框(proposal)或者帧间元素注意力(tokensattention)的方式来融合特征。然而这种方式没有在所有的帧间特征(feature)信息上来融合足量的信息，并且，没有在所有点的融合后，在融合特征上提取有用的特征。
33.针对上述问题，本公开提出一种基于视频的目标检测方法、装置、电子设备和存储介质。
34.下面参考附图描述本公开实施例的基于视频的目标检测方法、装置、电子设备和存储介质。
35.图1为本公开实施例一所提供的基于视频的目标检测方法的流程示意图。
36.本公开实施例以该基于视频的目标检测方法被配置于目标检测装置中来举例说明，该目标检测装置可以应用于任一电子设备中，以使该电子设备可以执行目标检测功能。
37.其中，电子设备可以为任一具有计算能力的设备，例如可以为个人电脑、移动终端、服务器等，移动终端例如可以为车载设备、手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
38.如图1所示，该基于视频的目标检测方法可以包括以下步骤：
39.步骤101，获取待检测视频中的多帧图像。
40.在本公开实施例中，待检测视频可以为在线采集的视频，比如可以通过网络爬虫
技术，在线采集待检测视频，或者，待检测视频也可以为线下采集的视频，或者，待检测视频也可以为实时采集的视频流，或者，待检测视频也可以为人工合成的视频，等等，本公开实施例对此并不做限制。
41.在本公开实施例中，可以获取待检测视频，在获取到待检测视频后，可以提取待检测视频中的多帧图像。
42.步骤102，对多帧图像分别进行特征提取，以得到原特征图；其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图。
43.在本公开实施例中，针对每帧图像，可以对该图像进行特征提取，得到该图像对应的原特征图。
44.在本公开实施例的一种可能的实现方式中，为了提升特征提取结果的准确性和可靠性，可以基于深度学习技术，对图像进行特征提取，得到该图像对应的原特征图。
45.作为一种示例，可以使用主流的主干网络(backbone)对图像进行特征提取，得到原特征图。例如，主干网络可以包括残差网络(resnet)系列(比如resnet 34，resnet 50，resnet 101等网络)、darknet(使用c和cuda编写的开源的神经网络框架)系列(比如darknet19，darknet53)等。
46.举例而言，可以采用如图2所示的cnn(convolutional neural network，卷积神经网络)对各帧图像进行特征提取，得到原特征图。cnn网络输出的原特征图可以为w(宽)
×
h(高)
×
c(通道channel或特征维度)的立体的特征图。图2中的ste为shift(平移)的简称。
47.其中，每帧图像对应的原特征图中均可以包括第一目标维度的子特征图和第二目标维度的子特征图。比如上述例子中，以c为256进行示例，第一目标维度的子特征图可以为原特征图中0至c维度的子特征图，第二目标维度的子特征图可以为原特征图中(c+1)至255维度的子特征图，或者，第一目标维度的子特征图可以为原特征图中(c+1)至255维度的子特征图，第二目标维度的自特征图可以为原特征图中0至c维度的子特征图，本公开对此并不做限制。其中，c可为设定值。
48.在本公开实施例的一种可能的实现方式中，为了实现兼顾特征提取结果的准确性和节省资源，可以根据视频业务的应用场景，选择合适的主干网络对视频中的各帧图像进行特征提取。例如，可以将主干网络划分为轻量级的结构(比如resnet18，resnet34，darknet19等)、中型结构(比如resnet50，resnext(resnext是resnet和inception(一种卷积神经网络)的结合体)50，darknet53等)、重型结构(比如resnet101，resnext152)，可以根据应用场景，选择具体的网络结构。
49.步骤103，对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图像的目标特征图。
50.在本公开实施例中，针对多帧图像中任意的相邻两帧图像，可以将前一帧阵图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，将融合后的特征图，作为后一帧的目标特征图。
51.需要说明的是，作为待检测视频中的首帧图像或者多帧图像中的首帧图像，由于该首帧图像没有前一帧图像作为参考，本公开中，可以根据设定的第一目标维度的子特征图，与该首帧图像的原特征图中第二目标维度的子特征图进行融合，将融合后的特征图，作
为该首帧图像的目标特征图。或者，可以根据多帧图像中的任意一帧图像的原特征图中第一目标维度的子特征图，与该首帧图像的原特征图中第二目标维度的子特征图进行融合，将融合后的特征图，作为该首帧图像的目标特征图。
52.步骤104，根据各帧图像的目标特征图进行目标检测。
53.在本公开实施例中，可以根据各帧图像的目标特征图进行目标检测，得到各帧图像对应的检测结果。比如，可以基于目标检测算法，对各帧图像的目标特征图进行目标检测，得到各帧图像对应的检测结果。其中，检测结果可以包括预测框的位置和预测框内目标所属的类别。其中，目标可以包括车辆、人、物体、动物等任一目标对象，类别可以包括车辆、人等类别。
54.在本公开实施例的一种可能的实现方式中，为了提升目标检测结果的准确性和可靠性，可以基于深度学习技术，对各帧图像的目标特征图进行目标检测，得到各帧图像对应的检测结果。
55.本公开实施例的基于视频的目标检测方法，通过对待检测视频中的多帧图像分别进行特征提取，以得到原特征图，其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图，并对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图像的目标特征图，进而可根据各帧图像的目标特征图进行目标检测。由此，在对视频中的各帧图像进行目标检测时，不仅依赖对应帧的内容，还可以参考相邻帧携带的信息，可以提升目标检测结果的准确性和可靠性。
56.为了清楚说明上述实施例中是如何对相邻两帧图像的原特征图中的子特征图进行特征融合的，本公开还提出一种基于视频的目标检测方法。
57.图3为本公开实施例二所提供的基于视频的目标检测方法的流程示意图。
58.如图3所示，该基于视频的目标检测方法可以包括以下步骤：
59.步骤301，获取待检测视频中的多帧图像。
60.步骤302，对多帧图像分别进行特征提取，以得到原特征图；其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图。
61.步骤301至302的执行过程可以参见本公开任一实施例的执行过程，在此不做赘述。
62.步骤303，对多帧图像中任意的相邻两帧图像，从前一帧图像的原特征图中获取第一目标维度的子特征图，以及从后一帧图像的原特征图中获取第二目标维度的子特征图。
63.在本公开实施例中，针对多帧图像中的任意的相邻两帧图像，可以从前一帧图像的原特征图中，提取第一目标维度的子特征图，以及，可以从后一帧图像的原特征图中，提取第二目标维度的子特征图。
64.在本公开实施例的一种可能的实现方式中，针对多帧图像中的任意的相邻两帧图像，可以从前一帧图像的原特征图w
i-1
×hi-1
×ci-1
中，提取第一目标维度的子特征w
i-1
×hi-1
×c1i-1
，其中，(i-1)为前一帧图像的序号，w
i-1
为前一帧图像的原特征图中的多个宽度分量，h
i-1
为前一帧图像的原特征图中多个高度分量，c
i-1
为前一帧图像的原特征图中的多个维度分量，c
1i-1
为c
i-1
中排序在后的固定个数的第一目标维度。以及，可以从后一帧图像的原特征图wi×hi
×ci
中，提取第二目标维度的子特征wi×hi
×c2i
，其中，i为后一帧图像的序
号，wi为后一帧图像的原特征图中的多个宽度分量，hi为后一帧图像的原特征图中多个高度分量，ci为后一帧图像的原特征图中的多个维度分量，c
2i
为ci中排序在前的固定个数的第二目标维度。
65.举例而言，前一帧图像对应的第一目标维度的子特征图可以为前一帧图像的原特征图中(c+1)至(c
i-1-1)维度的子特征图，后一帧图像对应的第二目标维度的子特征图可以为后一帧图像的原特征图中0至c维度的子特征图。以c为191，c
i-1
为256进行示例，可以从前一帧图像的原特征图w
i-1
×hi-1
×ci-1
中提取192至255维度的子特征图，从后一帧图像的原特征图wi×hi
×ci
中提取0至191维度的子特征图。
66.也就是说，本公开中，可以将各帧图像的原特征图中多个维度的子特征图，在通道channel维度整体向右平移(shift)，比如，向右平移1/4*channel(即256/4＝64)，则相邻两帧图像中的前一帧图像的原特征图中0至191维度的子特征图，可以移动到该前一帧图像的64至255维度，前一帧图像的原特征图中192至255维度的子特征图，可以移动到该后一帧图像的0至63维度，同理，后一帧图像的原特征图中0至191维度的子特征图，可以移动到该后一帧图像的64至255维度，后一帧图像的原特征图中192至255维度的子特征图，可以移动到再下一帧图像的0至63维度。
67.在本公开实施例的另一种可能的实现方式中，可以从前一帧图像的原特征图w
i-1
×hi-1
×ci-1
中，提取第一目标维度的子特征w
i-1
×hi-1
×c1i-1
，其中，(i-1)、w
i-1
、h
i-1
、c
i-1
的解释同前，c
1i-1
为c
i-1
中排序在前的固定个数的第一目标维度。以及，可以从后一帧图像的原特征图wi×hi
×ci
中，提取第二目标维度的子特征wi×hi
×c2i
，其中，i、wi、hi、ci的解释同前，c
2i
为ci中排序在后的固定个数的第二目标维度。
68.举例而言，前一帧图像对应的第一目标维度的子特征图可以为前一帧图像的原特征图中0至c维度的子特征图，后一帧图像对应的第二目标维度的子特征图可以为后一帧图像的原特征图中(c+1)至(c
i-1-1)维度的子特征图。以c为192，c
i-1
为256进行示例，可以从前一帧图像的原特征图w
i-1
×hi-1
×ci-1
中提取0至191维度的子特征图，从后一帧图像的原特征图wi×hi
×ci
中提取192至255维度的子特征图。
69.由此，可以实现根据多种方式，确定第一目标维度的子特征图和第二目标维度的子特征图，可以提升该方法的灵活性和适用性。
70.步骤304，将前一帧图像对应的第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图拼接，以得到拼接特征图。
71.在本公开实施例中，可以将前一帧图像对应的第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行拼接，得到拼接特征图。
72.作为一种可能的实现方式，当各帧图像的原特征图中多个维度的子特征图，在通道channel维度整体向右平移时，即当c
1i-1
为c
i-1
中排序在后的固定个数的第一目标维度，c
2i
为ci中排序在前的固定个数的第二目标维度时，可以在前一帧图像对应的第一目标维度的子特征图之后，拼接后一帧图像的原特征图中第二目标维度的子特征图，得到拼接特征图。
73.作为另一种可能的实现方式，当各帧图像的原特征图中多个维度的子特征图，在通道channel维度整体向左平移时，即当c
1i-1
为c
i-1
中排序在前的固定个数的第一目标维度，c
2i
为ci中排序在后的固定个数的第二目标维度时，可以在后一帧图像的原特征图中第
二目标维度的子特征图之后，拼接前一帧图像对应的第一目标维度的子特征图，得到拼接特征图。
74.作为一种示例，各个维度的子特征图可以如图4中的每个方格所示，在各帧图像的原特征图中多个维度的子特征图在channel维度整体向右平移后，可以将第i-1帧图像平移出的子特征图(虚线框对应的方格)与第i帧图像对应的子特征图(非空白方格)进行拼接，即将第i-1帧图像平移出的子特征图移动至第i帧图像对应的空白方格所在的位置处，得到拼接特征图。
75.步骤305，将拼接特征图输入卷积层，以融合得到后一帧图像的目标特征图。
76.在本公开实施例中，可以利用卷积层(即conv层)对拼接特征图进行特征提取，以提取融合特征，或者，可以通过卷积层对拼接特征图进行融合，得到融合特征，从而可以将该融合特征作为后一帧图像的目标特征图。
77.步骤306，根据各帧图像的目标特征图进行目标检测。
78.步骤306的执行过程可以参见本公开任一实施例的执行过程，在此不做赘述。
79.本公开实施例的基于视频的目标检测方法，通过采用卷积层对拼接特征图进行融合，可以增强融合后的目标特征图，从而进一步提升目标检测结果的准确性和可靠性。
80.为了清楚说明本公开上述任一实施例中是如何根据目标特征图进行目标检测的，本公开还提出一种基于视频的目标检测方法。
81.图5为本公开实施例三所提供的基于视频的目标检测方法的流程示意图。
82.如图5所示，该基于视频的目标检测方法可以包括以下步骤：
83.步骤501，获取待检测视频中的多帧图像。
84.步骤502，对多帧图像分别进行特征提取，以得到原特征图；其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图。
85.步骤503，对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图像的目标特征图。
86.步骤501至503的执行过程可以参见本公开任一实施例的执行过程，在此不做赘述。
87.步骤504，针对各帧图像，将目标特征图分别输入目标识别模型的编码器进行编码，以得到编码特征。
88.在本公开实施例中，对目标识别模型的结构不作限制，比如，该目标识别模型可以为以transformer为基本结构的模型，或者，也可以为其他结构的模型，比如为transformer的变种结构的模型。
89.在本公开实施例中，目标识别模型为经过训练的模型，比如可以基于机器学习技术或深度学习技术，对初始的目标识别模型进行训练，使得经过训练的目标识别模型能够学习得到特征图与检测结果之间的对应关系。
90.在本公开实施例中，针对每一帧图像，可以利用目标识别模型中的编码器对该图像的目标特征图进行编码，得到编码特征。
91.步骤505，将编码特征输入目标识别模型的解码器进行解码，以得到解码特征。
92.在本公开实施例中，可以采用目标识别模型中的解码器，对编码器输出的编码特
征进行解码，得到解码特征。例如，可以根据解码器中的模型参数对编码特征执行矩阵乘法运算，得到注意力机制中的q、k、v分量，根据q、k、v分量，确定解码特征。
93.步骤506，将解码特征输入目标识别模型的预测层进行目标预测，以得到预测层输出的预测框的位置，以及得到预测框内目标所属的类别。
94.在本公开实施例中，可以利用目标识别模型中的预测层根据解码特征进行目标预测，得到检测结果，其中，检测结果包括预测框的位置和预测框内目标所属的类别。
95.本公开实施例的基于视频的目标检测方法，通过将相邻视频帧的特征图进行融合，可以实现增强模型的特征表达能力，从而提升模型预测结果的准确性，即提升目标检测结果的准确性和可靠性。
96.为了清除说明上述实施例中如何采用目标识别模型的预测层对解码特征进行目标预测的，本公开还提出一种基于视频的目标检测方法。
97.图6为本公开实施例四所提供的基于视频的目标检测方法的流程示意图。
98.如图6所示，该基于视频的目标检测方法可以包括以下步骤：
99.步骤601，获取待检测视频中的多帧图像。
100.步骤602，对多帧图像分别进行特征提取，以得到原特征图；其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图。
101.步骤603，对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图形的目标特征图。
102.步骤604，针对各帧图像，将目标特征图分别输入目标识别模型的编码器进行编码，以得到编码特征。
103.步骤605，将编码特征输入目标识别模型的解码器进行解码，以得到解码特征。
104.步骤601至605的执行过程可以参见本公开任一实施例的执行过程，在此不做赘述。
105.步骤606，获取解码特征中的多个预测维度。
106.在本公开实施例中，预测维度的个数与一帧图像中能够被识别的目标个数有关，例如，预测维度的个数可以与一帧图像中能够被识别的目标个数的上限值相关。比如，预测维度的个数可以处于100至200之间。
107.在本公开实施例中，可以预先设置预测维度的个数。
108.步骤607，将解码特征中各预测维度的特征分别输入至对应的预测层，以得到各预测层输出的预测框的位置。
109.应当理解的是，目标识别模型可以识别数量较多的目标，然而受限于图像或视频帧的取景画面，图像中包含的目标个数有限，为了兼顾目标检测结果的准确性，以及避免资源浪费，可以根据预测维度的个数，确定预测层的个数。其中，预测层的个数与预测维度的个数相同。
110.在本公开实施例中，可以将解码特征中各预测维度的特征分别输入至对应的预测层，以得到各预测层输出的预测框的位置。
111.步骤608，根据各预测层所预测的类别，确定对应预测层输出的预测框内目标所属的类别。
112.在本技术实施例中，可以根据各预测层所预测类别，确定对应预测层输出的预测框内目标所属的类别。
113.作为一种示例，以目标识别模型为以transformer为基本结构的模型进行示例性说明，目标识别模型的结构可以如图7所示，预测层为ffn(feed-forward network，前馈网络)。
114.其中，目标特征图为h
×w×
c的立体特征，可以对立体的目标特征图进行分块处理，得到序列化的特征向量序列(即将融合后的目标特征图转化为token(特征图中的元素))，即转化为h
×
w个c维特征向量，序列化的特征向量输入至编码器进行注意力学习(注意力机制可以达到帧间增强效果)，得到的特征向量序列再输入至解码器，解码器根据输入的特征向量序列进行注意力学习，得到的解码特征再使用ffn进行最终的目标检测，即可以由ffn进行分类和回归的预测，得到检测结果。其中，ffn输出的box即为预测框的位置，可以根据预测框的位置确定预测框；ffn输出的class即为预测框内目标所属的类别；no object是指没有目标。也就是说，可以将解码特征输入ffn，由ffn进行目标的回归预测，以得到预测框的位置，并由ffn进行目标的类别预测，以得到预测框内的目标所属的类别。
115.本公开实施例的基于视频的目标检测方法，通过获取解码特征中的多个预测维度；将解码特征中各预测维度的特征分别输入至对应的预测层，以得到各预测层输出的预测框的位置；根据各预测层所预测的类别，确定对应预测层输出的预测框内目标所属的类别。由此，可以实现根据多层预测层对解码特征进行目标预测，可以避免目标的遗漏检测，进一步提升目标检测结果的准确性和可靠性。
116.与上述图1至图6实施例提供的基于视频的目标检测方法相对应，本公开还提供一种基于视频的目标检测装置，由于本公开实施例提供的基于视频的目标检测装置与上述图1至图6实施例提供的基于视频的目标检测方法相对应，因此在基于视频的目标检测方法的实施方式也适用于本公开实施例提供的基于视频的目标检测装置，在本公开实施例中不再详细描述。
117.图8为本公开实施例五所提供的基于视频的目标检测装置的结构示意图。
118.如图8所示，该基于视频的目标检测装置800可以包括：获取模块810、提取模块820、融合模块830以及检测模块840。
119.其中，获取模块810，用于获取待检测视频中的多帧图像。
120.提取模块820，用于对多帧图像分别进行特征提取，以得到原特征图；其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图。
121.融合模块830，用于对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图像的目标特征图。
122.检测模块840，用于根据各帧图像的目标特征图进行目标检测。
123.在本公开实施例的一种可能的实现方式中，融合模块830，可以包括：
124.获取单元，用于对多帧图像中任意的相邻两帧图像，从前一帧图像的原特征图中获取第一目标维度的子特征图，以及从后一帧图像的原特征图中获取第二目标维度的子特征图。
125.拼接单元，用于将前一帧图像对应的第一目标维度的子特征图，与后一帧图像的
原特征图中第二目标维度的子特征图拼接，以得到拼接特征图。
126.输入单元，用于将拼接特征图输入卷积层，以融合得到后一帧图像的目标特征图。
127.在本公开实施例的一种可能的实现方式中，获取单元，具体用于：从前一帧图像的原特征图w
i-1
×hi-1
×ci-1
中，提取第一目标维度的子特征w
i-1
×hi-1
×c1i-1
，其中，(i-1)为前一帧图像的序号，w
i-1
为前一帧图像的原特征图中的多个宽度分量，h
i-1
为前一帧图像的原特征图中多个高度分量，c
i-1
为前一帧图像的原特征图中的多个维度分量，c
1i-1
为c
i-1
中排序在后的固定个数的第一目标维度；从后一帧图像的原特征图wi×hi
×ci
中，提取第二目标维度的子特征wi×hi
×c2i
，其中，i为后一帧图像的序号，wi为后一帧图像的原特征图中的多个宽度分量，hi为后一帧图像的原特征图中多个高度分量，ci为后一帧图像的原特征图中的多个维度分量，c
2i
为ci中排序在前的固定个数的第二目标维度。
128.在本公开实施例的一种可能的实现方式中，检测模块840，可以包括：
129.编码单元，用于针对各帧图像，将目标特征图分别输入目标识别模型的编码器进行编码，以得到编码特征。
130.解码单元，用于将编码特征输入目标识别模型的解码器进行解码，以得到解码特征。
131.预测单元，用于将解码特征输入目标识别模型的预测层进行目标预测，以得到预测层输出的预测框的位置，以及得到预测框内目标所属的类别。
132.在本公开实施例的一种可能的实现方式中，预测单元，具体用于：获取解码特征中的多个预测维度；将解码特征中各预测维度的特征分别输入至对应的预测层，以得到各预测层输出的预测框的位置；根据各预测层所预测的类别，确定对应预测层输出的预测框内目标所属的类别。
133.本公开实施例的基于视频的目标检测装置，通过对待检测视频中的多帧图像分别进行特征提取，以得到原特征图，其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图，并对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图像的目标特征图，进而可根据各帧图像的目标特征图进行目标检测。由此，在对视频中的各帧图像进行目标检测时，不仅依赖对应帧的内容，还可以参考相邻帧携带的信息，可以提升目标检测结果的准确性和可靠性。
134.为了实现上述实施例，本公开还提供一种电子设备，该电子设备可以包括至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本公开上述任一实施例提出的基于视频的目标检测方法。
135.为了实现上述实施例，本公开还提供一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行本公开上述任一实施例提出的基于视频的目标检测方法。
136.为了实现上述实施例，本公开还提供一种计算机程序产品，该计算机程序产品包括计算机程序，计算机程序在被处理器执行时实现本公开上述任一实施例提出的基于视频的目标检测方法。
137.根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种
计算机程序产品。
138.图9示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。其中，电子设备可以包括上述实施例中的服务端、客户端。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
139.如图9所示，设备900包括计算单元901，其可以根据存储在rom(read-only memory，只读存储器)902中的计算机程序或者从存储单元907加载到ram(random access memory，随机访问/存取存储器)903中的计算机程序，来执行各种适当的动作和处理。在ram 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、rom 902以及ram 903通过总线904彼此相连。i/o(input/output，输入/输出)接口905也连接至总线904。
140.设备900中的多个部件连接至i/o接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
141.计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于cpu(central processing unit，中央处理单元)、gpu(graphic processing units，图形处理单元)、各种专用的ai(artificial intelligence，人工智能)计算芯片、各种运行机器学习模型算法的计算单元、dsp(digital signal processor，数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如上述基于视频的目标检测方法。例如，在一些实施例中，上述基于视频的目标检测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由rom 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到ram 903并由计算单元901执行时，可以执行上文描述的基于视频的目标检测方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行上述基于视频的目标检测方法。
142.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、fpga(field programmable gate array，现场可编程门阵列)、asic(application-specific integrated circuit，专用集成电路)、assp(application specific standard product，专用标准产品)、soc(system on chip，芯片上系统的系统)、cpld(complex programmable logic device，复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
143.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
144.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、ram、rom、eprom(electrically programmable read-only-memory，可擦除可编程只读存储器)或快闪存储器、光纤、cd-rom(compact disc read-only memory，便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
145.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(cathode-ray tube，阴极射线管)或者lcd(liquid crystal display，液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
146.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：lan(local area network，局域网)、wan(wide area network，广域网)、互联网和区块链网络。
147.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务(virtual private server，虚拟专用服务器)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
148.其中，需要说明的是，人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
149.根据本公开实施例的技术方案，通过对待检测视频中的多帧图像分别进行特征提
取，以得到原特征图，其中，原特征图包括第一目标维度的子特征图和第二目标维度的子特征图，并对多帧图像中任意的相邻两帧图像，将前一帧图像的原特征图中第一目标维度的子特征图，与后一帧图像的原特征图中第二目标维度的子特征图进行特征融合，以得到后一帧图像的目标特征图，进而可根据各帧图像的目标特征图进行目标检测。由此，在对视频中的各帧图像进行目标检测时，不仅依赖对应帧的内容，还可以参考相邻帧携带的信息，可以提升目标检测结果的准确性和可靠性。
150.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
151.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。