神经网络生成、人脸检测、行驶控制方法及装置与流程

文档序号:28396995发布日期:2022-01-08 01:04阅读:114来源:国知局
神经网络生成、人脸检测、行驶控制方法及装置与流程

1.本公开涉及深度学习技术领域,具体而言,涉及一种神经网络生成、人脸检测、行驶控制方法、装置、电子设备及存储介质。


背景技术:

2.迁移学习是一种机器学习技术,顾名思义就是指将知识从一个领域迁移到另一个领域的能力。在计算机视觉领域中,迁移学习通常是通过使用预训练模型来体现的,比如可以将预训练模型中学习到的权重迁移到其他神经网络中,使得其他神经网络学习到了预训练模型中的特征,无需对其他神经网络从零开始进行训练。其中,预训练模型是在大型基准数据集上训练得到的模型。
3.一般的,可以将具有强大表示能力的预训练模型迁移到下游任务上,并对迁移得到的神经网络进行微调,得到下游任务对应的神经网络;但是,在下游任务对应的训练样本比较少时,直接基于预训练模型微调会导致得到的神经网络在下游任务上的性能较差。


技术实现要素:

4.有鉴于此,本公开至少提供一种神经网络生成、人脸检测、行驶控制方法、装置、电子设备及存储介质。
5.第一方面,本公开提供了一种神经网络生成方法,包括:
6.确定多任务预训练模型中每个任务类型对应的初始任务提示信息;
7.将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息;
8.基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络。
9.上述方法中,通过确定每个任务类型对应的初始任务提示信息,将多个任务类型对应的样本数据和初始任务提示信息输入至多任务预训练模型中,使得在样本数据基础上多任务预训练模型能够针对不同的任务类型,选择不同的隐形特征映射,提取到不同任务类型有区分度的特征信息,即提取到与每个任务类型匹配的特征信息,使得训练得到的目标多任务预训练模型在多个任务类型中具有较好的性能。
10.同时,将任务提示信息作为可学习的参数,通过不断对初始任务提示信息进行更新,使得更新后的初始任务提示信息能够更灵活地引导多任务预训练模型进行特征映射;以及在生成更新任务提示信息后,使得生成的更新任务提示信息与对应的任务类型更匹配,以便后续能够基于目标多任务预训练模型和各个任务类型分别对应的更新任务提示信息,能够训练得到性能较好的目标神经网络。
11.一种可能的实施方式中,所述确定多任务预训练模型中每个任务类型对应的初始任务提示信息,包括:
12.针对所述每个任务类型,确定所述任务类型对应的任务标签,所述任务标签包括任务名称和任务关键词中的至少一项;
13.将所述任务类型对应的所述任务标签输入至自然语言处理模型,生成所述任务类型对应的初始任务提示信息。
14.这里,确定每个任务类型对应的任务标签,该任务标签能够较准确的表征任务类型对应的任务内容。通过利用自然语言处理模型和任务标签,能够较准确的、较快速的得到各个任务类型的初始任务提示信息。
15.一种可能的实施方式中,所述将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息,包括:
16.针对每个任务类型,利用所述多任务预训练模型中的第一网络,对所述任务类型对应的初始任务提示信息进行特征映射,生成所述任务类型对应的第一特征信息;以及
17.针对每个任务类型,利用所述多任务预训练模型中的第二网络,对所述任务类型对应的样本数据进行特征提取,生成所述任务类型对应的第二特征信息,其中,每个任务类型下的所述第一特征信息与所述第二特征信息的尺寸相匹配;
18.将任务类型相同的第一特征信息和第二特征信息进行级联,作为更新后第二特征信息;
19.基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
20.本公开实施方式中,通过将任务类型相同的初始任务提示信息对应的第一特征信息、与样本数据对应的第二特征信息进行级联,作为更新后第二特征信息,该更新后第二特征信息中包括提示任务类型的信息,即更新后第二特征信息能够达到提示模型任务类型的作用,以便基于更新后第二特征信息,对多任务预训练模型进行训练时,能够提高目标多任务预训练模型的性能,和每个任务类型对应的更新任务提示信息的准确度。
21.一种可能的实施方式中,所述多任务预训练模型中还包括主干网络和每个任务类型对应的子网络;所述基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息,包括:
22.利用所述主干网络对所述更新后第二特征信息进行特征提取,得到第三特征信息;
23.利用各个所述子网络分别对所述第三特征信息进行特征处理,得到每个任务类型对应的预测结果;
24.基于各个任务类型分别对应的所述预测结果和所述样本数据对应的标注结果,对所述多任务预训练模型的网络参数和所述初始任务提示信息进行更新;
25.利用更新后的样本数据和更新后的所述初始任务提示信息,对更新后的所述多任务预训练模型进行再次训练,直至满足训练截止条件,将最终更新后的所述多任务预训练模型作为所述目标多任务预训练模型,以及将最终更新后的所述初始任务提示信息作为所述更新任务提示信息。
26.通过对多任务预训练模型和初始任务提示信息进行多次更新,保障了目标多任务预训练模型的性能,提高了更新任务提示信息的准确性。
27.一种可能的实施方式中,所述基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络,包括:
28.从多个任务类型分别对应的所述更新任务提示信息中,选取与所述下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为所述下游任务对应的目标任务提示信息;
29.基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络。
30.这里,可以从多个任务类型分别对应的更新任务提示信息中,选取与下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为下游任务对应的目标任务提示信息,使得下游任务对应的神经网络,能够针对下游任务选择合适的隐性特征映射,提取与目标任务类型相关的特征信息,从而能够提高下游任务对应的神经网络的精度。
31.一种可能的实施方式中,所述基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络,包括:
32.基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络;
33.基于所述下游任务对应的目标样本数据和所述目标任务提示信息,对所述初始神经网络进行训练,得到所述下游任务对应的所述目标神经网络,其中,所述目标任务提示信息用于提示所述目标神经网络提取与所述下游任务对应的所述目标任务类型匹配的特征信息。
34.这里,通过利用下游任务对应的目标样本数据和目标任务提示信息,对初始神经网络进行训练,实现利用目标任务提示信息引导初始神经网络学习目标任务类型对应的特征映射,使得训练得到的目标神经网络的性能较好。
35.一种可能的实施方式中,所述基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络,包括:
36.将所述目标多任务预训练模型中的主干网络,作为所述初始神经网络的目标主干网络;以及构建所述下游任务对应的目标处理网络;
37.基于所述目标主干网络和所述目标处理网络,得到所述下游任务对应的初始神经网络。
38.第二方面,本公开提供了一种人脸检测方法,包括:
39.获取待检测图像;
40.利用第一神经网络,对所述待检测图像进行人脸检测,得到所述待检测图像对应的人脸检测结果,其中,所述第一神经网络为基于第一方面任一实施方式所述的神经网络生成方法生成的。
41.第三方面,本公开提供了一种行驶控制方法,包括:
42.获取行驶装置在行驶过程中采集的道路图像;
43.利用第二神经网络,对所述道路图像进行目标检测,得到所述道路图像对应的对象检测结果;其中,所述第二神经网络为基于第一方面任一实施方式所述的神经网络生成方法生成的;
44.基于所述道路图像对应的对象检测结果,控制所述行驶装置的行驶状态。
45.以下装置、电子设备等的效果描述参见上述方法的说明,这里不再赘述。
46.第四方面,本公开提供了一种神经网络生成装置,包括:
47.确定模块,用于确定多任务预训练模型中每个任务类型对应的初始任务提示信息;
48.第一训练模块,用于将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息;
49.第二训练模块,用于基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络。
50.一种可能的实施方式中,所述确定模块,在确定多任务预训练模型中每个任务类型对应的初始任务提示信息时,用于:
51.针对所述每个任务类型,确定所述任务类型对应的任务标签,所述任务标签包括任务名称和任务关键词中的至少一项;
52.将所述任务类型对应的所述任务标签输入至自然语言处理模型,生成所述任务类型对应的初始任务提示信息。
53.一种可能的实施方式中,所述第一训练模块,在将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息时,用于:
54.针对每个任务类型,利用所述多任务预训练模型中的第一网络,对所述任务类型对应的初始任务提示信息进行特征映射,生成所述任务类型对应的第一特征信息;以及
55.针对每个任务类型,利用所述多任务预训练模型中的第二网络,对所述任务类型对应的样本数据进行特征提取,生成所述任务类型对应的第二特征信息,其中,每个任务类型下的所述第一特征信息与所述第二特征信息的尺寸相匹配;
56.将任务类型相同的第一特征信息和第二特征信息进行级联,作为更新后第二特征信息;
57.基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
58.一种可能的实施方式中,所述多任务预训练模型中还包括主干网络和每个任务类型对应的子网络;所述第一训练模块,在基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息时,用于:
59.利用所述主干网络对所述更新后第二特征信息进行特征提取,得到第三特征信息;
60.利用各个所述子网络分别对所述第三特征信息进行特征处理,得到每个任务类型对应的预测结果;
61.基于各个任务类型分别对应的所述预测结果和所述样本数据对应的标注结果,对所述多任务预训练模型的网络参数和所述初始任务提示信息进行更新;
62.利用更新后的样本数据和更新后的所述初始任务提示信息,对更新后的所述多任务预训练模型进行再次训练,直至满足训练截止条件,将最终更新后的所述多任务预训练模型作为所述目标多任务预训练模型,以及将最终更新后的所述初始任务提示信息作为所
述更新任务提示信息。
63.一种可能的实施方式中,所述第二训练模块,在基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络时,用于:
64.从多个任务类型分别对应的所述更新任务提示信息中,选取与所述下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为所述下游任务对应的目标任务提示信息;
65.基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络。
66.一种可能的实施方式中,所述第二训练模块,在基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络时,用于:
67.基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络;
68.基于所述下游任务对应的目标样本数据和所述目标任务提示信息,对所述初始神经网络进行训练,得到所述下游任务对应的所述目标神经网络,其中,所述目标任务提示信息用于提示所述目标神经网络提取与所述下游任务对应的所述目标任务类型匹配的特征信息。
69.一种可能的实施方式中,所述第二训练模块,在基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络时,用于:
70.将所述目标多任务预训练模型中的主干网络,作为所述初始神经网络的目标主干网络;以及构建所述下游任务对应的目标处理网络;
71.基于所述目标主干网络和所述目标处理网络,得到所述下游任务对应的初始神经网络。
72.第五方面,本公开提供了一种人脸检测装置,包括:
73.第一获取模块,用于获取待检测图像;
74.第一检测模块,用于利用第一神经网络,对所述待检测图像进行人脸检测,得到所述待检测图像对应的人脸检测结果,其中,所述第一神经网络为基于第一方面任一实施方式所述的神经网络生成方法生成的。
75.第六方面,本公开提供了一种行驶控制装置,包括:
76.第二获取模块,用于获取行驶装置在行驶过程中采集的道路图像;
77.第二检测模块,用于利用第二神经网络,对所述道路图像进行目标检测,得到所述道路图像对应的对象检测结果;其中,所述第二神经网络为基于第一方面任一实施方式所述的神经网络生成方法生成的;
78.控制模块,用于基于所述道路图像对应的对象检测结果,控制所述行驶装置的行驶状态。
79.第七方面,本公开提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如上述第一方面或任一实施方式所述的神经网络生成方法的步骤;或执行如上述第二方面所述的人脸检测方法的步骤;或执行如上述第三方面所述的行驶控制方法的步骤。
80.第八方面,本公开提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如上述第一方面或任一实施方式所述的神经网络生成方法的步骤;或执行如上述第二方面所述的人脸检测方法的步骤;或执行如上述第三方面所述的行驶控制方法的步骤。
81.为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
82.为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
83.图1示出了本公开实施例所提供的一种神经网络生成方法的流程示意图;
84.图2示出了本公开实施例所提供的一种神经网络生成方法中,目标多任务预训练模型和目标神经网络的结构示意图;
85.图3示出了本公开实施例所提供的一种人脸检测方法的流程示意图;
86.图4示出了本公开实施例所提供的一种行驶控制方法的流程示意图;
87.图5示出了本公开实施例所提供的一种神经网络生成装置的架构示意图;
88.图6示出了本公开实施例所提供的一种人脸检测装置的架构示意图;
89.图7示出了本公开实施例所提供的一种行驶控制装置的架构示意图;
90.图8示出了本公开实施例所提供的一种电子设备的结构示意图。
具体实施方式
91.为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
92.在得到预训练模型之后,可以将具有强大表示能力的预训练模型迁移到下游任务上,并对迁移得到的神经网络进行微调,得到下游任务对应的神经网络;但是,在下游任务对应的训练样本比较少时,直接基于预训练模型微调会导致得到的神经网络在下游任务上的性能较差。
93.一般的,预训练模型的迁移方式可以包括:方式一、将预训练模型中的主干网络作为下游任务对应的神经网络的主干网络,并在主干网络后添加额外的网络层(比如卷积层、归一化层等),使得额外的网络层能够对主干网络提取的通用特征进行筛选、映射,保留并强化下游任务需要的特征。但是该方式在下游任务的训练样本较少时可能会造成特征映射
层过拟合,降低下游任务的神经网络的性能。方式二、在确定了下游任务对应的神经网络之后,可以基于预训练模型中包括的网络参数,预测下游任务对应的神经网络的网络参数,该方式使得下游任务的神经网络的网络参数受限于指定的权重参数空间,无法保障将网络参数优化到了最佳状态,即可能使得下游任务的神经网络的性能不佳。
94.为了缓解上述问题,本公开实施例提供了一种神经网络生成方法。
95.应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
96.为便于对本公开实施例进行理解,首先对本公开实施例所公开的一种神经网络生成方法进行详细介绍。本公开实施例所提供的神经网络生成方法的执行主体一般为服务器或终端设备,服务器比如可以为云端服务器、本地服务器等;终端设备比如可以为电脑、手机、平板等。在一些可能的实现方式中,该神经网络生成方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
97.参见图1所示,为本公开实施例所提供的神经网络生成方法的流程示意图,该方法包括s101-s103,其中:
98.s101,确定多任务预训练模型中每个任务类型对应的初始任务提示信息;
99.s102,将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息;
100.s103,基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络。
101.上述方法中,通过确定每个任务类型对应的初始任务提示信息,将多个任务类型对应的样本数据和初始任务提示信息输入至多任务预训练模型中,使得在样本数据基础上多任务预训练模型能够针对不同的任务类型,选择不同的隐形特征映射,提取到不同任务类型有区分度的特征信息,即提取到与每个任务类型匹配的特征信息,使得训练得到的目标多任务预训练模型在多个任务类型中具有较好的性能。
102.同时,将任务提示信息作为可学习的参数,通过不断对初始任务提示信息进行更新,使得更新后的初始任务提示信息能够更灵活地引导多任务预训练模型进行特征映射;以及在生成更新任务提示信息后,使得生成的更新任务提示信息与对应的任务类型更匹配,以便后续能够基于目标多任务预训练模型和各个任务类型分别对应的更新任务提示信息,能够训练得到性能较好的目标神经网络。
103.下述对s101-s103进行具体说明。
104.针对s101:
105.多任务预训练模型中包括的任务类型可以根据实际需要进行设置,比如,多个任务类型可以包括:imagenet分类任务、场景分类任务、物体检测任务、语义分割任务、人脸检测任务、活体检测任务、性别预测任务以及关键点检测任务等。
106.可以确定多任务预训练模型中每个任务类型对应的初始任务提示信息,比如,初始任务提示信息可以为特征向量、特征矩阵等。
107.一种可选实施方式中,所述确定多任务预训练模型中每个任务类型对应的初始任务提示信息,可以包括步骤a1和步骤a2,其中:
108.步骤a1,针对所述每个任务类型,确定所述任务类型对应的任务标签,所述任务标签包括任务名称和任务关键词中的至少一项;
109.步骤a2,将所述任务类型对应的所述任务标签输入至自然语言处理模型,生成所述任务类型对应的初始任务提示信息。
110.这里,确定每个任务类型对应的任务标签,该任务标签能够较准确的表征任务类型对应的任务内容。通过利用自然语言处理模型和任务标签,能够较准确的、较快速的得到各个任务类型的初始任务提示信息。
111.实施时,可以确定每个任务类型对应的任务标签,任务标签可以包括任务名称(即任务类型对应的名称)、任务关键词(与任务类型相关的词语)等中的至少一项,比如,在任务类型为物体检测任务时,任务名称可以为:a task of detection、任务关键词可以包括:detection。
112.针对每个任务类型,将该任务类型对应的任务标签输入至自然语言处理(natural language processing,nlp)模型,生成该任务类型对应的初始任务提示信息,得到了各个任务类型分别对应的初始任务提示信息。
113.通过生成每个任务模型对应的初始任务提示信息,在将初始任务提示信息应用于多任务预训练模型上时,可以引导多任务预训练模型进行特征映射学习,以提高多任务预训练模型的特征映射学习效率。
114.针对s102:
115.可以将初始任务提示信息作为多任务预训练模型对应的可学习的网络参数,利用多个任务类型分别对应的样本数据,对多任务预训练模型进行训练。实施时,可以将多个任务类型分别对应的样本数据和初始任务提示信息,输入至多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
116.一种可选实施方式中,所述将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息,可以包括步骤b1至步骤b4,其中:
117.步骤b1,针对每个任务类型,利用所述多任务预训练模型中的第一网络,对所述任务类型对应的初始任务提示信息进行特征映射,生成所述任务类型对应的第一特征信息;
118.步骤b2,针对每个任务类型,利用所述多任务预训练模型中的第二网络,对所述任务类型对应的样本数据进行特征提取,生成所述任务类型对应的第二特征信息,其中,每个任务类型下的所述第一特征信息与所述第二特征信息的尺寸相匹配;
119.步骤b3,将任务类型相同的第一特征信息和第二特征信息进行级联,作为更新后第二特征信息;
120.步骤b4,基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
121.本公开实施方式中,通过将任务类型相同的初始任务提示信息对应的第一特征信息、与样本数据对应的第二特征信息进行级联,作为更新后第二特征信息,该更新后第二特征信息中包括提示任务类型的信息,即更新后第二特征信息能够达到提示模型任务类型的作用,以便基于更新后第二特征信息,对多任务预训练模型进行训练时,能够提高目标多任务预训练模型的性能,和每个任务类型对应的更新任务提示信息的准确度。
122.其中,步骤b1和步骤b2可以同步进行。多任务预训练模型中可以包括第一网络和第二网络,第一网络用于对初始任务提示信息进行特征映射,生成第一特征信息。第二网络用于对输入的样本数据进行特征提取,生成第二特征信息。每个任务类型下的第一特征信息与第二特征信息的尺寸相匹配,比如,任务类型一的第一特征信息的尺寸为56
×
56,第二特征信息的尺寸也为56
×
56,第一特征信息和第二特征信息的通道数可以不同。
123.其中,第一网络和第二网络的结构可以根据需要进行设置。示例性的,第一网络可以包括全连接层、插值层等;第二网络可以包括卷积层、池化层等。
124.在步骤b1中,可以将各个任务类型分别对应的初始任务提示信息输入至多任务预训练模型的第一网络中,第一网络对每个初始任务提示信息进行特征映射,生成各个任务类型分别对应的第一特征信息。
125.在步骤b2中,可以将各个任务类型分别对应的样本数据输入至多任务预训练模型的第二网络中,第二网络对每个任务类型对应的样本数据进行特征提取,生成各个任务类型分别对应的第二特征信息。
126.在步骤b3中,可以将任务类型相同的第一特征信息和第二特征信息进行级联,作为更新后第二特征信息。比如,若第一特征信息为尺寸56
×
56、通道数为1的特征图,第二特征信息为尺寸56
×
56、通道数为16的特征图,则更新后第二特征信息为尺寸56
×
56,通道数为17的特征图。
127.在步骤b4中,可以基于更新后第二特征信息,对多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
128.一种可选实施方式中,所述多任务预训练模型中还包括主干网络和每个任务类型对应的子网络;在步骤b4中,所述基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息,可以包括:
129.步骤b41,利用所述主干网络对所述更新后第二特征信息进行特征提取,得到第三特征信息;
130.步骤b42,利用各个所述子网络分别对所述第三特征信息进行特征处理,得到每个任务类型对应的预测结果;
131.步骤b43,基于各个任务类型分别对应的所述预测结果和所述样本数据对应的标注结果,对所述多任务预训练模型的网络参数和所述初始任务提示信息进行更新;
132.步骤b44,利用更新后的样本数据和更新后的所述初始任务提示信息,对更新后的所述多任务预训练模型进行再次训练,直至满足训练截止条件,将最终更新后的所述多任务预训练模型作为所述目标多任务预训练模型,以及将最终更新后的所述初始任务提示信息作为所述更新任务提示信息。
133.通过对多任务预训练模型和初始任务提示信息进行多次更新,保障了目标多任务预训练模型的性能,提高了更新任务提示信息的准确性。
134.实施时,可以先利用主干网络对更新后第二特征信息进行特征提取,得到第三特征信息,该第三特征信息可以包括每个任务类型对应的第三特征信息。主干网络的网络结构可以根据需要进行设置,比如,主干网络可为基于resnet50生成的。
135.其中,每个任务类型对应一个子网络。再利用各个任务类型分别对应的子网络对
任务类型匹配的第三特征信息进行特征处理,得到每个任务类型对应的预测结果。特征处理可以包括神经网络中各个特征层对应的处理过程。比如,特征处理可以包括:特征提取、特征压缩、特征连接、特征归一化处理等等。其中,每个任务类型对应的子网络可以根据实际需要进行设置。
136.再可以基于各个任务类型分别对应的预测结果和样本数据对应的标注结果,确定多任务预训练模型的损失值,根据该损失值对多任务预训练模型的网络参数和初始任务提示信息进行更新。进而可以利用更新后的样本数据和更新后的初始任务提示信息,对更新后的多任务预训练模型进行再次训练,直至满足训练截止条件,比如,训练截止条件可以为更新后的多任务训练模型的损失值没有明显变化等。
137.将最终更新后的多任务预训练模型作为目标多任务预训练模型,将最终更新后的初始任务提示信息作为更新任务提示信息。得到了训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
138.由于上游任务具有丰富的样本数据,可以使得多任务预训练模型能够学习到不同任务的隐性特征映射,使得训练得到的目标多任务预训练模型的主干网络能够提取不同任务类型的具有区分度的特征信息,以便基于目标多任务预训练模型进行迁移学习后,可以生成性能较好的目标神经网络。
139.针对s103:
140.在迁移学习中,在得到上游任务对应的预训练模型之后,可以将上游任务的预训练模型迁移到下游任务中,得到下游任务对应的模型。其中,下游任务可以为根据实际需求确定的目标任务。
141.实施时,可以基于目标多任务预训练模型,构建下游任务对应的神经网络的网络结构;以及可以基于各个任务类型分别对应的更新任务提示信息,确定下游任务对应的目标任务提示信息,并将目标任务提示信息作为下游任务对应的神经网络的固定网络参数;进而可以利用获取到的下游任务的目标样本数据,对包括固定网络参数的神经网络进行训练,得到训练后的目标神经网络。
142.一种可选实施方式中,所述基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络,可以包括步骤c1和步骤c2,其中:
143.步骤c1,从多个任务类型分别对应的所述更新任务提示信息中,选取与所述下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为所述下游任务对应的目标任务提示信息;
144.步骤c2,基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络。
145.这里,可以从多个任务类型分别对应的更新任务提示信息中,选取与下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为下游任务对应的目标任务提示信息,使得下游任务对应的神经网络,能够针对下游任务选择合适的隐性特征映射,提取与目标任务类型相关的特征信息,从而能够提高下游任务对应的神经网络的精度。
146.在步骤c1中,可以从多个任务类型分别对应的更新任务提示信息中,选取与下游任务的目标任务类型匹配的一个或多个更新任务提示信息。示例性的,可以从多个任务类
型中,确定与目标任务类型一致或相似的第一任务类型,将确定的第一任务类型的更新任务提示信息,作为下游任务对应的目标任务提示信息。比如在目标任务类型为人脸检测时,则可以将多个任务类型中人脸检测任务对应的更新任务提示信息,作为目标任务提示信息。在目标任务类型为车辆检测时,可以将多个任务类型中物体检测任务对应的更新任务提示信息和/或语义分割任务对应的更新任务提示信息,作为目标任务提示信息。
147.通过为下游任务添加与上游任务相同的更新任务提示信息,使得下游任务的目标主干网络能够基于更新任务提示信息,提取与目标任务类型相关的特征信息,基于该特征信息能够得到较准确的预测结果,提升了目标神经网络的性能。
148.在步骤c2中,一种可选实施方式中,所述基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络,可以包括:
149.步骤c21,基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络;
150.步骤c22,基于所述下游任务对应的目标样本数据和所述目标任务提示信息,对所述初始神经网络进行训练,得到所述下游任务对应的所述目标神经网络,其中,所述目标任务提示信息用于提示所述目标神经网络提取与所述下游任务对应的所述目标任务类型匹配的特征信息。
151.这里,通过利用下游任务对应的目标样本数据和目标任务提示信息,对初始神经网络进行训练,实现利用目标任务提示信息引导初始神经网络学习目标任务类型对应的特征映射,使得训练得到的目标神经网络的性能较好。
152.实施时,可以先基于目标多任务预训练模型,构建下游任务对应的初始神经网络。
153.一种可选实施方式中,所述基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络,包括:将所述目标多任务预训练模型中的主干网络,作为所述初始神经网络的目标主干网络;以及构建所述下游任务对应的目标处理网络;基于所述目标主干网络和所述目标处理网络,得到所述下游任务对应的初始神经网络。
154.实施时,可以将目标多任务预训练模型中的主干网络,作为初始神经网络的目标主干网络,即目标主干网络与目标多任务预训练模型中的主干网络的网络结构和网络参数一致。以及可以搭建下游任务对应的目标处理网络,该目标处理网络可以为基于目标多任务预训练模型中的子网络生成的,也可以为基于下游任务对应的目标任务类型,重新搭建的。其中,目标处理网络的网络结构可以根据实际需要进行设置。
155.进而可以将目标主干网络与目标处理网络相连接,得到下游任务对应的初始神经网络。实施时,在目标多任务预训练模型中包括第一网络、第二网络时,可以将目标多任务预训练模型中包括的第一网络、和第二网络迁移至下游任务中,即初始神经网络中可以包括第一网络、第二网络、目标主干网络、目标处理网络。
156.在构建得到初始神经网络之后,可以将目标任务提示信息作为初始神经网络的固定网络参数,将下游任务对应的目标样本数据输入至初始神经网络中,对初始神经网络进行训练,训练结束后,得到下游任务对应的目标神经网络。其中,目标任务提示信息能够用于提示目标神经网络中的目标主干网络提取与下游任务对应的目标任务类型匹配的特征信息。
157.参见图2所示的目标多任务预训练模型和目标神经网络的结构示意图,结合图2对
神经网络的生成方法进行示例性说明,该方法包括:
158.第一步,数据准备阶段。即可以获取多任务数据集,多任务数据集中包括每个任务类型对应的样本数据。以及可以确定每个任务类型对应的初始任务提示信息。比如,可以将每个任务类型对应的任务标签(任务标签可以包括任务名称和/或任务关键词)输入至nlp模型中,生成每个任务类型对应的初始任务提示信息。
159.第二步,多任务预训练模型搭建阶段。由图2可知,多任务预训练模型中可以包括第一网络、第二网络、主干网络、每个任务类型对应的子网络。
160.第三步,多任务预训练模型训练阶段。将多个任务类型对应的样本数据和初始任务提示信息,输入至多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
161.实施时,可以将各个任务类型分别对应的初始任务提示信息输入至第一网络中,第一网络对每个初始任务提示信息进行特征映射,生成各个任务类型分别对应的第一特征信息。以及可以将各个任务类型分别对应的样本数据输入至多任务预训练模型的第二网络中,第二网络对每个任务类型对应的样本数据进行特征提取,生成各个任务类型分别对应的第二特征信息。再可以将任务类型相同的第一特征信息和第二特征信息进行级联,作为更新后第二特征信息。利用主干网络对更新后第二特征信息进行特征提取,得到每个任务类型对应的第三特征信息。并利用各个子网络分别对任务类型匹配的第三特征信息进行特征处理,得到每个任务类型对应的预测结果。比如,可以得到物体检测任务对应的物体检测结果、语义分割任务对应的语义分割结果等。
162.进而可以基于各个任务类型分别对应的预测结果和样本数据对应的标注结果,对多任务预训练模型的网络参数和初始任务提示信息进行更新。通过多次更新,可以得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
163.第四步,下游任务对应的初始神经网络搭建。实施时,可以将目标多任务预训练模型中的主干网络,作为初始神经网络的目标主干网络;将多任务预训练模型中的第一网络和第二网络,迁移到初始网络;以及构建下游任务对应的目标处理网络;构建得到初始神经网络。由图2可知,初始神经网络中包括第一网络、第二网络、目标主干网络、目标处理网络。
164.同时,可以从多个任务类型分别对应的更新任务提示信息中,选取与下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为下游任务对应的目标任务提示信息,将目标任务提示信息作为初始神经网络的固定网络参数。
165.第五步,下游任务对应的初始神经网络的训练。实施时,可以将下游任务对应的目标样本数据输入至初始神经网络中的第一网络中,得到目标样本数据对应的第一中间特征信息;以及将目标任务提示信息输入至初始神经网络中的第二网络中,得到目标任务提示信息对应的第二中间特征信息。将第一中间特征信息与第二中间特征信息进行级联,得到更新后的第二中间特征信息;再利用目标主干网络对更新后的第二中间特征信息进行特征提取(即提取与目标任务类型匹配的特征信息),得到第三中间特征信息;再利用目标处理网络对第三中间特征信息进行特征提取,得到目标样本数据对应的预测结果;根据目标样本数据对应的预测结果和标注结果,确定初始神经网络的损失值;并基于初始神经网络的损失值对初始神经网络的网络参数进行更新。通过多次更新,可以训练得到下游任务对应的目标神经网络。
166.本公开实施方式中,通过在上游任务的多任务预训练模型中加入不同任务类型分别对应的初始任务提示信息,利用上游任务包括的丰富样本数据,控制多任务预训练模型能够为每个任务类型学习对应的隐式特征映射,为不同任务类型提取不同的特征信息,通过不共享任务提示信息的方式,在下游任务的样本数据较少时,使得下游任务的目标神经网络能够获取到与目标任务类型相关的具有区分度的特征信息,以提高目标神经网络的性能。
167.同时,从多个任务类型对应的更新任务提示信息中,选择与下游任务的目标任务类型匹配的更新任务提示信息,作为下游任务的目标任务提示信息;以及加载目标多任务预训练模型中主干网络的权重,并在上游任务学习到的特征映射基础上进行微调,得到目标神经网络。通过上述方式,在下游任务的样本数据较少时,能够让下游任务的目标神经网络较快速的将特征映射到合适的特征空间,提升下游任务的目标神经网络的性能。
168.参见图3所示,为本公开实施例所提供的人脸检测方法的流程示意图,该方法包括s301-s302,其中:
169.s301,获取待检测图像;
170.s302,利用第一神经网络,对所述待检测图像进行检测,得到所述待检测图像对应的人脸检测结果,其中,所述第一神经网络为基于上述任一实施方式所述的神经网络生成方法生成的。
171.待检测图像可以为图像采集装置采集的图像。将该待检测图像输入至第一神经网络中,对待检测图像进行检测,得到待检测图像对应的人脸检测结果,比如,人脸检测结果可以为人脸标识信息(比如名字、工号等)、人脸匹配信息(比如匹配或不匹配)等。
172.参见图4所示,为本公开实施例所提供的行驶控制方法的流程示意图,该方法包括s401-s403,其中:
173.s401,获取行驶装置在行驶过程中采集的道路图像;
174.s402,利用第二神经网络,对所述道路图像进行目标检测,得到所述道路图像对应的对象检测结果;其中,所述第二神经网络为基于上述任一实施方式所述的神经网络生成方法生成的;
175.s403,基于所述道路图像对应的对象检测结果,控制所述行驶装置的行驶状态。
176.示例性的,行驶装置可以为自动驾驶车辆、装有高级驾驶辅助系统(advanced driving assistance system,adas)的车辆、或者机器人等。道路图像可以为行驶装置在行驶过程中实时采集到的图像数据。
177.通过利用生成的第二神经网对道路图像进行检测,生成道路图像对应的对象检测结果;比如,对象检测结果可以包括道路图像中每个目标对象的位置信息、朝向信息等。目标对象可以为任一待检测对象,比如,目标对象可以机动车辆、非机动车辆、行人、动物、道路标识等。进而可以基于道路图像对应的对象检测结果,控制行驶装置的行驶状态。
178.其中,在控制行驶装置时,可以控制行驶装置加速、减速、停止、转向、制动、规避对象等,比如,规避对象可以包括绕开对象、更改行驶路线等;或者可以播放语音提示信息,以提示驾驶员控制行驶装置的行驶状态。
179.本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功
能和可能的内在逻辑确定。
180.基于相同的构思,本公开实施例还提供了一种神经网络生成装置,参见图5所示,为本公开实施例提供的神经网络生成装置的架构示意图,包括确定模块501、第一训练模块502、第二训练模块503,具体的:
181.确定模块501,用于确定多任务预训练模型中每个任务类型对应的初始任务提示信息;
182.第一训练模块502,用于将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息;
183.第二训练模块503,用于基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络。
184.一种可能的实施方式中,所述确定模块501,在确定多任务预训练模型中每个任务类型对应的初始任务提示信息时,用于:
185.针对所述每个任务类型,确定所述任务类型对应的任务标签,所述任务标签包括任务名称和任务关键词中的至少一项;
186.将所述任务类型对应的所述任务标签输入至自然语言处理模型,生成所述任务类型对应的初始任务提示信息。
187.一种可能的实施方式中,所述第一训练模块502,在将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息时,用于:
188.针对每个任务类型,利用所述多任务预训练模型中的第一网络,对所述任务类型对应的初始任务提示信息进行特征映射,生成所述任务类型对应的第一特征信息;以及
189.针对每个任务类型,利用所述多任务预训练模型中的第二网络,对所述任务类型对应的样本数据进行特征提取,生成所述任务类型对应的第二特征信息,其中,每个任务类型下的所述第一特征信息与所述第二特征信息的尺寸相匹配;
190.将任务类型相同的第一特征信息和第二特征信息进行级联,作为更新后第二特征信息;
191.基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息。
192.一种可能的实施方式中,所述多任务预训练模型中还包括主干网络和每个任务类型对应的子网络;所述第一训练模块502,在基于所述更新后第二特征信息,对所述多任务预训练模型进行训练,得到目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息时,用于:
193.利用所述主干网络对所述更新后第二特征信息进行特征提取,得到第三特征信息;
194.利用各个所述子网络分别对所述第三特征信息进行特征处理,得到每个任务类型对应的预测结果;
195.基于各个任务类型分别对应的所述预测结果和所述样本数据对应的标注结果,对所述多任务预训练模型的网络参数和所述初始任务提示信息进行更新;
196.利用更新后的样本数据和更新后的所述初始任务提示信息,对更新后的所述多任务预训练模型进行再次训练,直至满足训练截止条件,将最终更新后的所述多任务预训练模型作为所述目标多任务预训练模型,以及将最终更新后的所述初始任务提示信息作为所述更新任务提示信息。
197.一种可能的实施方式中,所述第二训练模块503,在基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络时,用于:
198.从多个任务类型分别对应的所述更新任务提示信息中,选取与所述下游任务的目标任务类型匹配的至少一个更新任务提示信息,作为所述下游任务对应的目标任务提示信息;
199.基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络。
200.一种可能的实施方式中,所述第二训练模块503,在基于所述目标多任务预训练模型和所述目标任务提示信息,训练得到所述下游任务对应的所述目标神经网络时,用于:
201.基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络;
202.基于所述下游任务对应的目标样本数据和所述目标任务提示信息,对所述初始神经网络进行训练,得到所述下游任务对应的所述目标神经网络,其中,所述目标任务提示信息用于提示所述目标神经网络提取与所述下游任务对应的所述目标任务类型匹配的特征信息。
203.一种可能的实施方式中,所述第二训练模块503,在基于所述目标多任务预训练模型,构建所述下游任务对应的初始神经网络时,用于:
204.将所述目标多任务预训练模型中的主干网络,作为所述初始神经网络的目标主干网络;以及构建所述下游任务对应的目标处理网络;
205.基于所述目标主干网络和所述目标处理网络,得到所述下游任务对应的初始神经网络。
206.基于相同的构思,本公开实施例还提供了一种人脸检测装置,参见图6所示,为本公开实施例提供的人脸检测装置的架构示意图,包括第一获取模块601、第一检测模块602,具体的:
207.第一获取模块601,用于获取待检测图像;
208.第一检测模块602,用于利用第一神经网络,对所述待检测图像进行检测,得到所述待检测图像对应的人脸检测结果,其中,所述第一神经网络为基于上述实施方式所述的神经网络生成方法生成的。
209.基于相同的构思,本公开实施例还提供了一种行驶控制装置,参见图7所示,为本公开实施例提供的行驶控制装置的架构示意图,包括第二获取模块701、第二检测模块702、控制模块703,具体的:
210.第二获取模块701,用于获取行驶装置在行驶过程中采集的道路图像;
211.第二检测模块702,用于利用第二神经网络,对所述道路图像进行目标检测,得到所述道路图像对应的对象检测结果;其中,所述第二神经网络为基于上述实施方式所述的神经网络生成方法生成的;
212.控制模块703,用于基于所述道路图像对应的对象检测结果,控制所述行驶装置的行驶状态。
213.在一些实施例中,本公开实施例提供的装置具有的功能或包含的模板可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
214.基于同一技术构思,本公开实施例还提供了一种电子设备。参照图8所示,为本公开实施例提供的电子设备的结构示意图,包括处理器801、存储器802、和总线803。其中,存储器802用于存储执行指令,包括内存8021和外部存储器8022;这里的内存8021也称内存储器,用于暂时存放处理器801中的运算数据,以及与硬盘等外部存储器8022交换的数据,处理器801通过内存8021与外部存储器8022进行数据交换,当电子设备800运行时,处理器801与存储器802之间通过总线803通信,使得处理器801在执行以下指令:
215.确定多任务预训练模型中每个任务类型对应的初始任务提示信息;
216.将多个任务类型对应的样本数据和初始任务提示信息,输入至所述多任务预训练模型中,得到训练后的目标多任务预训练模型、以及每个任务类型对应的更新任务提示信息;
217.基于所述目标多任务预训练模型和各个任务类型分别对应的所述更新任务提示信息,训练得到下游任务对应的目标神经网络。
218.或处理器801执行以下指令:
219.获取待检测图像;
220.利用第一神经网络,对所述待检测图像进行检测,得到所述待检测图像对应的人脸检测结果,其中,所述第一神经网络为基于上述实施方式所述的神经网络生成方法生成的。
221.或处理器801执行以下指令:
222.获取行驶装置在行驶过程中采集的道路图像;
223.利用第二神经网络,对所述道路图像进行目标检测,得到所述道路图像对应的对象检测结果;其中,所述第二神经网络为基于上述实施方式所述的神经网络生成方法生成的;
224.基于所述道路图像对应的对象检测结果,控制所述行驶装置。
225.其中,处理器801的具体处理流程可以参照上述方法实施例的记载,这里不再赘述。
226.此外,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的神经网络生成方法、人脸检测方法、行驶控制方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
227.本公开实施例还提供一种计算机程序产品,该计算机程序产品承载有程序代码,所述程序代码包括的指令可用于执行上述方法实施例中所述的神经网络生成方法、人脸检测方法、行驶控制方法的步骤,具体可参见上述方法实施例,在此不再赘述。
228.其中,上述计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,
计算机程序产品具体体现为软件产品,例如软件开发包(software development kit,sdk)等等。
229.所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
230.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
231.另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
232.所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-only memory,rom)、随机存取存储器(random access memory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。
233.以上仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1