联邦学习方法、装置、电子设备及存储介质与流程

1.本技术涉及数据统计分析领域，尤其涉及一种联邦学习方法、装置、电子设备及存储介质。


背景技术：

2.在机器学习模型的训练过程中，样本的标签数据可以用于计算梯度、节点分裂增益等数值，相关技术中，本地机器学习算法的数据会分布在多个平台，且平台与平台之间无法实现数据的传输，故而，当多方平台都持有某一个标签的数据时，会仅限定某一个指定的平台持有该拥有该标签的样本数据，而其他平台的拥有该标签的样本数据将被丢弃，导致样本数据的丢弃率较高，使得当部分样本标签出现错误标注的情况时，无法利用其它平台的拥有同样标签的样本数据实现有效的修正，进而导致模型训练的准确性受到一定程度的影响。


技术实现要素：

3.本技术旨在至少在一定程度上解决相关技术中的技术问题之一。
4.为此，本技术第一方面提出一种联邦学习训练方法。
5.本技术第二方面还提出一种联邦学习训练方法。
6.本技术第三方面提出一种联邦学习训练装置。
7.本技术第四方面还提出一种联邦学习训练装置。
8.本技术第五方面提出一种电子设备。
9.本技术第六方面提出一种计算机可读存储介质。
10.本技术第七方面提出一种计算机程序产品。
11.本技术第一方面提出一种联邦学习训练方法，所述方法由服务器执行，所述方法包括：接收各个客户端发送的自身的有标签样本的梯度信息；根据各个客户端发送的所述梯度信息，获取属于同一有标签样本的目标梯度信息；确定每个有标签样本所属的客户端；将所述有标签样本对应的目标梯度信息，发送所述有标签样本所属的客户端。
12.另外，本技术第一方面提出的联邦学习训练方法，还可以具有如下附加的技术特征：
13.根据本技术的一个实施例，所述确定每个有标签样本所属的客户端，包括：针对任一有标签样本，根据所述任一有标签样本的第一标识信息，查询有标签样本与客户端之间的映射关系，获取与所述任一有标签样本的第一标识信息匹配的客户端。
14.根据本技术的一个实施例，所述联邦学习训练方法，还包括：接收各个客户端在训练开始之前发送的有标签样本的第一标识信息；获取属于同一客户端有标签样本的第一标识信息，并建立客户端的第二标识信息与所述第一标识信息之间的映射关系。
15.根据本技术的一个实施例，所述根据各个客户端发送的所述梯度信息，获取属于同一有标签样本的目标梯度信息，包括：获取所述同一有标签样本所涉及的客户端的权重；
根据所涉及的客户端的权重和所述同一有标签样本的出现次数，对所述同一有标签样本所涉及的客户端发送的所述梯度信息进行加权求平均，得到所述目标梯度信息。
16.根据本技术的一个实施例，所述联邦学习训练方法，还包括：接收各个客户端在训练开始之前发送的有标签样本的第一标识信息之后，统计每个有标签样本的出现次数。
17.根据本技术的一个实施例，所述联邦学习训练方法，还包括：与所述客户端之间的数据传输需要进行加密。
18.本技术第二方面还提出一种联邦学习训练方法，所述方法由客户端执行，所述方法包括：每次训练结束后向服务器发送自身的有标签样本的梯度信息；接收所述服务器发送的属于自身的每个有标签样本的目标梯度信息；基于所述目标梯度信息，更新本地学习模型的模型参数，并进行下一次训练直至训练结束，得到目标联邦学习模型。
19.本技术第二方面提出的联邦学习训练方法还可以具有如下附加的技术特征：
20.根据本技术的一个实施例，所述联邦学习训练方法，还包括：训练开始之前向所述服务器发送自身的有标签样本的第一标识信息。
21.根据本技术的一个实施例，所述联邦学习训练方法，还包括：与所述服务器之间的数据传输需要进行加密。
22.本技术第三方面提出一种联邦学习训练装置，包括：第一接收模块，用于接收各个客户端发送的自身的有标签样本的梯度信息；计算模块，用于根据各个客户端发送的所述梯度信息，获取属于同一有标签样本的目标梯度信息；识别模块，用于确定每个有标签样本所属的客户端；第一发送模块，用于将所述有标签样本对应的目标梯度信息，发送所述有标签样本所属的客户端。
23.本技术第三方面提出的联邦学习训练装置还可以具有如下附加的技术特征：
24.根据本技术的一个实施例，所述识别模块，包括：映射单元，用于针对任一有标签样本，根据所述任一有标签样本的第一标识信息，查询有标签样本与客户端之间的映射关系，获取与所述任一有标签样本的第一标识信息匹配的客户端。
25.根据本技术的一个实施例，所述第一接收模块，还用于：接收各个客户端在训练开始之前发送的有标签样本的第一标识信息；获取属于同一客户端有标签样本的第一标识信息，并建立客户端的第二标识信息与所述第一标识信息之间的映射关系。
26.根据本技术的一个实施例，所述计算模块，包括：权重获取单元，用于获取所述同一有标签样本所涉及的客户端的权重；计算单元，用于根据所涉及的客户端的权重和所述同一有标签样本的出现次数，对所述同一有标签样本所涉及的客户端发送的所述梯度信息进行加权求平均，得到所述目标梯度信息。
27.根据本技术的一个实施例，所述联邦学习训练装置，还包括：统计模块，用于接收各个客户端在训练开始之前发送的有标签样本的第一标识信息之后，统计每个有标签样本的出现次数。
28.根据本技术的一个实施例，所述联邦学习训练装置，还包括：第一加密模块，用于与所述客户端之间的数据传输需要进行加密。
29.本技术第四方面还提出一种联邦学习训练装置，包括：第二发送模块，用于每次训练结束后向服务器发送自身的有标签样本的梯度信息；第二接收模块，用于接收所述服务器发送的属于自身的每个有标签样本的目标梯度信息；更新模块，用于基于所述目标梯度
信息，更新本地学习模型的模型参数，并进行下一次训练直至训练结束，得到目标联邦学习模型。
30.本技术第四方面提出的联邦学习训练装置还可以具有如下附加的技术特征：
31.根据本技术的一个实施例，所述第二发送模块，还用于：训练开始之前向所述服务器发送自身的有标签样本的第一标识信息。
32.根据本技术的一个实施例，所述联邦学习训练装置，还包括：第二加密模块，用于与所述服务器之间的数据传输需要进行加密。
33.本技术第五方面提出了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面和第二方面任一项提出的联邦学习训练方法。
34.本技术第六方面提出了一种计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行第一方面和第二方面任一项提出的联邦学习训练方法。
35.本技术第七方面提出了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据上述第一方面和第二方面任一项提出的联邦学习训练方法。
36.本技术提出的联邦学习训练方法，服务器获取客户端发送的有标签样本的梯度信息，根据设定规则进行计算，进而获取到同一有标签样本对应的目标梯度信息，识别确定有标签样本对应的客户端后，将对应的目标梯度信息发送至有标签样本所属的客户端。本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。
37.应当理解，本技术所描述的内容并非旨在标识本技术的实施例的关键或重要特征，也不用于限制本技术的范围。本技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
38.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
39.图1为本技术一实施例的联邦学习训练方法的流程示意图；
40.图2为本技术另一实施例的联邦学习训练方法的流程示意图；
41.图3为本技术另一实施例的联邦学习训练方法的流程示意图；
42.图4为本技术另一实施例的联邦学习训练方法的流程示意图；
43.图5为本技术另一实施例的联邦学习训练方法的流程示意图；
44.图6为本技术另一实施例的联邦学习训练方法的流程示意图；
45.图7为本技术另一实施例的联邦学习训练方法的流程示意图；
46.图8为本技术另一实施例的联邦学习训练方法的流程示意图；
47.图9为本技术另一实施例的联邦学习训练方法的流程示意图；
48.图10为本技术另一实施例的联邦学习训练方法的流程示意图；
49.图11为本技术一实施例的联邦学习训练装置的结构示意图；
50.图12为本技术另一实施例的联邦学习训练装置的结构示意图；
51.图13为本技术另一实施例的联邦学习训练装置的结构示意图；
52.图14为本技术另一实施例的联邦学习训练装置的结构示意图；
53.图15为本技术一实施例的电子设备的结构示意图。
具体实施方式
54.下面详细描述本技术的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本技术，而不能理解为对本技术的限制。
55.下面参照附图描述本技术实施例的联邦学习训练方法、装置、电子设备和存储介质。
56.图1为本技术一实施例的联邦学习训练方法的流程示意图，该方法执行主体为服务器，如图1所示，该方法包括：
57.s101，接收各个客户端发送的自身的有标签样本的梯度信息。
58.联邦学习方法针对于样本分布在多个客户端，且无法将样本数据传出本地的机器学习算法，实现中，联邦学习训练可以涉及多个客户端，每个客户端存在其本地样本数据。
59.需要说明的是，客户端的本地样本数据，可以是有标签样本数据，也可以是无标签样本数据。
60.其中，同一对象的样本数据可以存在于多个客户端，进一步地，同一对象存在于不同客户端的样本数据可以是相同的，也可以是不同的。比如，设定对象x可以有静态信息和动态信息两种不同的样本数据，客户端a上可以存在其姓名、年龄等静态信息样本，同时，客户端b上也可以存在其姓名、年龄等静态信息样本，另外，其网购记录、搜索记录等动态信息可以存在于客户端c，同时客户端b上也可以存在其其网购记录、搜索记录等动态信息样本。可以理解为，同一对象的样本数据可以在不同的客户端随机分布。
61.相关技术中，联邦学习训练过程可以通过指定的客户端来计算样本的梯度信息、分类增益等数据。在纵向和/或横向联邦学习训练场景下，多个客户端上存在的同一有标签样本，在训练时仅会保留指定客户端的有标签样本，其他非指定客户端上所存在的同一有标签样本均会被丢弃，不参与训练，样本丢弃率高。同时，无法通过对其他非指定客户端的有标签样本的训练，修正指定客户端有标签样本的模型训练效果，进而导致了模型训练结果的可能存在不准确。
62.本技术实施例中，客户端可以将获取的有标签的样本的梯度信息发送至服务器，服务器可以接收各个客户端发送的有标签样本的梯度信息。其中，梯度信息用于对联邦学习模型进行调整以进行下一次训练。可选地，梯度信息包括计算模型的损失函数时生成的一阶梯度g
i
和二阶梯度h
i
。
63.s102，根据各个客户端发送的梯度信息，获取属于同一有标签样本的目标梯度信息。
64.服务器获取到客户端发送的有标签样本的梯度信息后，基于获取的梯度信息确定同一有标签样本所涉及的客户端，进而确定该同一有标签样本对应的一个或多个梯度信息，其中，梯度信息的数量是由同一有标签样本所涉及的客户端的数量决定，当同一有标签
样本所涉及的客户端数量大于1时，相应的，同一有标签样本对应梯度信息数量大于1；当同一有标签样本所涉及的客户端数量为1时，同一有标签样本对应的梯度信息数量为1。
65.本技术实施例中，服务器获取到同一有标签样本对应的一个或多个梯度信息后，针对获取的多个梯度信息，进行融合计算，进而获取到属于同一有标签样本对应的目标梯度信息。
66.其中，融合计算的方式可以是加和求均值，也可以是加权处理等等。
67.比如，同一有标签样本x，设定当前联邦学习训练所涉及的客户端包括客户端a～n，其中，同一有标签样本x存在于其中的m个客户端上，该m个客户端均将其本地有标签样本x的梯度信息发送至服务器，服务器可以获取到m个客户端发送的同一有标签样本x的多个梯度信息，基于获取到的多个梯度信息进行融合计算，进而获取到同一有标签样本x对应的目标梯度信息。
68.可选地，可以将m个客户端发送的同一有标签样本x的多个梯度信息相加后求均值，或者基于同一有标签样本x的多个梯度信息所涉及的m个客户端的对应的权重值进行加权，进而获取目标梯度信息。
69.s103，确定每个有标签样本所属的客户端。
70.客户端将有标签样本的梯度信息发送服务器，服务器获取到有标签样本的目标梯度信息后，可以通过目标梯度信息发送的来源识别并确定有标签样本的所属客户端。
71.可选地，可以基于客户端的网址识别有标签样本的所属客户端，不同的客户端存在不同的网址。模型训练开始前，客户端可以其网址信息与对应的客户端信息发送至服务器，服务器基于获取到的网址信息与对应的客户端信息构建映射关系。模型训练中，服务器基于有标签样本梯度信息传输所使用的网址，查询映射关系，进而确定每个有标签样本的所属客户端。
72.可选地，模型训练开始前，客户端可以自行设定其标识信息，每个客户端的标识是唯一不重复的。模型训练中，客户端发送有标签样本的梯度信息时，将其设定的标识同时发送至服务器，服务器识别客户端发送的信息中所包含的客户端标识信息，并以获取到的标识查询映射关系，进而确定有标签样本的所属客户端。
73.s104，将有标签样本对应的目标梯度信息，发送有标签样本所属的客户端。
74.本技术实施例中，服务器确定有标签样本的所属客户端后，可以将获取到的有标签样本的目标梯度信息发送至对应的客户端。
75.服务器确定每个有标签样本的所属客户端后，可以将获取到的有标签样本对应的目标梯度信息发送至相应的客户端。
76.本技术提出的联邦学习训练方法，服务器获取客户端发送的有标签样本的梯度信息，获取同一有标签样本对应的目标梯度信息，识别有标签样本对应的客户端后，将对应的目标梯度信息发送至有标签样本所属的客户端。本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。
77.上述实施例中所提出的有标签样本所属客户端的确定，可结合图2进一步地理解，图2为本技术另一实施例的联邦学习训练方法的流程示意图，该方法执行主体为服务器，如
图2所示，该方法包括：
78.s201，针对任一有标签样本，根据任一有标签样本的第一标识信息，查询有标签样本与客户端之间的映射关系，获取与任一有标签样本的第一标识信息匹配的客户端。
79.客户端在发送有标签样本至服务器时，有标签样本可以携带多个标识信息，其中，包括可以标识其对应的有标签样本的唯一且不重复的信息，该信息可以作为第一标识信息。
80.有标签样本的第一标识信息与其所属客户端存在映射关系，在模型训练开始前，可以将该映射关系存储于服务器的设定位置。
81.本技术实施例中，服务器在获取到有标签样本的第一标识信息后，以第一标识信息作为查询条件查询预存于设定位置的映射关系，进而获取到有标签样本的第一标识信息所匹配的客户端。
82.其中，同一有标签样本可以存在于一个或多个客户端上，进而，同一有标签样本的第一标识信息所对应的所属客户端可以是一个，也可以是多个。
83.比如，设定任一有标签样本a的第一标识信息为n，服务器预存的映射关系中，第一标识信息n对应的客户端为m、客户端s以及客户端q。服务器获取到有标签样本a后，识别其携带的第一标识信息n，并将第一标识信息n作为查询条件查询预存与设定位置的映射关系，进而可以确定，有标签样本a所属的客户端为m、客户端s以及客户端q。
84.本技术提出的联邦学习训练方法，限定了有标签样本所属客户端的获取方法，使得服务器可以通过第一标识信息准确获取到有标签样本的所属客户端，保证了后续信息传输的准确性，进而保证了模型训练的准确性。
85.上述实施例提出的第一标识与客户端的映射关系，可结合图3进一步地理解，图3为本技术另一实施例的联邦学习训练方法的流程示意图，该方法执行主体为服务器，如图3所示，该方法包括：
86.s301，接收各个客户端在训练开始之前发送的有标签样本的第一标识信息。
87.模型训练开始前，客户端需要将其本地的有标签样本的第一标识信息发送至服务器。服务器可以接收客户端发送的有标签样本的第一标识信息。第一标识信息可以表征对应的有标签样本。
88.需要说明的是，联邦学习训练所涉及的所有客户端的本地有标签样本的第一标识信息的设定遵循统一的规则。
89.s302，获取属于同一客户端有标签样本的第一标识信息，并建立客户端的第二标识信息与第一标识信息之间的映射关系。
90.本技术实施例中，客户端可以将其属性信息中唯一不重复的信息，作为第二标识信息，第二标识信息可以表征客户端，模型训练开始前，客户端在服务器端自行注册对应的第二标识信息。
91.需要说明的是，联邦学习训练所涉及的所有客户端的第二标识信息的设定遵循统一的规则。
92.服务器获取客户端发送的对应的第一标识信息后，基于第一标识信息与对应的第二标识信息，构建有标签样本第一标识信息与客户端第二标识信息的映射关系。
93.其中，有标签样本的第一标识信息可以仅对应某一个客户端的第二标识信息，也
可以对应多个客户端的第二标识信息。
94.比如，某一有标签样本的第一标识信息为α，在服务器中注册其本地有标签样本的第一标识信息包括α的客户端有β、γ、θ，则可以与第一标识信息α构建映射关系的第二标识信息包括β、γ、θ。
95.再比如，某一有标签样本的第一标识信息为n，在服务器中注册其本地有标签样本的第一标识信息包括n的仅有客户端m，则可以与第一标识信息n构建映射关系的第二标识信息仅有m。
96.基于上述示例，服务器可以构建的映射关系表如表1所示：
97.表1有标签样本的第一标识信息与客户端的第二标识信息映射关系表
98.第一标识信息第二标识信息αβ、γ、θnm
…………
99.本技术提出的联邦学习训练方法，限定了客户端第二标识信息与有标签样本的第一标识信息的映射关系的建立过程，保证了映射关系的准确性，使得后续信息可以正确的进行传输，进而保障了模型训练的准确性。
100.上述实施例提出的目标梯度信息的获取，可结合图4进一步的理解，图4为本技术另一实施例的联邦学习训练方法的流程示意图，该方法的执行主体为服务器，如图4所示，该方法包括：
101.s401，获取同一有标签样本所涉及的客户端的权重。
102.模型训练开始前，服务器可以预先设定联邦学习训练所涉及的客户端的权重，其中，权重值可以基于所属客户端在联邦学习训练中的角色身份、所属客户端的属性、数据预处理异常值出现情况等相关因素进行设定。
103.比如，某个客户端所采集的有标签样本可用性较强，则可以为该客户端设置较高的权重值，使得该客户端本地的有标签样本可以在模型训练中得到充分的利用。
104.再比如，某个客户端是联邦训练学习生成的目标模型的使用方，则可以为该客户端设置较高的权重值，使得最终生成的模型更加适配于该客户端。
105.再比如，可以将联邦学习训练所涉及的客户端设置为相同的权重值，使得所涉及的每个客户端上的有标签样本均可以获得有效利用。
106.本技术实施例中，在模型训练开始前，用户将自行设定的联邦学习训练所涉及的客户端的权重值存储于服务器内。联邦学习训练中，服务器基于获取到的客户端发送的有标签样本的梯度信息，识别同一有标签样本所涉及的客户端，查询预存的权重值设定，进而获取同一有标签样本所涉及的客户端的权重。
107.s402，根据所涉及的客户端的权重和同一有标签样本的出现次数，对同一有标签样本所涉及的客户端发送的梯度信息进行加权求平均，得到目标梯度信息。
108.本技术实施例中，服务器在获取客户端发送的有标签样本后，针对同一有标签样本，统计其出现次数，并基于统计的出现次数与获取到的所涉及的客户端权重，对同一有标签样本的全部梯度信息进行融合计算，进而获取目标梯度信息。其中，融合计算可以是加权求平均值。
109.比如，设定客户端发送至服务器的同一有标签样本的梯度信息为一阶梯度g
i
，统计到的出现次数为n
i
，所涉及的客户端的权重为w
i,j
，则服务器可以根据公式进行运算，获取到对应的目标梯度信息g
i
(j)，公式如下：
[0110][0111]
再比如，设定客户端发送至服务器的同一有标签样本的梯度信息为二阶梯度h
i
，统计到的出现次数为n
i
，所涉及的客户端的权重为w
i,j
，则服务器可以根据公式进行运算，获取到对应的目标梯度信息h
i
(j)，公式如下：
[0112][0113]
本技术提出的联邦学习训练方法，限定了同一有标签样本的目标梯度信息的计算方法，保证了目标梯度信息的准确性，使得每一轮训练中客户端梯度信息可以正确的更新，进而保证了模型训练的准确性。
[0114]
上述实施例中提出的，关于同一有标签样本的出现次数的统计过程，可以结合图5进一步地理解，图5为本技术另一实施例的联邦学习训练方法的流程示意图，该方法的执行主体为服务器，如图5所示，该方法包括：
[0115]
s501，接收各个客户端在训练开始之前发送的有标签样本的第一标识信息之后，统计每个有标签样本的出现次数。
[0116]
本技术实施例中，服务器可以获取客户端发送的有标签样本的第一标识信息，基于获取到的有标签样本的第一标识信息，可以统计每个有标签样本的出现次数，并设定记录格式。服务器根据设定的格式记录，并以表格形式存储。
[0117]
比如，可以设定的有标签样本的出现次数的记录格式为＜id_i,n_i＞，其中，id_i代表某一个有标签样本对应的第一标识信息，n_i代表该有标签样本对应的第一标识信息的出现次数。如图6所示，现有三个客户端，分别为客户端a、客户端b、客户端c，根据三个客户端上存在的有标签样本的情况可知，第一标识信息id1出现的次数为2次，则可以记录为＜id_1,2＞，第一标识信息id2共出现1次，则可以记录为＜id_2,1＞，第一标识信息id3共出现3次，则可以记录为＜id_3,3＞，第一标识信息id4共出现1次，则可以记录为＜id_4,1＞。通过所记录的第一标识信息的出现次数，进而可以确定对应的有标签样本的出现次数。
[0118]
本技术提出的联邦学习训练方法，示出了有标签样本出现次数的统计过程，为后续的目标梯度信息计算提供正确有效的统计次数，进而保证了模型训练的准确性。
[0119]
图7为本技术另一实施例的联邦学习训练方法的流程示意图，该方法执行主体为服务器，如图7所示，该方法包括：
[0120]
s701，与客户端之间的数据传输需要进行加密。
[0121]
为了保证模型训练样本数据的安全性和保密性，服务器与客户端之间的数据传输需要进行加密。
[0122]
可选地，可以使用普通加密方案。模型训练开始前，服务器可以生成包含公钥和私钥的一对秘钥，并将其中的公钥发送至各个客户端，客户端在传送有标签样本的梯度信息
和第一标识信息等相关信息时，先使用公钥进行加密，然后传送至服务器，服务器获取到加密的信息后使用私钥进行解密，然后进行目标梯度信息的计算。
[0123]
该加密方案，可以实现各个客户端之间的数据互相保密。
[0124]
可选地，可以使用同态加密方案。各个客户端在模型训练开始前，确定一对同态加密的公钥和私钥，并将其中的公钥发送至服务器。各个客户端在传送有标签样本的梯度信息和第一标识信息等相关信息时，使用公钥进行加密，服务器获取到加密信息后，利用公钥进行密文计算，进而获取到加密的目标梯度信息，传送至相应的各个客户端。客户端获取到加密的目标梯度信息后，使用私钥进行解密，并基于解密后的目标梯度信息进行其客户端上梯度信息的更新。
[0125]
该加密方案，可以实现客户端与服务器之间的数据保密。
[0126]
本技术提出的联邦学习训练方法，基于模型训练提出了不同的数据加密方法，使得模型训练过程中，提高了数据传输的保密性，保证了数据的安全。
[0127]
为了实现上述实施例提出的联邦学习训练方法，本技术还提出了一种联邦学习训练方法，图8为本技术另一实施例的联邦学习训练方法的流程示意图，该方法执行主体为客户端，如图8所示，该方法包括：
[0128]
s801，每次训练结束后向服务器发送自身的有标签样本的梯度信息。
[0129]
本技术实施例中，在每次训练结束后，客户端需要将其训练时产生的本地有标签样本的梯度信息发送至服务器。
[0130]
进一步地，服务器获取到客户端发送的本地有标签样本对应的梯度信息后，识别同一有标签样本的所属客户端进而确定所涉及的客户端权重、统计同一有标签样本的出现次数，进一步地，结合获取到的客户端发送的有标签样本对应的梯度信息，计算生成同一有标签样本对应的目标梯度信息，返回至客户端。
[0131]
s802，接收服务器发送的属于自身的每个有标签样本的目标梯度信息。
[0132]
本技术实施例中，服务器将有标签样本对应的目标梯度信息发送至客户端，客户端可以接收其本地的有标签样本对应的目标梯度信息，其中，每个有标签样本均存在对应的目标梯度信息。
[0133]
s803，基于目标梯度信息，更新本地学习模型的模型参数，并进行下一次训练直至训练结束，得到目标联邦学习模型。
[0134]
本技术实施例中，客户端可以获取服务器发送的有标签样本对应的目标梯度信息，并根据目标梯度信息，完成本地学习模型的模型参数进行更新。完成本地学习模型的模型参数更新后，继续进行下一次的联邦学习训练，直至满足联邦学习训练的结束条件，停止继续训练，并将当次训练生成的联邦学习模型，作为最终的目标联邦学习模型。
[0135]
可选地，联邦学习训练结束的条件可以是训练次数。模型训练开始前，可以预设联邦学习训练的次数，每次联邦学习训练结束后，识别当次联邦学习训练次数是否达到预设的训练次数，进而判断联邦学习训练是否达到结束条件。
[0136]
可选地，联邦学习训练结束条件可以是联邦学习模型的效果。模型训练开始前，可以设定联邦学习模型所预期达到的效果参数，在每次联邦学习训练结束后，识别当次联邦学习训练输出的联邦学习模型的效果参数是否达到所预设的效果参数，进而判断联邦学习训练是否达到结束条件。
[0137]
本技术提出的联邦学习训练方法，客户端发送有标签样本的梯度信息至服务器，并接收服务器返回的有标签样本对应的目标梯度信息，基于获取到的目标梯度信息完成其本地学习模型的模型参数的更新，并作为下一轮次训练的初始参数，直至训练结束，进而生成目标联邦学习模型。本技术中，客户端发送有标签样本梯度信息至服务器，为模型训练中每次的训练提供了样本数据基础，保证了模型训练有效实现。
[0138]
图9为本技术另一实施例的联邦学习训练方法的流程示意图，该方法执行主体为客户端，如图9所示，该方法包括：
[0139]
s901，训练开始之前向服务器发送自身的有标签样本的第一标识信息。
[0140]
本技术实施例中，为了保证服务器可以正确识别有标签样本对应的所属客户端，在模型训练开始前，客户端需要向服务器发送其本地有标签样本的第一标识信息。使得服务器可以预先构建完成第一标识信息和客户端的第二标识信息的映射关系。
[0141]
本技术提出的联邦学习训练方法，限定了第一标识信息的发送时间，使得第一标识信息与第二标识信息可以在模型训练开始前完成映射关系的构建，进而保证了后续模型训练的顺利进行。
[0142]
作为一种可能的实现方式，客户端与服务器之间的数据传输需要进行加密。
[0143]
为了保证客户端的数据安全，与服务器之间的传输的数据需要进行加密。具体的加密方法可参见上述详细内容，此处不再赘述。
[0144]
本技术提出的联邦学习训练方法，基于模型训练提出了不同的数据加密方法，使得模型训练过程中，提高了数据传输的保密性，保证了数据的安全。
[0145]
为更好的理解上述实施例提出的联邦学习训练方法，如图10所示，图10为本技术另一实施例的联邦学习训练方法的流程示意图，该方法包括：
[0146]
s1001，客户端在模型训练开始前，发送本地的有标签样本的第一标识信息以及客户端的第二标识信息。
[0147]
s1002，服务器根据第一标识信息，统计同一有标签样本的出现次数，并构建第一标识信息与第二标识信息的映射关系。
[0148]
s1003，客户端获取本地的有标签样本的梯度信息。
[0149]
s1004，客户端向服务器发送有标签样本的梯度信息。
[0150]
s1005，服务器获取同一有标签样本所涉及的客户端权重。
[0151]
s1006，服务器基于同一有标签样本的所涉及的客户端权重、出现次数以及客户端发送的其本地的有标签样本的梯度信息，计算获取目标梯度信息。
[0152]
s1007，服务器识别有标签样本的所属客户端。
[0153]
s1008，服务器将目标梯度信息发送至客户端。
[0154]
s1009，客户端基于服务器发送的目标梯度信息更新本地学习模型参数，并将更新后的参数作为下次联邦学习训练的初始参数，继续训练，直至结束，进而生成目标联邦学习模型。
[0155]
本技术实施例中，模型训练开始前，客户端将有标签样本的第一标识信息与客户端的第二标识信息发送至服务器，服务器基于获取到的第一标识信息和第二标识信息构建第一标识信息和第二标识信息的映射关系，同时，基于第一标识信息统计同一有标签样本的出现次数。客户端计算其本地有标签样本的梯度信息，并发送至服务器，服务器基于获取
到的客户端发送的有标签样本的梯度信息，进而获取同一有标签样本所涉及的客户端权重，进一步地，基于获取到的同一有标签样本的梯度信息、所涉及的客户端权重以及对应的有标签样本的出现次数，计算获取到有标签样本对应的目标梯度信息，识别有标签样本对应的所属客户端，将目标梯度信息发送至对应的客户端。客户端基于获取到服务器发送的目标梯度信息，实现对于本地学习模型的参数的更新，并将更新后的模型参数作为下次联邦学习训练的初始参数，继续训练，直至训练结束，进而生成目标联邦学习模型。
[0156]
需要说明的是，服务器与客户端之间的信息传输均是处于加密状态下进行的。
[0157]
本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。进一步地，基于服务器和客户端之间的信息传输过进行加密，实现数据的保密。
[0158]
与上述几种实施例提出的联邦学习训练方法相对应，本技术的一个实施例还提出了一种联邦学习训练装置，由于本技术实施例提出的联邦学习训练装置与上述几种实施例提出的联邦学习训练方法相对应，因此上述联邦学习训练方法的实施方式也适用于本技术实施例提出的联邦学习训练装置，在下述实施例中不再详细描述。
[0159]
为实现上述实施例提出的联邦学习训练方法，本技术提出一种联邦学习训练装置，图11为本技术一实施例的联邦学习训练装置的结构示意图，该装置部署在服务器上，如图11所示，联邦学习训练装置100，包括第一接收模块11、计算模块12、识别模块13、第一发送模块14，其中：
[0160]
第一接收模块11，用于接收各个客户端发送的自身的有标签样本的梯度信息；
[0161]
计算模块12，用于根据各个客户端发送的梯度信息，获取属于同一有标签样本的目标梯度信息；
[0162]
识别模块13，用于确定每个有标签样本所属的客户端；
[0163]
第一发送模块14，用于将有标签样本对应的目标梯度信息，发送有标签样本所属的客户端。
[0164]
本技术提出的联邦学习训练装置，服务器获取客户端发送的有标签样本的梯度信息，根据设定规则进行计算，进而获取到同一有标签样本对应的目标梯度信息，识别确定有标签样本对应的客户端后，将对应的目标梯度信息发送至有标签样本所属的客户端。本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。
[0165]
图12为本技术另一实施例的联邦学习训练装置的结构示意图，该装置部署在服务器上，如图12所示，联邦学习训练装置200，包括第一接收模块21、计算模块22、识别模块23、第一发送模块24、统计模块25、第一加密模块26，其中：
[0166]
需要特别说明的是，第一接收模块11、计算模块12、识别模块13、第一发送模块14与第一接收模块21、计算模块22、识别模块23、第一发送模块24，具有相同的结构和功能。
[0167]
本技术实施例中，识别模块23，包括：
[0168]
映射单元231，用于针对任一有标签样本，根据任一有标签样本的第一标识信息，查询有标签样本与客户端之间的映射关系，获取与任一有标签样本的第一标识信息匹配的客户端。
[0169]
本技术实施例中，第一接收模块21，还用于：
[0170]
接收各个客户端在训练开始之前发送的有标签样本的第一标识信息；
[0171]
获取属于同一客户端有标签样本的第一标识信息，并建立客户端的第二标识信息与第一标识信息之间的映射关系。
[0172]
本技术实施例中，计算模块22，包括：
[0173]
权重获取单元221，用于获取同一有标签样本所涉及的客户端的权重；
[0174]
计算单元222，用于根据所涉及的客户端的权重和同一有标签样本的出现次数，对同一有标签样本所涉及的客户端发送的梯度信息进行加权求平均，得到目标梯度信息。
[0175]
本技术实施例中，联邦学习训练装置200，还包括统计模块25，其中：
[0176]
统计模块25，用于接收各个客户端在训练开始之前发送的有标签样本的第一标识信息之后，统计每个有标签样本的出现次数。
[0177]
本技术实施例中，联邦学习训练装置200，还包括第一加密模块26，其中：
[0178]
第一加密模块26，用于与客户端之间的数据传输需要进行加密。
[0179]
本技术提出的联邦学习训练装置，服务器基于客户端发送的第一标识信息以及客户端的第二标识信息，构建二者的映射关系，统计对应的有标签样本的出现次数。基于客户端发送的本地的有标签样本的梯度信息，获取有标签样本所涉及的客户端权重，进一步地，服务器基于有标签样本的梯度信息、出现次数以及客户端权重，计算获取到对应的目标梯度信息，并发送至所识别的有标签样本对应的所属客户端。本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。进一步地，基于服务器和客户端之间加密的信息传输，实现数据的保密。
[0180]
为实现上述实施例提出的联邦学习训练方法，本技术还提出了一种联邦学习训练装置，图13为本技术另一实施例的联邦学习训练装置的结构示意图，该装置部署在客户端上，如图13所示，联邦学习训练装置300，包括第二发送模块31、第二接收模块32、更新模块33，其中：
[0181]
第二发送模块31，用于每次训练结束后向服务器发送自身的有标签样本的梯度信息；
[0182]
第二接收模块32，用于接收服务器发送的属于自身的每个有标签样本的目标梯度信息；
[0183]
更新模块33，用于基于目标梯度信息，更新本地学习模型的模型参数，并进行下一次训练直至训练结束，得到目标联邦学习模型。
[0184]
本技术提出的联邦学习训练装置，客户端发送有标签样本的梯度信息至服务器，并接收服务器返回的目标梯度信息，基于获取到的目标梯度信息完成其本地学习模型的模型参数的更新，并作为下次训练的初始参数，直至训练结束，生成目标联邦学习模型。本技术中，客户端发送有标签样本梯度信息至服务器，为模型训练中每次的训练提供了样本数
据基础，保证了模型训练有效实现。
[0185]
图14为本技术另一实施例的联邦学习训练装置的结构示意图，该装置部署在客户端上，如图14所示，联邦学习训练装置400，包括第二发送模块41、第二接收模块42、更新模块43、第二加密模块44，其中：
[0186]
需要特别说明的是，第二发送模块31、第二接收模块32、更新模块33与第二发送模块41、第二接收模块42、更新模块43，具有相同的结构和功能。
[0187]
本技术实施例中，第二发送模块41，还用于：训练开始之前向服务器发送自身的有标签样本的第一标识信息。
[0188]
本技术实施例中，联邦学习训练装置400，还包括第二加密模块44，其中：
[0189]
第二加密模块44，用于与服务器之间的数据传输需要进行加密。
[0190]
本技术提出的联邦学习训练装置，模型训练开始前，客户端将有标签样本的第一标识信息与客户端的第二标识信息发送至服务器，模型训练开始后，客户端计算其本地的有标签样本的梯度信息，并发送至服务器。进一步地，基于获取到的服务器计算后返回的有标签样本对应的目标梯度信息，完成本地学习模型参数的更新，并将更新后的参数作为下一轮次训练的初始参数，继续训练，直至结束，进而生成目标联邦学习模型。本技术中，本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。进一步地，基于服务器和客户端之间加密的信息传输，实现数据的保密。
[0191]
为达到上述实施例，本技术还提出了一种电子设备、一种计算机可读存储介质和一种计算机程序产品。
[0192]
图15示出了可以用来实施本技术的实施例的示例电子设备1500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本技术的实现。
[0193]
如图15所示，设备1500包括存储器151、处理器152及存储在存储151上并可在处理器152上运行的计算机程序，处理器152执行程序指令时，实现上述实施例提出的联邦学习训练方法。
[0194]
本技术实施例提出的电子设备，通过处理器152执行存储在存储器151上的计算机程序，模型训练开始前，客户端将有标签样本的第一标识信息与客户端的第二标识信息发送至服务器。服务器基于客户端发送的第一标识信息以及客户端的第二标识信息，构建二者的映射关系，统计对应的有标签样本的出现次数。客户端计算其本地的有标签样本的梯度信息，发送至服务器。服务器基于客户端发送的本地的有标签样本的梯度信息，获取有标签样本所涉及的客户端权重，进一步地，服务器基于有标签样本的梯度信息、出现次数以及客户端权重，计算获取到对应的目标梯度信息，并发送至所识别的有标签样本对应的所属客户端，客户端基于获取到的目标梯度信息完成本地学习模型参数的更新，并继续训练，直
至结束，进而生成目标联邦学习模型。本技术中，本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。进一步地，基于服务器和客户端之间加密的信息传输，实现数据的保密。
[0195]
本技术实施例提出的一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器152执行时，实现上述实施例提出的联邦学习训练方法。
[0196]
本技术实施例的计算机可读存储介质，通过存储计算机程序并被处理器执行，通过处理器152执行存储在存储器151上的计算机程序，模型训练开始前，客户端将有标签样本的第一标识信息与客户端的第二标识信息发送至服务器。服务器基于客户端发送的第一标识信息以及客户端的第二标识信息，构建二者的映射关系，统计对应的有标签样本的出现次数。客户端计算其本地的有标签样本的梯度信息，发送至服务器。服务器基于客户端发送的本地的有标签样本的梯度信息，获取有标签样本所涉及的客户端权重，进一步地，服务器基于有标签样本的梯度信息、出现次数以及客户端权重，计算获取到对应的目标梯度信息，并发送至所识别的有标签样本对应的所属客户端，客户端基于获取到的目标梯度信息完成本地学习模型参数的更新，并继续训练，直至结束，进而生成目标联邦学习模型。本技术中，本技术中，所涉及的多个客户端的有标签样本的梯度信息均作为联邦学习训练的样本基础数据，针对多个客户端存在的同一有标签样本无丢弃，进一步地，通过多个客户端的同一有标签样本的梯度信息的融合计算以及更新，实现了对于模型训练偏差的有效修正，进而提高了模型训练的准确性。进一步地，基于服务器和客户端之间加密的信息传输，实现数据的保密。
[0197]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0198]
用于实施本身的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0199]
在本技术的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计
算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd
‑
rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0200]
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0201]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)、互联网和区块链网络。
[0202]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端服务器关系的计算机程序来产生客户端和服务器的关系。服务端可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务(“virtual private server”，或简称“vps”)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合区块链的服务器。
[0203]
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
[0204]
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本技术的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
[0205]
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本技术的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本技术的实施例所属技术领域的技术人员所理解。
[0206]
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用
于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(ram)，只读存储器(rom)，可擦除可编辑只读存储器(eprom或闪速存储器)，光纤装置，以及便携式光盘只读存储器(cdrom)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
[0207]
应当理解，本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
[0208]
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
[0209]
此外，在本技术各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
[0210]
上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本技术的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本技术的限制，本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。
[0211]
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本技术中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本技术公开的技术方案所期望的结果，本文在此不进行限制。
[0212]
上述具体实施方式，并不构成对本技术保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本技术的精神和原则之内所作的修改、等同替换和改进等，均应包含在本技术保护范围之内。