移动边缘环境中面向联邦学习的分层节点选择方法

本发明涉及移动边缘计算，具体涉及一种移动边缘环境中面向联邦学习的分层节点选择方法。

背景技术：

1、云计算、雾计算、边缘计算是三个不同的计算层次。云计算侧重于集中式大数据处理，物理位置上更靠近数据中心。边缘计算侧重于分布式大数据处理，物理位置上靠近终端用户和设备，雾计算介于两者之间。移动边缘计算是云计算的延伸。移动边缘计算通过在网络边缘侧设立边缘服务器，为应用提供了计算、存储和传输等服务的新型平台，满足了用户在低时延、高带宽、个性化、高安全性、高隐私性等的要求下的应用场景。移动边缘计算在现场级、实时级、短周期级的数据分析上有不可比拟的优点。同时，移动边缘计算的发展也离不开云计算。来自用户终端的信息需要在云平台上进行汇总和分析，从而为边缘服务提供更好的分析样板。这种组合可以在低延时、高稳定的网络连接中更好地为用户提供服务。

2、当前已有与移动边缘计算环境中面向联邦学习的分层节点选择相关工作更多地关注于利用无人机作为聚合节点，与用户终端形成联邦学习架构。同时，也考虑到参与联邦学习的用户终端选择问题和参与水平选择问题，有部分相关工作设计了激励机制促使用户终端参与到联邦学习过程中。然而，由于无人机覆盖范围较小，无人机作为聚合节点获得的联邦学习模型具有局限性，难以适应大范围内的任务处理需求。同时，在大多数相关工作中联邦学习全局单次迭代的时延由联邦学习任务发起者指定，使其训练过程难以适应动态变化的拓扑网络环境，从而使得联邦学习在临时资源提供的应用中训练精度较差。针对联邦学习模型训练过程中参与本地模型训练的节点数量过多导致网络拥塞、训练延迟增加以及终端低质量数据降低模型训练精度等问题。本专利提出移动边缘计算环境中面向联邦学习的分层节点选择策略，解决联邦学习模型训练过程中参与本地模型训练的节点数量过多导致网络拥塞、训练延迟增加以及终端低质量数据降低模型训练精度等问题

技术实现思路

1、本发明提出了一种移动边缘环境中面向联邦学习的分层节点选择方法，以解决联邦学习模型训练过程中参与本地模型训练的节点数量过多导致网络拥塞、训练延迟增加以及终端低质量数据降低模型训练精度的技术问题。

2、为解决上述技术问题，本发明提供了一种移动边缘环境中面向联邦学习的分层节点选择方法，其特殊之处在于，包括以下步骤：

3、步骤s1：构建移动边缘网络，所述移动边缘网络包括用户终端、无人机和基站；

4、所述用户终端用于本地数据训练；

5、所述无人机用于局部聚合用户终端上传的训练参数；

6、所述基站用于全局参数聚合；

7、所述基站和无人机统称为边缘节点；

8、步骤s2：设定最小化损失函数，通过所述用户终端的本地数据进行预训练；

9、步骤s3：通过所述无人机进行局部参数聚合，并通过所述基站进行全局参数聚合；

10、步骤s4：通过聚合的参数，并基于用户终端和无人机的选择、参与模型训练的数据集选择和单次训练迭代时延设定优化函数，所述优化函数的表达式为：

11、

12、

13、式中，τ表示边缘节点对终端的选择变量集合，n表示参与模型训练的数据集选择变量集合，π表示基站对无人机的选择变量集合，t表示单次训练迭代的等待时延，a表示无人机的数量，a+1表示一个基站和a个无人机，um表示用户终端的数量，表示边缘节点m从终端um的数据集中选择样本的数量，h表示损失函数，表示数据集中第个样本的输入数据，表示数据集中第个样本的输出数据，w表示权重向量，ι表示损失函数的权重因子，tall表示训练中一次全局迭代的时延；

14、步骤s5：对所述优化函数进行求解，并通过全局迭代，得到用户终端和无人机的选择、参与模型训练的数据集选择和单次训练迭代时延的最优解。

15、优选地，步骤s2中所述最小化损失函数的表达式为：

16、

17、式中，表示终端um训练样本的权重向量，表示用户终端um训练后全权重，表示为终端um第个样本的损失函数。

18、优选地，步骤s3中所述局部参数聚合的表达式为：

19、

20、式中，wm表示边缘节点m对用于终端上传参数进行聚合所得到的权重向量，表示边缘节点m对终端um的选择变量集合。

21、优选地，步骤s3中所述全局参数聚合的表达式为：

22、

23、式中，πa∈{0,1}表示基站是否选择无人机a参与联邦学习训练的决策变量，当无人机a参与联邦学习训练时πa＝1，否则πa＝0。

24、优选地，步骤s4中对所述优化函数设定约束条件，所述约束条件包括：

25、

26、

27、0≤δ≤ε≤t0

28、

29、

30、

31、

32、tall≤t0

33、式中表示用户终端本地训练的最大迭代次数，表示用户终端um单次训练的能耗，表示用户终端um上传参数的能耗，表示用户终端um的可用能耗，m表示边缘节点的数量，表示无人机a聚合参数的能耗，表示无人机a上传参数到基站b的能耗，表示无人机a对用户终端um的选择变量集合，表示无人机a回传参数给用户终端um的能耗，t＝{δ，ε}表示单次训练的等待时延，t0表示单次训练的时间限制。

34、优选地，步骤s5中对所述优化函数进行求解的方法包括以下步骤：

35、步骤s51：通过对联邦学习收敛速度进行分析，并设定松弛变量进行优化，将所述优化函数转化为总目标优化函数；

36、步骤s52：利用块坐标下降法将所述总目标优化函数分解成关于用户终端和单次训练迭代时延、无人机的选择和参与模型训练的数据集选择的目标优化函数；

37、步骤s53：通过内点法对所述目标优化函数进行求解；

38、步骤s54：采用随机取整方法对求解结果进行还原，得到优化方案。

39、优选地，所述总目标优化函数z的表达式为：

40、

41、

42、式中，表示松弛变量，表示无人机a传输参数给基站的数据包误差率，表示用户终端um传输参数给边缘节点的数据包误差率。

43、优选地，所述用户终端和单次训练迭代时延的目标优化函数的表达式为：

44、

45、优选地，所述无人机的选择的目标优化函数的表达式为：

46、

47、优选地，所述参与模型训练的数据集选择的目标优化函数c1的表达式为：

48、

49、

50、本发明的有益效果至少包括：通过基于用户终端和无人机的选择、参与模型训练的数据集选择和单次训练迭代时延针对性地设定优化函数，有效降低了由于本地模型训练的用户终端过多导致网络拥塞的可能，同时训练延迟降低，降低用户终端低质量数据的选取，提升模型训练的精度。

技术特征：

1.一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：包括以下步骤：

2.根据权利要求1所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：步骤s2中所述最小化损失函数的表达式为：

3.根据权利要求2所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：步骤s3中所述局部参数聚合的表达式为：

4.根据权利要求3所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：步骤s3中所述全局参数聚合的表达式为：

5.根据权利要求1所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：步骤s4中对所述优化函数设定约束条件，所述约束条件包括：

6.根据权利要求1所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：步骤s5中对所述优化函数进行求解的方法包括以下步骤：

7.根据权利要求6所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：所述总目标优化函数z的表达式为：

8.根据权利要求7所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：所述用户终端和单次训练迭代时延的目标优化函数的表达式为：

9.根据权利要求1所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：所述无人机的选择的目标优化函数的表达式为：

10.根据权利要求1所述的一种移动边缘环境中面向联邦学习的分层节点选择方法，其特征在于：所述参与模型训练的数据集选择的目标优化函数c1的表达式为：

技术总结
本发明提供了一种移动边缘环境中面向联邦学习的分层节点选择方法构建移动边缘网络；设定最小化损失函数，通过用户终端的本地数据进行预训练；通过无人机进行局部参数聚合，并通过基站进行全局参数聚合；通过聚合的参数，并基于用户终端和无人机的选择、参与模型训练的数据集选择和单次训练迭代时延设定优化函数，对优化函数进行求解，并通过全局迭代，得到用户终端和无人机的选择、参与模型训练的数据集选择和单次训练迭代时延的最优解。有效降低了由于本地模型训练的用户终端过多导致网络拥塞的可能，同时训练延迟降低，降低用户终端低质量数据的选取，提升模型训练的精度。

技术研发人员：李春林,常帅,马千军,刘雨舟
受保护的技术使用者：武汉理工大学重庆研究院
技术研发日：
技术公布日：2024/1/5