技术特征：
1.一种基于双判别器加权混合生成对抗网络的手写数字生成方法，其特征在于，该方法包括以下步骤：步骤一、获取目标用户的真实手写数字图像；步骤二、将目标用户的真实手写数字图像输入预先训练好的双判别器加权混合生成对抗网络中；其中，所述双判别器加权混合生成对抗网络的训练过程为：步骤201、采用mnist数据集作为训练样本；步骤202、搭建双判别器加权混合生成对抗网络模型；所述双判别器加权混合生成对抗网络模型包括并列设置的生成器g1～g
10
，以及并列连接在生成器g1～g
10
输出端的判别器d1、判别器d2和分类器c；步骤203、建立生成器、判别器和分类器的损失函数；步骤204、采用训练样本和损失函数，并通过反向传播对双判别器加权混合生成对抗网络模型进行训练，得到训练好的双判别器加权混合生成对抗网络；步骤三、所述双判别器加权混合生成对抗网络对目标用户的真实手写数字图像进行处理，得到手写数字数据。2.按照权利要求1所述的基于双判别器加权混合生成对抗网络的手写数字生成方法，其特征在于：步骤二中所述双判别器加权混合生成对抗网络的训练过程还包括步骤205、对训练好的双判别器加权混合生成对抗网络进行理论分析验证，验证在最优判别器下，通过最小化生成数据与真实数据之间的kl散度和反向kl散度，生成器生成真实的手写数字数据。3.按照权利要求1或2所述的基于双判别器加权混合生成对抗网络的手写数字生成方法，其特征在于：步骤202中所述搭建双判别器加权混合生成对抗网络模型时，所述生成器的目标函数为：其中，t(g
k
)为生成器g
k
的目标函数，k的取值为1～10的自然数，x'
(i)
为从当前生成器形成的分布中采样得到的第i个生成样本，i的取值为1～m的自然数，m为当前生成器形成的分布中生成样本的总数量，d1(x'
(i)
)为当输入为x'
(i)
时判别器d1的输出，d2(x'
(i)
)为当输入为x'
(i)
时判别器d2的输出，ρ为d1(x'
(i)
)的权值参数且ρ的取值范围为0≤ρ≤1，ω为logd2(x'
(i)
)的权值参数且ω的取值范围为0≤ω≤1，ρ+ω＝1，β为多样性超参数，为x'
(i)
由第u
i
个生成器生成的概率，u
i
为生成器的编号；所述判别器d1的目标函数为：其中，t(d1)为判别器d1的目标函数，x
(i)
为从真实数据分布p
data
中采样出的第i个样本，i的取值为1～m的自然数；d1(x
(i)
)为当输入为x
(i)
时判别器d1的输出；所述判别器d2的输入输出表达关系式为：
其中，t(d2)为判别器d2的目标函数，d2(x
(i)
)为当输入为x
(i)
时判别器d2的输出；所述分类器c的目标函数为：其中，t(c)为分类器c的目标函数。4.按照权利要求1或2所述的基于双判别器加权混合生成对抗网络的手写数字生成方法，其特征在于：步骤203中建立的所述生成器的损失函数为：其中，为当x服从多生成器形成的分布p
model
时[*]的数学期望，x为服从多生成器形成的分布p
model
的样本，d1(x)为当输入为x时判别器d1的输出，d2(x)为当输入为x时判别器d2的输出，π
k
为混合概率系数，为当x服从生成器g
k
分布时[*]的数学期望，c
k
(x)为x由生成器g
k
生成的概率；步骤203中建立的所述判别器的损失函数为：loss_d＝loss_d1+loss_d2ꢀꢀꢀꢀꢀꢀꢀ
(f6)其中，loss_d1为判别器d1的损失函数且为：其中，loss_d2为判别器d2的损失函数且为：的损失函数且为：为当x服从真实数据分布p
data
时[*]的数学期望；步骤203中建立的所述分类器的损失函数为：5.按照权利要求1或2所述的基于双判别器加权混合生成对抗网络的手写数字生成方法，其特征在于：步骤204中所述采用训练样本和损失函数，并通过反向传播对双判别器加权混合生成对抗网络模型进行训练，得到训练好的双判别器加权混合生成对抗网络的具体过程为：步骤2041、对生成器g1～g
k
、判别器d1、判别器d2和分类器c进行初始化；步骤2042、训练分类器c、判别器d1和判别器d2，具体过程为：步骤20421、从mnist数据集中采样得到m个样本，表示为{x
(1)
、x
(2)
、...、x
(m)
}；步骤20422、从当前生成器g1～g
k
形成的分布中采样得到m个样本，表示为{x
′
(1)
、x
′
(2)
、...、x
′
(m)
}，并记录其来自的生成器的编号{u1，u2，...，u
m
}；步骤20423、计算分类器c的损失函数；步骤20424、计算判别器d1的损失函数；步骤20425、计算判别器d2的损失函数；
步骤20426、通过adam优化器反向传播更新判别器d1的参数来最大化判别器d1的损失函数，使判别器d1最优；步骤20427、通过adam优化器反向传播更新判别器d2的参数来最大化判别器d2的损失函数，使判别器d2最优；步骤20428、通过adam优化器反向传播更新判别器c的参数来最小化分类器c的损失函数，使分类器c最优；步骤2043、训练生成器g1～g
k
，具体过程为：步骤20431、从当前生成器g1～g
k
形成的分布中采样得到m个样本，表示为{x
′
(1)
、x
′
(2)
、...、x
′
(m)
}，并记录其来自的生成器的编号{u1，u2，...，u
m
}；步骤20432、计算生成器的损失函数；步骤20433、通过adam优化器反向传播更新生成器的参数来最小化生成器g1～g
k
的损失函数，使生成器g1～g
k
最优。6.按照权利要求2所述的基于双判别器加权混合生成对抗网络的手写数字生成方法，其特征在于：步骤205中所述对训练好的双判别器加权混合生成对抗网络进行理论分析验证，验证在最优判别器下，通过最小化生成数据与真实数据之间的kl散度和反向kl散度，生成器生成真实的手写数字数据的具体过程为：步骤2051、双判别器加权混合生成对抗网络的目标函数分析：双判别器加权混合生成对抗网络的目标函数为：其中，为正向目标函数，为反向目标函数，为分类损失；ρ
′
超参数为正向目标函数的权重且ρ
′
的取值范围为0≤ρ
′
≤1，，ω
′
超参数为反向目标函数的权重且ω
′
的取值范围为0≤ω
′
≤1，ρ
′
+ω
′
＝1；β为多样性超参数且β＞0，k为生成器个数；π
k
为混合概率系数，为当x服从真实数据分布p
data
时[*]的数学期望,d1(x)为当输入为x时判别器d1的输出，为当x服从多生成器形成的分布p
mode
时[*]的数学期望，d2(x)为当输入为x时判别器d2的输出，为当x服从生成器g
k
分布时[*]的数学期望，c
k
(x)为x由生成器g
k
生成的概率；步骤2052、超参数的意义分析：步骤20521、通过调节ρ
′
、ω
′
能够控制kl散度和反向kl散度的加权和，能够更好地利用kl散度和反向kl散度的互补特性学习真实数据分布；当ρ
′
＝1且ω
′
＝0时，只考虑双判别器加权混合生成对抗网络的生成器和判别器，其目标函数变为正向目标函数，即
最优判别器为p
data
(x)为真实数据分布p
data
的概率密度函数,p
model
(x)为多生成器形成的分布p
model
的概率密度函数；基于最优判别器，最优生成器目标函数为kl(p
data
||p
model
)为真实数据分布p
data
和多生成器形成的分布p
model
间的kl散度；在这种情况下，网络的优化等价于kl散度的优化，有利于产生多模式分布，但可能会产生潜在的不良样本；当ρ
′
＝1且ω
′
＝1时，只考虑双判别器加权混合生成对抗网络的生成器和判别器，其目标函数变为反向目标函数，即最优判别器为基于最优判别器，最优生成器目标函数为kl(p
model
||p
data
)为真实数据分布p
data
和多生成器形成的分布p
model
间的反向kl散度；在这种情况下，网络的优化等价于反向kl散度的优化，有利于更好地捕获单个模式，但某些模式可能会丢失，出现模式崩溃现象；当双判别器加权混合生成对抗网络同时具有正向目标函数和反向目标函数时，即ρ
′
+ω
′
＝1且0＜ρ
′
，ω
′
＜1，网络的优化相当于优化kl散度和反向kl散度的加权和，利用kl散度和反向kl散度的互补特性能够更好地学习真实数据分布；步骤20522、通过设置β值的大小来控制分类损失对生成器训练的影响，当β较大时，分类损失对生成器的影响较大，生成器学到的分布模式较多，但可能会出现一些类似过拟合的情况；当β较小时，分类损失对生成器的影响较小，生成器学到的分布模式较少，但可能会出现一些类似欠拟合的情况；步骤2053、对双判别器加权混合生成对抗网络进行理论分析，证明存在最优判别器和分类器，且在最优判别器和分类器下，生成器可以通过最小化多生成器形成的分布p
model
与真实数据分布p
data
间的kl散度和反向kl散度来学习到真实数据分布；理论1：固定生成器g1、g2……
g
k
和它们的混合概率系数π1、π2……
π
k
，分别通过最大化和最小化目标函数j(g
1：k
，c，d1，d2)得到最优判别器和最优分类器c
*
：：：
证明：双判别器加权混合生成对抗网络目标函数可以变为：给定x，求得最优判别器和使得j(g
1：k
，c，d1，d2)最大，即即分别对j(c
1：k
，d1，d2)的积分内函数求d1，d2的偏导，并使它们等于0可得：并使它们等于0可得：对于变量d1和d2，二阶导数和是非正的，因此可以得到最优解，即最优判别器给定x，求最优分类器c
*
的过程就是使分类损失最小的过程，当分类器c为最佳时，分类器能够很好地进行分类，此时分类损失为0；理论2：给定最佳判别器和最优分类器c
*
，在纳什平衡下，当且仅当p
model
＝p
data
时，达到最小值。达到最小值。证明：将最优判别器和最佳分类器c
*
代入目标函数j(c
1：k
，c，d1，d2)中，可得：
因ρ
′
+ω
′
＝1，所以由于p
data
和p
model
间的kl散度kl(p
data
||p
model
)，以及p
data
和p
model
间的反向kl散度kl(p
model
||p
data
)总是非负的，当且仅当p
model
＝p
data
时，它们的值为0，此时达到最小值，即生成器达到最优，生成器能够学习到真实数据的全部分布，生成器能够生成真实的手写数字数据。
技术总结
本发明公开了一种基于双判别器加权混合生成对抗网络的手写数字生成方法，包括步骤：一、获取目标用户的真实手写数字图像；二、将目标用户的真实手写数字图像输入预先训练好的双判别器加权混合生成对抗网络中；步骤三、所述双判别器加权混合生成对抗网络对目标用户的真实手写数字图像进行处理，得到手写数字数据。本发明结合了多生成器和双鉴别器的优点，重建目标函数，设计模型结构，从网络模型结构和损失函数角度避免梯度消失的现象出现；结合正向KL散度和反向KL散度的优势，使生成的模式多样化，改善了GAN所出现的模式崩溃问题。改善了GAN所出现的模式崩溃问题。改善了GAN所出现的模式崩溃问题。
技术研发人员：刘宝 王良 宋美玉 翟晓航 张金玉
受保护的技术使用者：陕西中一时代科技有限公司
技术研发日：2021.12.23
技术公布日：2022/7/14