一种基于DANN-OS-ELM的电子鼻域适应迁移学习方法

本发明属于传感器，一种基于dann-os-elm的电子鼻域适应迁移学习方法。

背景技术：

1、电子鼻是一种由硬件与软件相结合构成的人工嗅觉系统，其中包括传感器阵列、信号处理模块以及模式识别算法。电子鼻的气体识别过程依赖于软件与硬件的共同作用，但传感器的使用寿命有限，长时间的使用或使用不当都会造成传感器的钝化，从而导致电子鼻的识别精度下降甚至无法正常使用。

2、电子鼻新设备与原设备的输入信号存在差异，因此更换设备后，气体识别模型也需要重新训练以保证新设备的识别效果。而电子鼻的识别模型训练需要在标准环境对气体进行采集和标定，而这个过程需要大量的时间和成本，在实验条件受限的情况下，很难采集到充足的样本并且由于输入信号的差异无法使用原设备的训练样本。样本的数量和质量直接影响了模型的训练效果，如果模型的识别效果不佳，那么难以在实际场景中进行应用。

3、因此，电子鼻的新设备气体识别模型主要存在两个问题：采集训练样本成本高和样本不充足的情况下精度难以保证。实际应用中，每个新设备如果都需要重新训练气体识别模型会大大提高生产成本。此外，采集样本的过程条件严格，很难采集到充足的有效样本，从而导致训练的模型精度不高。

4、针对跨域学习和小样本场景，一般采用迁移学习的方法去进行解决，而传统迁移学习过程较为复杂且精度不高，实现较为困难。本专利所公开的一种基于dann-os-elm的混合模型，能够实现电子鼻的原设备到新设备的领域适配，从而实现迁移学习，并且利用os-elm算法的在线增量学习机制提高分类效果、减少训练时间。

技术实现思路

1、有鉴于此，本发明的目的在于提供一种基于dann-os-elm的电子鼻域适应迁移学习方法。利用原设备的训练样本和新设备的少量样本进行域对抗训练，以实现跨域适配、特征对齐的目的。再通过os-elm模型将训练样本分类多个批次进行训练，减少训练时间并保证分类精度。

2、为达到上述目的，本发明提供如下技术方案：

3、一种基于dann-os-elm的电子鼻的域适应迁移学习方法，该方法包括以下步骤：

4、步骤1)对电子鼻原设备样本和新设备样本进行预处理；

5、步骤2)从电子鼻原设备和新设备中提取样本进行域对抗训练；

6、步骤3)使用os-elm代替dann网络的分类输出层作为分类模型对气体进行识别；

7、进一步，步骤1)包括以下几个步骤：

8、步骤11)输入源域样本数据a；

9、步骤12)为方便运算，对样本数据进行统一标准化处理将样本数据值控制在[-1,1]的范围内；

10、步骤13)将样本集a划分为atrain＝{x,y}的形式，x保存样本的特征信息，y保存样本的标签信息；

11、步骤14)利用t-sne方法将样本特征信息降维成2维数据进行展示；

12、步骤15)输入目标域样本数据b；

13、步骤16)将目标域分为有标签样本和无标签样本，有标签样本划分成btrain＝{x,y}的格式，分别保存样本的特征信息和标签信息。无标签样本btest作为测试集，测试分类模型精度；

14、步骤17)对btrain样本集进行t-sne方法进行降维，将源域样本集和目标域样本投映到二维空间中观察数据分布情况；

15、进一步，步骤2)包括以下几个步骤：

16、步骤21)设置dann网络的模型参数，将训练分为三个阶段，前两个阶段为模型预训练，以提高模型特征提取效果，最后阶段为对抗训练。采用adam进行优化，设置学习率为0.005，采用交叉熵衡量模型损失。第一阶段更新特征提取器和分类器的网络权重；第二阶段更新特征提取器和域判决器网络权重；最后阶段更新整个网络的权重；

17、步骤22)输入源域的有标签样本atrain，将训练的batch设置为ns，迭代次数为300次。设置特征提取器有两层cnn层,采用relu为激活函数，两层batch normalization规范化层，一层池化层。第一层cnn层设置节点数为c1，第二层cnn层节点数为c2(c2>c1)。标签分类器有三层全连接层，最后一层分类输出层采用logsoftmax函数进行分类。每一轮训练记录模型的损失函数，通过反向传播优化模型参数，使损失函数逐渐降低，损失函数设置为:

18、loss1＝lc(xs)

19、步骤23)将源域样本atrain打上域标签0,目标域样本btrain打上域标签1。输入到dann网络当中。经特征提取层传入域判决器，域判决器有两层全连接层，最后一层分类输出层采用logsoftmax函数。在特征提取层和域判决器之间设置grl梯度反转层，将判决器的损失进行反转，以实现损失最大化，源域的域损失为ld(xs)，目标域损失为ld(xt)，损失的定义：

20、loss2＝ld(xs)+ld(xt)

21、步骤24)将源域样本atrain打上域标签0,目标域样本btrain打上域标签1。输入到dann网络当中。经特征提取层分别传入标签分类器和域判决器，通过标签分类器的输出结果和实际标签值计算分类损失；通过域判决器计算源域和目标域的域判决损失，将域损失的权重系数设置为λ，总损失设置为：

22、loss3＝lc(xs)+λ(ld(xs)+ld(xt))

23、步骤25)记录损失变化曲线，保存好训练的dann网络模型；

24、步骤26)将源域样本和目标域样本经dann网络提取特征，将提取后的信息用t-sne的方法进行降维并映射至二维空间可中进行可视化展示，可观察到源域和目标域的特征间距减小，重合区域增多；

25、进一步，步骤3)包括以下几个步骤：

26、步骤31)将dann网络的分类输出层logsoftmax函数，替换成os-elm模型；

27、步骤32)设置os-elm模型的参数，将模型的隐含层节点数设置为nc。设置输入权重为w，隐含层偏置b，激活函数选择sigmoid；其中隐含层输出可表示为：

28、h(x)＝g(wx+b)

29、根据输出的表示形成隐含层输出矩阵h；

30、步骤33)将电子鼻原设备样本作为初始训练样本，经dann网络提取特征后，传入os-elm进行初始训练，隐含层输出矩阵可表示为h0,输出矩阵表示为t0，此外因此可得到os-elm的初始输出权重：

31、

32、步骤34)将电子鼻新设备的有标签样本作为在线训练样本，经dann网络提取特征，输入os-elm进行在线训练，其中，在线训练的输出权重可表示为：

33、

34、步骤35)将电子鼻的新设备测试集经dann网络提取特征后，通过os-elm进行气体分类。记录模型的预测结果；

技术特征：

1.一种基于dann-0s-elm的电子鼻系统的域适应迁移学习方法，其特征在于包括以下步骤：

技术总结
本发明提供一种基于DANN‑OS‑ELM的电子鼻域适应迁移学习方法，属于传感器技术领域。本方法针对电子鼻新设备带标签的数据样本少和采集数据样本困难的问题提出一种解决方法。利用DANN网络进行对抗迁移学习，将旧设备采集的数据集作为源域数据，新设备采集的少量样本作为目标域数据进行对抗训练。训练过程主要分为三个阶段对网络进行优化。最后，使用OS‑ELM代替分类输出层对气体成分进行识别。本发明解决了电子鼻设备间输入信号差异导致模型无法通用的问题，并且降低了电子鼻新设备训练气体识别模型的所需成本，在电子鼻系统中有着较大的现实意义。

技术研发人员：陶洋,朱梓涵,杜黎明,谭锐,申婷婷
受保护的技术使用者：重庆邮电大学
技术研发日：
技术公布日：2024/1/11