技术总结
本发明公开了一种基于多重预训练的深层神经网络训练方法，在所述方法中，深层神经网络的预训练过程是通过依次用受限玻尔兹曼机和去噪自编码器为模型进行预训练来完成的。通过这种方式，使得预训练的结果，即深层神经网络参数的初始值具有不同模型的特点，从而为之后的训练提供一个更好的初始模型。由于方法只对不同预训练阶段开始时参数的值有约束，因此所述方法可以扩展到其他的逐层预训练模型上，如自编码器、收缩自编码器等。
技术研发人员：胡振;薛竹隐;贺成龙;宗士强;葛唯益;朱冰;李霄;徐琳;俞露;王羽;姜晓夏
受保护的技术使用者：中国电子科技集团公司第二十八研究所
文档号码：201610498635
技术研发日：2016.06.29
技术公布日：2016.12.07