词嵌入方法、装置与电子设备与流程

文档序号:22313915发布日期:2020-09-23 01:35阅读:来源:国知局

技术特征:

1.一种词嵌入方法,其特征在于,包括:

通过预设神经网络接收词向量数据,所述预设神经网络包括生成器和判决器;

通过所述生成器对所述词向量数据提取特征张量,所述生成器基于反卷积网络形成;

通过所述判决器对所述特征张量进行分类以输出分类结果,所述判决器基于卷积网络形成。

2.如权利要求1所述的词嵌入方法,其特征在于,所述分类结果为对预设目标变量的预测结果。

3.如权利要求1所述的词嵌入方法,其特征在于,所述生成器包括串联的多个生成器子模块,每个所述生成器子模块包括n1个反卷积层和n2个上采样层,所述多个生成器子模块的特征通道数相同。

4.如权利要求3所述的词嵌入方法,其特征在于,所述生成器子模块将前一个生成器子模块输出的特征张量通道数减半并进行空间放大。

5.如权利要求1所述的词嵌入方法,其特征在于,所述判决器包括串联的多个判决器子模块和多个全连接层,每个所述判决器子模块包括n3个卷积层和n4个下采样层,所述多个判决器子模块的特征通道数相同。

6.如权利要求5所述的词嵌入方法,其特征在于,所述判决器子模块的将前一个判决器子模块输出的特征张量通道数加倍并进行空间缩小,所述全连接层接收最后一个所述判决器子模块输出的展平为向量的特征张量。

7.如权利要求1所述的词嵌入方法,其特征在于,所述生成器和所述判决器的激活函数均为线性整流函数,所述预设神经网络的最后一层网络的激活函数为双曲函数。

8.如权利要求1所述的词嵌入方法,其特征在于,所述预设神经网络的损失函数为二分类交叉熵损失函数。

9.如权利要求1所述的词嵌入方法,其特征在于,所述预设神经网络通过误差反向传播算法训练。

10.一种词嵌入装置,其特征在于,包括:

数据接收模块,设置为通过预设神经网络接收词向量数据,所述预设神经网络包括生成器和判决器;

特征提取模块,设置为通过所述生成器对所述词向量数据提取特征张量,所述生成器基于反卷积网络形成;

分类输出模块,设置为通过所述判决器对所述特征张量进行分类以输出分类结果,所述判决器基于卷积网络形成。

11.一种电子设备,其特征在于,包括:

存储器;以及

耦合到所属存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如权利要求1-9任一项所述的词嵌入方法。

12.一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如权利要求1-9任一项所述的词嵌入方法。


技术总结
本公开提供一种词嵌入方法,包括:通过预设神经网络接收词向量数据,所述预设神经网络包括生成器和判决器;通过所述生成器对所述词向量数据提取特征张量,所述生成器基于反卷积网络形成;通过所述判决器对所述特征张量进行分类以输出分类结果,所述判决器基于卷积网络形成。本公开提供的词嵌入方法可以有效减少模型的可调整参数数量,增加模型深度,提高模型泛化能力。

技术研发人员:吕乐;程建波;彭南博;史英迪;范敏
受保护的技术使用者:京东数字科技控股有限公司
技术研发日:2019.03.14
技术公布日:2020.09.22
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1