槽位预测模型的训练与预测方法、装置、设备及存储介质与流程

所属的技术人员能够理解，本技术的各个方面可以实现为系统、方法或程序产品。因此，本技术的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。与上述方法实施例基于同一发明构思，本技术实施例中还提供了一种计算机设备。在一种实施例中，该计算机设备可以是服务器，如图2所示的服务器230。在该实施例中，计算机设备800的结构如图8所示，可以至少包括存储器801、通讯模块803，以及至少一个处理器802。存储器801，用于存储处理器802执行的计算机程序。存储器801可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统，以及运行即时通讯功能所需的程序等；存储数据区可存储各种即时通讯信息和操作指令集等。存储器801可以是易失性存储器(volatile memory)，例如随机存取存储器(random-access memory，ram)；存储器801也可以是非易失性存储器(non-volatilememory)，例如只读存储器，快闪存储器(flash memory)，硬盘(hard disk drive，hdd)或固态硬盘(solid-state drive，ssd)；或者存储器801是能够用于携带或存储具有指令或数据结构形式的期望的计算机程序并能够由计算机存取的任何其他介质，但不限于此。存储器801可以是上述存储器的组合。处理器802，可以包括一个或多个中央处理单元(central processing unit，cpu)或者为数字处理单元等等。处理器802，用于调用存储器801中存储的计算机程序时实现上述槽位预测模型的训练方法与槽位预测方法中的任意一种。通讯模块803用于与终端设备和其他服务器进行通信。本技术实施例中不限定上述存储器801、通讯模块803和处理器802之间的具体连接介质。本技术实施例在图8中以存储器801和处理器802之间通过总线804连接，总线804在图8中以粗线描述，其它部件之间的连接方式，仅是进行示意性说明，并不引以为限。总线804可以分为地址总线、数据总线、控制总线等。为便于描述，图8中仅用一条粗线描述，但并不描述仅有一根总线或一种类型的总线。存储器801中存储有计算机存储介质，计算机存储介质中存储有计算机可执行指令，计算机可执行指令用于实现本技术实施例的槽位预测模型的训练方法与槽位预测方法中的任意一种。处理器802用于执行上述的槽位预测模型的训练方法与槽位预测方法中的任意一种，如图3d和图4所示。在另一种实施例中，计算机设备也可以是其他计算机设备，如图2所示的物理终端设备210。在该实施例中，计算机设备的结构可以如图9所示，包括：通信组件910、存储器920、显示单元930、摄像头940、传感器950、音频电路960、蓝牙模块990、处理器980等部件。通信组件910用于与服务器进行通信。在一些实施例中，可以包括电路无线保真(wireless fidelity，wifi)模块，wifi模块属于短距离无线传输技术，电子设备通过wifi模块可以帮助对象收发信息。存储器920可用于存储软件程序及数据。处理器980通过运行存储在存储器920的软件程序或数据，从而执行物理终端设备210的各种功能以及数据处理。存储器920可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。存储器920存储有使得终端设备210能运行的操作系统。本技术中存储器920可以存储操作系统及各种应用程序，还可以存储执行本技术实施例槽位预测模型的训练方法与槽位预测方法中任意一种的计算机程序。显示单元930还可用于显示由对象输入的信息或提供给对象的信息以及终端设备210的各种菜单的图形用户界面(graphical user interface，gui)。具体地，显示单元930可以包括设置在终端设备210正面的显示屏932。其中，显示屏932可以采用液晶显示器、发光二极管等形式来配置。显示单元930可以用于显示本技术实施例中的槽位预测界面、模型训练界面等。显示单元930还可用于接收输入的数字或字符信息，产生与物理终端设备210的对象设置以及功能控制有关的信号输入，具体地，显示单元930可以包括设置在终端设备210正面的触控屏931，可收集对象在其上或附近的触摸操作，例如点击按钮，拖动滚动框等。其中，触控屏931可以覆盖在显示屏932之上，也可以将触控屏931与显示屏932集成而实现物理终端设备210的输入和输出功能，集成后可以简称触摸显示屏。本技术中显示单元930可以显示应用程序以及对应的操作步骤。摄像头940可用于捕获静态图像，对象可以将摄像头940拍摄的图像通过应用发布。摄像头940可以是一个，也可以是多个。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device，ccd)或互补金属氧化物半导体(complementary metal-oxide-semiconductor，cmos)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给处理器980转换成数字图像信号。物理终端设备还可以包括至少一种传感器950，比如加速度传感器951、距离传感器952、指纹传感器953、温度传感器954。终端设备还可配置有陀螺仪、气压计、湿度计、温度计、红外线传感器、光传感器、运动传感器等其他传感器。音频电路960、扬声器961、传声器962可提供对象与终端设备210之间的音频接口。音频电路960可将接收到的音频数据转换后的电信号，传输到扬声器961，由扬声器961转换为声音信号输出。物理终端设备210还可配置音量按钮，用于调节声音信号的音量。另一方面，传声器962将收集的声音信号转换为电信号，由音频电路960接收后转换为音频数据，再将音频数据输出至通信组件910以发送给比如另一物理终端设备210，或者将音频数据输出至存储器920以便进一步处理。蓝牙模块990用于通过蓝牙协议来与其他具有蓝牙模块的蓝牙设备进行信息交互。例如，物理终端设备可以通过蓝牙模块990与同样具备蓝牙模块的可穿戴电子设备(例如智能手表)建立蓝牙连接，从而进行数据交互。处理器980是物理终端设备的控制中心，利用各种接口和线路连接整个终端的各个部分，通过运行或执行存储在存储器920内的软件程序，以及调用存储在存储器920内的数据，执行终端设备的各种功能和处理数据。在一些实施例中，处理器980可包括一个或多个处理单元；处理器980还可以集成应用处理器和基带处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，基带处理器主要处理无线通信。可以理解的是，上述基带处理器也可以不集成到处理器980中。本技术中处理器980可以运行操作系统、应用程序、用户界面显示及触控响应，以及本技术实施例的槽位预测模型的训练方法与槽位预测方法中的任意一种。另外，处理器980与显示单元930耦接。此外需要注意的是，在本技术的具体实施方式中，涉及到与槽位预测模型等相关的对象数据，当本技术以上实施例运用到具体产品或技术中时，需要获得对象许可或者同意，且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。在一些可能的实施方式中，本技术提供的槽位预测模型的训练方法的各个方面还可以实现为一种程序产品的形式，其包括计算机程序，当程序产品在计算机设备上运行时，计算机程序用于使计算机设备执行本说明书上述描述的根据本技术各种示例性实施方式的槽位预测模型的训练方法与槽位预测方法中任意一种的步骤，例如，计算机设备可以执行如图3d和图4中所示的步骤。程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体地例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。本技术的实施方式的程序产品可以采用便携式紧凑盘只读存储器(cd-rom)并包括计算机程序，并可以在电子设备上运行。然而，本技术的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被命令执行系统、装置或者器件使用或者与其结合使用。可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读计算机程序。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由命令执行系统、装置或者器件使用或者与其结合使用的程序。可读介质上包含的计算机程序可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。可以以一种或多种程序设计语言的任意组合来编写用于执行本技术操作的计算机程序，程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。计算机程序可以完全地在用户计算机设备上执行、部分地在用户计算机设备上执行、作为一个独立的软件包执行、部分在用户计算机设备上部分在远程计算机设备上执行、或者完全在远程计算机设备上执行。在涉及远程计算机设备的情形中，远程计算机设备可以通过任意种类的网络包括局域网(lan)或广域网(wan)连接到用户计算机设备，或者，可以连接到外部计算机设备(例如利用因特网服务提供商来通过因特网连接)。应当注意，尽管在上文详细描述中提及了装置的若干单元或子单元，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本技术的实施方式，上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之，上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。此外，尽管在附图中以特定顺序描述了本技术方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。本领域内的技术人员应明白，本技术的实施例可提供为方法、系统、或计算机程序产品。因此，本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本技术可采用在一个或多个其中包含有计算机可用计算机程序的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。本技术是参照根据本技术实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序命令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序命令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的命令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序命令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的命令产生包括命令装置的制造品，该命令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序命令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的命令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。尽管已描述了本技术的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本技术范围的所有变更和修改。显然，本领域的技术人员可以对本技术进行各种改动和变型而不脱离本技术的精神和范围。这样，倘若本技术的这些修改和变型属于本技术权利要求及其等同技术的范围之内，则本技术也意图包含这些改动和变型在内。

背景技术：

1、口语语言理解(spoken language understanding，slu)作为人机口语对话系统的核心组件，其性能优劣对系统具有决定性的影响。目前，常使用基于文本建模的深度神经网络执行槽位预测任务，具体过程如下：先从音频转换的文本中提取文本表示，再基于提取的文本表示进行槽位预测，得到用于生成操作指令的槽位预测结果。

2、然而，相关技术下，槽位预测模型仅针对文本进行槽位预测，不具备挖掘音频中韵律信息的能力，无法提取出有效的发音特征，导致人机口语对话系统无法正确理解句子本身想表达的语义信息，进而导致无法提供相应的服务。

3、有鉴于此，本技术实施例提供了一种新的槽位预测模型的训练方法。

技术实现思路

1、本技术实施例提供了一种槽位预测模型的训练与预测方法、装置、设备及存储介质，以解决因模型无法挖掘出音频的韵律信息，导致模型预测准确率低的问题。

2、第一方面，本技术实施例提供了一种槽位预测模型的训练方法，包括：

3、采用循环迭代方式，基于训练集中的多个样本对，对待训练的槽位预测模型进行训练，直至输出已训练的目标槽位预测模型，其中，每次迭代包括：

4、对读取的一个样本对中样本音频包含的各个音频帧进行特征提取，获得相应的初始音频特征，以及对所述一个样本对中样本文本包含的各个词进行特征提取，获得相应的初始文本特征；

5、针对获得的各个初始文本特征，分别执行以下操作：将获得的各个初始音频特征与一个初始文本特征进行注意力交互，获得表征所述各个初始音频特征对所述一个初始文本特征关注程度的加权音频特征；

6、基于各个加权音频特征与各个初始文本特征，获得多模态融合特征；

7、基于所述多模态融合特征，分别对所述一个样本对进行槽位预测和韵律预测，并基于获得的槽位预测结果和韵律预测结果，调整所述槽位预测模型的模型参数。

8、第二方面，本技术实施例还提供了一种槽位预测方法，包括：

9、对获取的音频信息中包含的各个音频帧进行特征提取，获得相应的初始音频特征，以及对基于所述音频信息识别的文本信息中包含的各个词进行特征提取，获得相应的初始文本特征；

10、针对获得的各个初始文本特征，分别执行以下操作：将获得的各个初始音频特征与一个初始文本特征进行注意力交互，获得表征所述各个初始音频特征对所述一个初始文本特征关注程度的加权音频特征；

11、基于各个加权音频特征与各个初始文本特征，获得多模态融合特征，并对所述多模态融合特征进行槽位预测，获得所述音频信息的槽位预测结果。

12、第三方面，本技术实施例还提供了一种槽位预测模型的训练装置，包括：

13、模型训练单元，用于采用循环迭代方式，基于训练集中的多个样本对，对待训练的槽位预测模型进行训练，直至输出已训练的目标槽位预测模型，其中，每次迭代包括：

14、编码单元，用于对读取的一个样本对中样本音频包含的各个音频帧进行特征提取，获得相应的初始音频特征，以及对所述一个样本对中样本文本包含的各个词进行特征提取，获得相应的初始文本特征；

15、注意力单元，用于针对获得的各个初始文本特征，分别执行以下操作：将获得的各个初始音频特征与一个初始文本特征进行注意力交互，获得表征所述各个初始音频特征对所述一个初始文本特征关注程度的加权音频特征；

16、融合单元，用于基于各个加权音频特征与各个初始文本特征，获得多模态融合特征；

17、参数调整单元，用于基于所述多模态融合特征，分别对所述一个样本对进行槽位预测和韵律预测，并基于获得的槽位预测结果和韵律预测结果，调整所述槽位预测模型的模型参数。

18、可选的，所述参数调整单元用于：

19、基于获得的槽位预测结果与相应的槽位实际结果，确定所述槽位预测模型在训练过程中产生的槽位分类损失；

20、以及，基于获得的韵律预测结果与相应的韵律实际结果，确定所述槽位预测模型在训练过程中产生的韵律预测损失；

21、基于所述槽位分类损失与所述韵律预测损失，确定模型在训练过程中产生的模型总损失，并基于所述模型总损失，调整所述槽位预测模型的模型参数。

22、可选的，所述融合单元执行以下任意一种方式：

23、将所述各个加权音频特征依次与相应的各个初始文本特征进行拼接，获得融合了音频特征与文本特征的多模态融合特征；

24、将包含了所述各个加权音频特征的加权音频特征集，与包含了所述各个初始文本特征的初始文本特征集相拼接，获得融合了音频特征与文本特征的多模态融合特征。

25、可选的，所述编码单元用于：

26、对读取的所述一个样本对中所述样本音频包含的各个音频帧进行特征提取，获得相应的低维音频特征；

27、针对获得的各个低维音频特征，分别执行以下操作：将获得的各个低维音频特征与一个低维音频特征进行注意力交互，获得表征所述各个低维音频特征对所述一个低维音频特征关注程度的上下文音频特征；

28、对所述各音频帧的上下文音频特征进行线性处理，获得相应的初始音频特征。

29、可选的，所述编码单元用于：

30、将获得的各个低维音频特征分别与所述一个低维音频特征相乘，分别获得所述各个低维音频特征对所述一个低维音频特征的上下文权重；

31、将所述各个低维音频特征与对应的上下文权重进行加权求和，获得表征所述各个低维音频特征对所述一个低维音频特征关注程度的上下文音频特征。

32、第四方面，本技术实施例还提供了一种槽位预测装置，包括：

33、编码单元，用于对获取的音频信息中包含的各个音频帧进行特征提取，获得相应的初始音频特征，以及对基于所述音频信息识别的文本信息中包含的各个词进行特征提取，获得相应的初始文本特征；

34、注意力单元，用于针对获得的各个初始文本特征，分别执行以下操作：将获得的各个初始音频特征与一个初始文本特征进行注意力交互，获得表征所述各个初始音频特征对所述一个初始文本特征关注程度的加权音频特征；

35、槽位预测单元，用于基于各个加权音频特征与各个初始文本特征，获得多模态融合特征，并对所述多模态融合特征进行槽位预测，获得所述音频信息的槽位预测结果。

36、第五方面，本技术实施例还提供了一种计算机设备，包括处理器和存储器，其中，所述存储器存储有程序代码，当所述程序代码被所述处理器执行时，使得所述处理器执行上述槽位预测模型的训练方法与槽位预测方法中任意一种的步骤。

37、第六方面，本技术实施例还提供了一种计算机可读存储介质，其包括程序代码，当程序产品在计算机设备上运行时，所述程序代码用于使所述计算机设备执行上述槽位预测模型的训练与槽位预测方法中任意一种的步骤。

38、第七方面，本技术实施例还提供了一种计算机程序产品，包括计算机指令，计算机指令被处理器执行上述槽位预测模型的训练方法与槽位预测方法中任意一种的步骤。

39、本技术有益效果如下：

40、本技术实施例提供了一种槽位预测模型的训练与预测方法、装置、设备及存储介质，该方法包括：使用训练集中的多个样本对，对待训练的槽位预测模型进行循环迭代训练，直至输出已训练的目标槽位预测模型，其中，每次迭代包括：

41、对读取的一个样本对中样本音频包含的各个音频帧进行特征提取，获得相应的初始音频特征，以及对该样本对中样本文本包含的各个词进行特征提取，获得相应的初始文本特征；

42、针对获得的各个初始文本特征，分别执行以下操作：将获得的各个初始音频特征与一个初始文本特征进行注意力交互，获得表征各个初始音频特征对该初始文本特征关注程度的加权音频特征；

43、基于各个加权音频特征与各个初始文本特征，获得多模态融合特征；

44、基于多模态融合特征，分别对该样本对进行槽位预测和韵律预测，并基于获得的槽位预测结果和韵律预测结果，调整槽位预测模型的模型参数。

45、针对槽位预测任务，本技术考虑语音中的韵律信息与槽位预测之间的联系，提出了一种将韵律信息融合到口语语言理解任务中的方法，该方法利用韵律预测任务作为辅助训练任务，挖掘语音中的韵律信息，显式提取有效的韵律信息，来辅助训练口语语言理解领域中的槽位预测任务，有效提高槽位预测模型对口语语言理解的效果，同时对于新领域的样本，采用本技术实施例提出的训练方法，也能使模型达到很好的泛化效果。

46、本技术的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本技术而了解。本技术的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。