文本分析模型的训练方法、文本分析方法及装置与流程

本说明书涉及自然语言处理，尤其涉及一种文本分析模型的训练方法、文本分析方法及装置。

背景技术：

1、在自然语言处理技术领域中，基于阅读理解框架的文本分析模型是常用的一种文本分析方式。阅读理解框架是指首先根据任务特性设计问题，然后再利用设计好的问题结合文本分析模型输出正确的结果。例如，针对文本“这家餐厅的服务态度很好”设计以下问题：“这段文本中的观点词是什么？”，将该文本输入文本分析模型，阅读理解框架就会让文本分析模型输出该问题的准确答案，如“服务态度”。目前，基于阅读理解框架的文本分析模型通常基于特定的文本分析任务训练得到，在文本分析任务包含多个的情况下，文本分析模型的训练过程就会更加复杂，文本分析模型的性能就会随之受到影响。因此，如何基于阅读理解框架训练出性能高的文本分析模型，是目前亟待解决的问题之一。

技术实现思路

1、一方面，本说明书一个或多个实施例提供一种文本分析模型的训练方法，包括：获取第一样本数据集合和第二样本数据集合，所述第一样本数据集合包括第一样本文本和第一标签信息，所述第二样本数据集合包括第二样本文本和第二标签信息。在编码器的参数固定的情况下，将所述第一样本数据集合输入基座模型，对所述第一样本文本进行文本分析，得到第一分析结果。根据所述第一分析结果和所述第一标签信息对待训练的适配器的参数进行调整，得到训练后的适配器，其中，所述基座模型包括所述编码器和所述待训练的适配器。在所述训练后的适配器的参数固定的情况下，将所述第二样本数据集合输入所述基座模型，对所述第二样本文本进行文本分析，得到第二分析结果。根据所述第二分析结果和所述第二标签信息，对所述编码器的参数进行调整，得到目标文本分析模型。

2、另一方面，本说明书一个或多个实施例提供一种文本分析方法，包括：获取目标文本。将所述目标文本输入目标文本分析模型，通过编码器对所述目标文本进行特征提取，得到所述目标文本在文本维度上的第一特征信息。通过各任务维度上的适配器，基于所述第一特征信息对所述目标文本进行特征提取，得到所述目标文本在各所述任务维度上的第二特征信息，所述目标文本分析模型根据上述一方面所述的文本分析模型的训练方法训练得到。根据所述第一特征信息和所述第二特征信息对所述目标文本进行分析，得到文本分析结果。

3、再一方面，本说明书一个或多个实施例提供一种文本分析模型的训练装置，包括：第一获取模块，获取第一样本数据集合和第二样本数据集合，所述第一样本数据集合包括第一样本文本和第一标签信息，所述第二样本数据集合包括第二样本文本和第二标签信息。第一调整模块，在编码器的参数固定的情况下，将所述第一样本数据集合输入基座模型，对所述第一样本文本进行文本分析，得到第一分析结果。根据所述第一分析结果和所述第一标签信息对待训练的适配器的参数进行调整，得到训练后的适配器，其中，所述基座模型包括所述编码器和所述待训练的适配器。第一分析模块，在所述训练后的适配器的参数固定的情况下，将所述第二样本数据集合输入所述基座模型，对所述第二样本文本进行文本分析，得到第二分析结果。第二调整模块，根据所述第二分析结果和所述第二标签信息，对所述编码器的参数进行调整，得到目标文本分析模型。

4、再一方面，本说明书一个或多个实施例提供一种文本分析装置，包括：第二获取模块，获取目标文本。第一提取模块，将所述目标文本输入目标文本分析模型，通过编码器对所述目标文本进行特征提取，得到所述目标文本在文本维度上的第一特征信息。第二提取模块，通过各任务维度上的适配器，基于所述第一特征信息对所述目标文本进行特征提取，得到所述目标文本在各所述任务维度上的第二特征信息，所述目标文本分析模型根据上述一方面所述的文本分析模型的训练方法训练得到。第二分析模块，根据所述第一特征信息和所述第二特征信息对所述目标文本进行分析，得到文本分析结果。

5、再一方面，本说明书一个或多个实施例提供一种电子设备，包括处理器和与所述处理器电连接的存储器，所述存储器存储有计算机程序，所述处理器用于从所述存储器调用并执行所述计算机程序以实现：获取第一样本数据集合和第二样本数据集合，所述第一样本数据集合包括第一样本文本和第一标签信息，所述第二样本数据集合包括第二样本文本和第二标签信息。在编码器的参数固定的情况下，将所述第一样本数据集合输入基座模型，对所述第一样本文本进行文本分析，得到第一分析结果。根据所述第一分析结果和所述第一标签信息对待训练的适配器的参数进行调整，得到训练后的适配器，其中，所述基座模型包括所述编码器和所述待训练的适配器。在所述训练后的适配器的参数固定的情况下，将所述第二样本数据集合输入所述基座模型，对所述第二样本文本进行文本分析，得到第二分析结果。根据所述第二分析结果和所述第二标签信息，对所述编码器的参数进行调整，得到目标文本分析模型。

6、再一方面，本说明书一个或多个实施例提供一种电子设备，包括处理器和与所述处理器电连接的存储器，所述存储器存储有计算机程序，所述处理器用于从所述存储器调用并执行所述计算机程序以实现：获取目标文本。将所述目标文本输入目标文本分析模型，通过编码器对所述目标文本进行特征提取，得到所述目标文本在文本维度上的第一特征信息。通过各任务维度上的适配器，基于所述第一特征信息对所述目标文本进行特征提取，得到所述目标文本在各所述任务维度上的第二特征信息，所述目标文本分析模型根据上述一方面所述的文本分析模型的训练方法训练得到。根据所述第一特征信息和所述第二特征信息对所述目标文本进行分析，得到文本分析结果。

7、再一方面，本说明书实施例提供一种存储介质，用于存储计算机程序，所述计算机程序能够被处理器执行以实现以下流程：获取第一样本数据集合和第二样本数据集合，所述第一样本数据集合包括第一样本文本和第一标签信息，所述第二样本数据集合包括第二样本文本和第二标签信息。在编码器的参数固定的情况下，将所述第一样本数据集合输入基座模型，对所述第一样本文本进行文本分析，得到第一分析结果。根据所述第一分析结果和所述第一标签信息对待训练的适配器的参数进行调整，得到训练后的适配器，其中，所述基座模型包括所述编码器和所述待训练的适配器。在所述训练后的适配器的参数固定的情况下，将所述第二样本数据集合输入所述基座模型，对所述第二样本文本进行文本分析，得到第二分析结果。根据所述第二分析结果和所述第二标签信息，对所述编码器的参数进行调整，得到目标文本分析模型。

8、再一方面，本说明书实施例提供一种存储介质，用于存储计算机程序，所述计算机程序能够被处理器执行以实现以下流程：获取目标文本。将所述目标文本输入目标文本分析模型，通过编码器对所述目标文本进行特征提取，得到所述目标文本在文本维度上的第一特征信息。通过各任务维度上的适配器，基于所述第一特征信息对所述目标文本进行特征提取，得到所述目标文本在各所述任务维度上的第二特征信息，所述目标文本分析模型根据上述一方面所述的文本分析模型的训练方法训练得到。根据所述第一特征信息和所述第二特征信息对所述目标文本进行分析，得到文本分析结果。

9、再一方面，本技术实施例提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行以实现：获取第一样本数据集合和第二样本数据集合，所述第一样本数据集合包括第一样本文本和第一标签信息，所述第二样本数据集合包括第二样本文本和第二标签信息。在编码器的参数固定的情况下，将所述第一样本数据集合输入基座模型，对所述第一样本文本进行文本分析，得到第一分析结果。根据所述第一分析结果和所述第一标签信息对待训练的适配器的参数进行调整，得到训练后的适配器，其中，所述基座模型包括所述编码器和所述待训练的适配器。在所述训练后的适配器的参数固定的情况下，将所述第二样本数据集合输入所述基座模型，对所述第二样本文本进行文本分析，得到第二分析结果。根据所述第二分析结果和所述第二标签信息，对所述编码器的参数进行调整，得到目标文本分析模型。

10、再一方面，本技术实施例提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行以实现：获取目标文本。将所述目标文本输入目标文本分析模型，通过编码器对所述目标文本进行特征提取，得到所述目标文本在文本维度上的第一特征信息。通过各任务维度上的适配器，基于所述第一特征信息对所述目标文本进行特征提取，得到所述目标文本在各所述任务维度上的第二特征信息，所述目标文本分析模型根据上述一方面所述的文本分析模型的训练方法训练得到。根据所述第一特征信息和所述第二特征信息对所述目标文本进行分析，得到文本分析结果。