用于输出文本类别的方法和装置与流程

文档序号:18194291发布日期:2019-07-17 05:45阅读:229来源:国知局
用于输出文本类别的方法和装置与流程

本申请涉及计算机技术领域,具体涉及互联网技术领域,尤其涉及用于输出文本类别的方法和装置。



背景技术:

人工客服作为直接面向用户的窗口,在电子商务行业起到越来越重要的作用。

在人工客服完成一次对话时,通常需要人工手动对本次对话进行分类,以便于后续对大量对话进行统计分析。然而,由于人的主观性等因素,导致所得到的对话的类别的准确度较低。



技术实现要素:

本申请实施例的目的在于提出一种改进的用于输出文本类别的方法和装置,来解决以上背景技术部分提到的技术问题。

第一方面,本申请实施例提供了一种用于输出文本类别的方法,该方法包括:获取待分类文本,其中,待分类文本包括待分类语句集合;从待分类语句集合中抽取出待分类语句作为目标待分类语句,生成目标待分类语句集合;从目标待分类语句集合中提取待分类特征向量,其中,待分类特征向量用于描述目标待分类语句的关键词集合中的关键词之间的关联关系和目标待分类语句之间的关联关系;将待分类特征向量输入至预先训练的文本分类模型进行分类,得到待分类文本的文本类别,其中,文本分类模型用于表征特征向量与文本类别之间的对应关系;输出待分类文本的文本类别。

在一些实施例中,从待分类语句集合中抽取出待分类语句作为目标待分类语句,包括:对于待分类语句集合中的每条待分类语句,对该待分类语句进行分词,得到该待分类语句的关键词集合;利用卡方特征选择方法,分别计算该待分类语句的关键词集合中的各个关键词在预设的文本类别集合中的各个文本类别的卡方值;基于所计算出的卡方值,确定出该待分类语句的文本类别和该待分类语句的卡方值;基于待分类语句集合中的各条待分类语句的卡方值,从待分类语句集合中选取出待分类语句作为目标待分类语句。

在一些实施例中,基于所计算出的卡方值,确定出该待分类语句的文本类别和该待分类语句的卡方值,包括:对于该待分类语句的关键词集合中的每个关键词,从该关键词在各个文本类别的卡方值中确定出最大的卡方值所对应的文本类别,作为该关键词的文本类别;从该待分类语句的关键词集合中的各个关键词在各个关键词的文本类别的卡方值中确定出最大的卡方值所对应的关键词的文本类别,作为该待分类语句的文本类别,并将最大的卡方值作为该待分类语句的卡方值。

在一些实施例中,基于待分类语句集合中的各条待分类语句的卡方值,从待分类语句集合中选取出待分类语句作为目标待分类语句,包括:从待分类语句集合中选取出卡方值大于预设卡方值阈值的待分类语句作为目标待分类语句。

在一些实施例中,基于待分类语句集合中的各条待分类语句的卡方值,从待分类语句集合中选取出待分类语句作为目标待分类语句,包括:按照卡方值大小顺序,对待分类语句集合中的各条待分类语句进行排序;从卡方值大的一侧开始选取出预设数目条待分类语句作为目标待分类语句。

在一些实施例中,文本分类模型通过如下步骤训练得到:获取样本文本和样本文本的文本类别,其中,样本文本包括样本语句集合;从样本语句集合中抽取出样本语句作为目标样本语句,生成目标样本语句集合;从目标样本语句集合中提取样本特征向量,其中,样本特征向量用于描述目标样本语句的关键词集合中的关键词之间的关联关系和目标样本语句之间的关联关系;将样本特征向量作为输入,将样本文本的文本类别作为输出,训练得到文本分类模型。

在一些实施例中,样本文本包括训练用样本文本和测试用样本文本;以及将样本特征向量作为输入,将样本文本的文本类别作为输出,训练得到文本分类模型,包括:将训练用样本文本的样本特征向量作为输入,将训练用样本文本的文本类别作为输出,训练得到候选文本分类模型;利用测试用样本文本的样本特征向量和测试用样本文本的文本类别对候选文本分类模型进行测试,得到候选文本分类模型的分类准确率;若分类准确率达到预设分类准确率阈值,将候选文本分类模型作为文本分类模型。

第二方面,本申请实施例提供了一种用于输出文本类别的装置,该装置包括:获取单元,配置用于获取待分类文本,其中,待分类文本包括待分类语句集合;抽取单元,配置用于从待分类语句集合中抽取出待分类语句作为目标待分类语句,生成目标待分类语句集合;提取单元,配置用于从目标待分类语句集合中提取待分类特征向量,其中,待分类特征向量用于描述目标待分类语句的关键词集合中的关键词之间的关联关系和目标待分类语句之间的关联关系;分类单元,配置用于将待分类特征向量输入至预先训练的文本分类模型进行分类,得到待分类文本的文本类别,其中,文本分类模型用于表征特征向量与文本类别之间的对应关系;输出单元,配置用于输出待分类文本的文本类别。

在一些实施例中,抽取单元包括:确定子单元,配置用于对于待分类语句集合中的每条待分类语句,对该待分类语句进行分词,得到该待分类语句的关键词集合;利用卡方特征选择方法,分别计算该待分类语句的关键词集合中的各个关键词在预设的文本类别集合中的各个文本类别的卡方值;基于所计算出的卡方值,确定出该待分类语句的文本类别和该待分类语句的卡方值;选取子单元,配置用于基于待分类语句集合中的各条待分类语句的卡方值,从待分类语句集合中选取出待分类语句作为目标待分类语句。

在一些实施例中,确定子单元包括:第一确定模块,配置用于对于该待分类语句的关键词集合中的每个关键词,从该关键词在各个文本类别的卡方值中确定出最大的卡方值所对应的文本类别,作为该关键词的文本类别;第二确定模块,配置用于从该待分类语句的关键词集合中的各个关键词在各个关键词的文本类别的卡方值中确定出最大的卡方值所对应的关键词的文本类别,作为该待分类语句的文本类别,并将最大的卡方值作为该待分类语句的卡方值。

在一些实施例中,选取子单元进一步配置用于:从待分类语句集合中选取出卡方值大于预设卡方值阈值的待分类语句作为目标待分类语句。

在一些实施例中,选取子单元进一步配置用于:按照卡方值大小顺序,对待分类语句集合中的各条待分类语句进行排序;从卡方值大的一侧开始选取出预设数目条待分类语句作为目标待分类语句。

在一些实施例中,该装置还包括训练单元,训练单元包括:获取子单元,配置用于获取样本文本和样本文本的文本类别,其中,样本文本包括样本语句集合;抽取子单元,配置用于从样本语句集合中抽取出样本语句作为目标样本语句,生成目标样本语句集合;提取子单元,配置用于从目标样本语句集合中提取样本特征向量,其中,样本特征向量用于描述目标样本语句的关键词集合中的关键词之间的关联关系和目标样本语句之间的关联关系;训练子单元,配置用于将样本特征向量作为输入,将样本文本的文本类别作为输出,训练得到文本分类模型。

在一些实施例中,样本文本包括训练用样本文本和测试用样本文本;以及训练子单元包括:训练模块,配置用于将训练用样本文本的样本特征向量作为输入,将训练用样本文本的文本类别作为输出,训练得到候选文本分类模型;测试模块,配置用于利用测试用样本文本的样本特征向量和测试用样本文本的文本类别对候选文本分类模型进行测试,得到候选文本分类模型的分类准确率;第三确定模块,配置用于若分类准确率达到预设分类准确率阈值,将候选文本分类模型作为文本分类模型。

第三方面,本申请实施例提供了一种服务器,该服务器包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本申请实施例提供的用于输出文本类别的方法和装置,首先,从待分类文本所包括的待分类语句集合中抽取出待分类语句作为目标待分类语句,以生成目标待分类语句集合;然后,从目标待分类语句集合中提取待分类特征向量,以便于将待分类特征向量输入至预先训练的文本分类模型进行分类,从而得到待分类文本的文本类别;最后,输出待分类文本的文本类别。通过文本分类模型自动对待分类文本进行分类,提高了所得到待分类文本的文本类别的准确度,并且整个过程不需要人工参与,从而节省了人力。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:

图1是本申请实施例可以应用于其中的示例性系统架构图;

图2是根据本申请的用于输出文本类别的方法的一个实施例的流程图;

图3是根据本申请的用于输出文本类别的方法的又一个实施例的流程图;

图4是根据本申请的训练文本分类模型的方法的一个实施例的流程图;

图5是根据本申请的用于输出文本类别的装置的一个实施例的结构示意图;

图6是适于用来实现本申请实施例的服务器的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。

需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请实施例的用于输出文本类别的方法或用于输出文本类别的装置的示例性系统架构100。

如图1所示,系统架构100可以包括数据库服务器101、网络102和服务器103。网络102用以在数据库服务器101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。

数据库服务器101可以是各种电子商务网站的后台数据库服务器,可以用于存储待分类文本。

服务器103可以提供各种服务,例如,服务器103可以从数据库服务器101获取待分类文本,并对待分类文本进行分析等处理并输出处理结果(例如待分类文本的文本类别)。

需要说明的是,本申请实施例所提供的用于输出文本类别的方法一般由服务器103执行,相应地,用于输出文本类别的装置一般设置于服务器103中。

应该理解,图1中的数据库服务器、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的数据库服务器、网络和服务器。需要说明的是,在服务器103中存储有待分类文本的情况下,系统架构100中可以不设置数据库服务器101。

继续参考图2,其示出了根据本申请的用于输出文本类别的方法的一个实施例的流程200。该用于输出文本类别的方法,包括以下步骤:

步骤201,获取待分类文本。

在本实施例中,用于输出文本类别的方法运行于其上的电子设备(例如图1所示的服务器103)可以从本地或与其通信连接的数据库服务器(例如图1所示的数据库服务器101)获取待分类文本。其中,数据库服务器可以是某电子商务网站的后台数据库服务器。当用户与该电子商务网站的人工客服进行对话后,对话可以以文本的形式存储在后台数据库服务器中。待分类文本可以是以文本形式存储的任意一次对话,待分类文本可以包括待分类语句集合,待分类语句集合可以是该次对话的内容。

步骤202,从待分类语句集合中抽取出待分类语句作为目标待分类语句,生成目标待分类语句集合。

在本实施例中,基于步骤201所获取的待分类文本,电子设备可以通过多种方式从待分类文本所包括的待分类语句中抽取出待分类语句作为目标待分类语句,以生成目标待分类语句集合。

作为一种示例,电子设备可以从待分类语句集合中抽取出用户输入的语句作为目标待分类语句。

作为另一种示例,电子设备可以从待分类语句集合中抽取出人工客服输入的语句作为目标待分类语句。

步骤203,从目标待分类语句集合中提取待分类特征向量。

在本实施例中,基于步骤202所生成的目标待分类语句集合,电子设备可以从目标待分类语句集合中提取待分类特征向量。其中,待分类特征向量可以用于描述目标待分类语句的关键词集合中的关键词之间的关联关系和目标待分类语句之间的关联关系。这里,电子设备可以采用一个层级的lstms(longshort-termmemory,长短期记忆网络)模型,该lstms模型可以包括两个lstm层。通常,一个lstm层可以将语句转换为语句向量,其中,语句向量可以用于描述语句的关键词集合中的关键词之间的关联关系。另一个lstm层可以将语句向量转换为语句集合向量,其中,语句集合向量可以用于描述语句集合中的语句之间的关联关系。

步骤204,将待分类特征向量输入至预先训练的文本分类模型进行分类,得到待分类文本的文本类别。

在本实施例中,基于步骤203所提取的待分类特征向量,电子设备可以将待分类特征向量输入至预先训练的文本分类模型,文本分类模型会按照预先训练好的对应关系,为待分类特征向量找到与其对应的文本类别,并将该文本类别作为待分类文本的文本类别。其中,文本分类模型可以用于表征特征向量与文本类别之间的对应关系。

在本实施例中,电子设备可以通过多种方式预先训练出文本分类模型。

作为一种示例,电子设备可以基于对大量文本所对应的特征向量和文本的文本类别的统计而生成存储有多个文本所对应的特征向量与文本的文本类别的对应关系的对应关系表,并将该对应关系表作为文本分类模型。

作为另一种示例,电子设备可以基于对大量文本所对应的特征向量和文本的文本类别的统计而生成可以表征文本所对应的特征向量与文本的文本类别的对应关系的函数。其中,函数的自变量是文本所对应的特征向量,函数的因变量是文本的文本类别。例如,函数可以是softmax函数。softmax函数是一种激活函数,用于多分类过程中,它将多个神经元的输出,映射到(0,1)区间内,可以看成概率来理解,从而来进行多分类。

步骤205,输出待分类文本的文本类别。

在本实施例中,基于步骤204所得到的待分类文本的文本类别,电子设备可以输出待分类文本的文本类别。作为示例,电子设备可以将待分类文本和待分类文本的文本类别对应输出。

本申请实施例提供的用于输出文本类别的方法,首先,从待分类文本所包括的待分类语句集合中抽取出待分类语句作为目标待分类语句,以生成目标待分类语句集合;然后,从目标待分类语句集合中提取待分类特征向量,以便于将待分类特征向量输入至预先训练的文本分类模型进行分类,从而得到待分类文本的文本类别;最后,输出待分类文本的文本类别。通过文本分类模型自动对待分类文本进行分类,提高了所得到待分类文本的文本类别的准确度,并且整个过程不需要人工参与,从而节省了人力。

进一步参考图3,其示出了根据本申请的用于输出文本类别的方法的又一个实施例的流程300。该用于输出文本类别的方法,包括以下步骤:

步骤301,获取待分类文本。

在本实施例中,用于输出文本类别的方法运行于其上的电子设备(例如图1所示的服务器103)可以从本地或与其通信连接的数据库服务器(例如图1所示的数据库服务器101)获取待分类文本。其中,待分类文本可以包括待分类语句集合。

步骤302,对于待分类语句集合中的每条待分类语句,对该待分类语句进行分词,得到该待分类语句的关键词集合。

在本实施例中,基于步骤301所获取的待分类文本,电子设备可以通过多种分词方法对待分类文本所包括的待分类语句集合中的各条待分类语句进行分词,以得到各条待分类语句的关键词集合。

作为一种示例,对待分类语句进行分词的分词方法可以是基于统计的分词方法。具体地,电子设备可以对待分类语句中相邻字符所构成的字符组合的频率进行统计,计算出字符组合出现的频率。当频率高于预设频率阈值时,则判定字符组合构成了词,从而实现对待分类语句的分词。

作为另一示例,对待分类语句进行分词的分词方法可以是基于字符串匹配原理的分词方法。具体地,电子设备可以利用字符串匹配原理将待分类语句与词典中的各个词进行匹配,继而基于所匹配到的词对待分类语句进行分词。其中,字符串匹配原理可以包括但不限于正向最大匹配法、逆向最大匹配法、设立切分标注法、逐词遍历匹配法、正向最佳匹配法或逆向最佳匹配法等。

需要说明的是,分词方法是目前广泛研究和应用的公知技术,在此不再赘述。

步骤303,利用卡方特征选择方法,分别计算该待分类语句的关键词集合中的各个关键词在预设的文本类别集合中的各个文本类别的卡方值。

在本实施例中,基于步骤302所得到的该待分类语句的关键词集合,电子设备可以利用卡方特征选择方法,分别计算出该待分类语句的关键词集合中的各个关键词在预设的文本类别集合中的各个文本类别的卡方值。其中,卡方值又叫做卡方统计量,其可以用于衡量关键词与文本类别的相关程度。通常,卡方值越大,关键词与文本类别的相关程度越高,卡方值越小,关键词与文本类别的相关程度越低。

在本实施例中,电子设备可以利用卡方特征选择方法计算关键词在文本类别的卡方值,可选地,可以采用如下公式:

其中,chi(t,c)为关键词t在文本类别c的卡方值,n为文本类别集合所对应的文本的总数,a为包含关键词t且文本类别属于c的文本的数量,b为包含关键词t但文本类别不属于c的文本的数量,c为不包含关键词t但文本类别属于c的文本的数量,d为不包含关键词t且文本类别不属于c的文本的数量。

通常,当chi(t,c)的值为0时表示关键词t与文本类别c完全独立,chi(t,c)的值不为零且值越大则说明关键词t与文本类别c的相关程度越高,chi(t,c)的值不为零且值越小则说明关键词t与文本类别c的相关程度越低。

步骤304,基于所计算出的卡方值,确定出该待分类语句的文本类别和该待分类语句的卡方值。

在本实施例中,基于步骤303所计算出的该待分类语句的关键词集合中的各个关键词在各个文本类别的卡方值,电子设备可以通过多种方式确定出该待分类语句的文本类别和该待分类语句的卡方值。

作为一种示例,电子设备可以将所计算出的卡方值中的最大的卡方值作为该待分类语句的卡方值,并将最大的卡方值所对应的文本类别作为该待分类语句的文本类别。

作为另一种示例,电子设备可以从所计算出的卡方值中选取出大于某预设值的多个卡方值,并从所选取出的多个卡方值中随机选取出一个卡方值作为该待分类语句的卡方值,同时将随机选取出的卡方值所对应的文本类别作为该待分类语句的文本类别。

作为又一种示例,电子设备可以首先对于该待分类语句的关键词集合中的每个关键词,从该关键词在各个文本类别的卡方值中确定出最大的卡方值所对应的文本类别,作为该关键词的文本类别;然后从该待分类语句的关键词集合中的各个关键词在各个关键词的文本类别的卡方值中确定出最大的卡方值所对应的关键词的文本类别,作为该待分类语句的文本类别,并将各个关键词在各个关键词的文本类别的卡方值中的最大的卡方值作为该待分类语句的卡方值。

步骤305,基于待分类语句集合中的各条待分类语句的卡方值,从待分类语句集合中选取出待分类语句作为目标待分类语句,生成目标待分类语句集合。

在本实施例中,基于步骤304所确定出各条待分类语句的文本类别和该待分类语句的卡方值,电子设备可以通过多种方式从待分类语句集合中选取出待分类语句作为目标待分类语句,以生成目标待分类语句集合。

作为一种示例,电子设备可以从待分类语句集合中选取出卡方值大于预设卡方值阈值的待分类语句作为目标待分类语句。

作为另一种示例,电子设备可以首先按照卡方值大小顺序,对待分类语句集合中的各条待分类语句进行排序;然后从卡方值大的一侧开始选取出预设数目条待分类语句作为目标待分类语句。这里,电子设备可以按照卡方值由大到小的顺序对待分类语句集合中的各条待分类语句进行排序;电子设备还可以按照卡方值由小到大的顺序对待分类语句集合中的各条待分类语句进行排序。

步骤306,从目标待分类语句集合中提取待分类特征向量。

在本实施例中,基于步骤305所生成的目标待分类语句集合,电子设备可以从目标待分类语句集合中提取待分类特征向量。其中,待分类特征向量可以用于描述目标待分类语句的关键词集合中的关键词之间的关联关系和目标待分类语句之间的关联关系。

步骤307,将待分类特征向量输入至预先训练的文本分类模型进行分类,得到待分类文本的文本类别。

在本实施例中,基于步骤306所提取的待分类特征向量,电子设备可以将待分类特征向量输入至预先训练的文本分类模型,文本分类模型会按照预先训练好的对应关系,为待分类特征向量找到与其对应的文本类别,并将该文本类别作为待分类文本的文本类别。其中,文本分类模型可以用于表征特征向量与文本类别之间的对应关系。

步骤308,输出待分类文本的文本类别。

在本实施例中,基于步骤307所得到的待分类文本的文本类别,电子设备可以输出待分类文本的文本类别。

从图3中可以看出,与图2对应的实施例相比,本实施例中的用于输出文本类别的方法的流300突出了步骤302-305。由此,本实施例描述的方案利用卡方特征选择方法计算卡方值,并基于卡方值选取目标待分类语句,从而使选取出的目标待分类语句更能描述待分类文本的特征,有助于进一步提高所得到待分类文本的文本类别的准确度。

进一步参考图4,其示出了根据本申请的训练文本分类模型的方法的一个实施例的流程400。该流程400包括以下步骤:

步骤401,获取样本文本和样本文本的文本类别。

在本实施例中,电子设备(例如图1所示的服务器103)可以从本地或与其通信连接的数据库服务器(例如图1所示的数据库服务器101)获取样本文本和样本文本的文本类别。其中,数据库服务器可以是某电子商务网站的后台数据库服务器。当用户与该电子商务网站的人工客服进行对话后,对话可以以文本的形式存储在后台数据库服务器中。样本文本可以是历史时间段内(前一个季度内、前一个月内或前两个星期内)以文本形式存储的对话。样本文本可以包括样本语句集合,样本语句集合可以是历史时间段内以文本形式存储的对话的内容。

需要说明的是,样本文本的文本类别可以是通过人工识别方式得到的,也可以是通过其他文本分类模型得到的,本实施例中对样本文本的文本类别的获取方式不进行限定。

步骤402,从样本语句集合中抽取出样本语句作为目标样本语句,生成目标样本语句集合。

在本实施例中,基于步骤401所获取的样本文本,电子设备可以通过多种方式从样本文本所包括的样本语句中抽取出样本语句作为目标样本语句,以生成目标样本语句集合。

作为一种示例,电子设备可以从样本语句集合中抽取出用户输入的语句作为目标样本语句。

作为另一种示例,电子设备可以从样本语句集合中抽取出人工客服输入的语句作为目标样本语句。

作为又一种示例,电子设备可以首先对于样本语句集合中的每条样本语句,对该样本语句进行分词,得到该样本语句的关键词集合;之后利用卡方特征选择方法,分别计算该样本语句的关键词集合中的各个关键词在文本类别集合中的各个文本类别的卡方值;然后基于所计算出的卡方值,确定出该样本语句的文本类别和该样本语句的卡方值;最后基于样本语句集合中的各条样本语句的卡方值,从样本语句集合中选取出样本语句作为目标样本语句,生成目标样本语句集合。

步骤403,从目标样本语句集合中提取样本特征向量。

在本实施例中,基于步骤402所生成的目标样本语句集合,电子设备可以从目标样本语句集合中提取样本特征向量。其中,样本特征向量可以用于描述目标样本语句的关键词集合中的关键词之间的关联关系和目标样本语句之间的关联关系。这里,电子设备可以采用一个层级的lstms模型,该lstms模型可以包括两个lstm层。通常,一个lstm层可以将语句转换为语句向量,其中,语句向量可以用于描述语句的关键词集合中的关键词之间的关联关系。另一个lstm层可以将语句向量转换为语句集合向量,其中,语句集合向量可以用于描述语句集合中的语句之间的关联关系。

步骤404,将样本特征向量作为输入,将样本文本的文本类别作为输出,训练得到文本分类模型。

在本实施例中,基于步骤403所提取的样本特征向量和步骤401所获取的样本文本的文本类别,电子设备可以利用样本特征向量和样本文本的文本类别,对例如lstm模型进行训练,从而得到能够表征特征向量与文本类别之间准确对应关系的文本分类模型。

在本实施例的一些可选的实现方式中,电子设备还可以通过如下步骤训练文本分类模型。

首先,将训练用样本文本的样本特征向量作为输入,将训练用样本文本的文本类别作为输出,训练得到候选文本分类模型。

这里,样本文本可以包括训练用样本文本。训练用样本文本的样本特征向量和训练用样本文本的文本类别可以用于训练出候选文本分类模型。

然后,利用测试用样本文本的样本特征向量和测试用样本文本的文本类别对候选文本分类模型进行测试,得到候选文本分类模型的分类准确率。

这里,样本文本还可以包括测试用样本文本。通常情况下,训练用样本文本与测试用样本文本不同。测试用样本文本的样本特征向量和测试用样本文本的文本类别可以用于对候选文本分类模型进行测试,以获取候选文本分类模型的准确率。

最后,若分类准确率达到预设分类准确率阈值,将候选文本分类模型作为文本分类模型。

这里,在分类准确率达到预设分类准确率阈值的情况下,电子设备可以将候选文本分类模型作为文本分类模型。此时,文本分类模型训练完成,训练流程结束。在分类准确率未达到预设分类准确率阈值的情况下,电子设备可以对训练用样本文本进行处理(例如,增加新的训练用样本文本或对训练用样本文本的文本类别进行人工调整),并继续用处理后的训练用样本文本的样本特征向量和处理后的训练用样本文本的文本类别对候选文本分类模型进行训练,直到候选文本分类模型的分类准确率达到预设分类准确率阈值,得到文本分类模型,训练流程结束。

本申请实施例提供的训练文本分类模型的方法通过从样本文本所包括的样本语句中抽取出样本语句,以生成目标样本语句集合;然后从目标样本语句集合中提取样本特征向量;最后将样本特征向量作为输入,将样本文本的文本类别作为输出,训练得到能够准确地表征特征向量和文本类别的对应关系的文本分类模型。从而提高了训练文本分类模型的效率。

进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于输出文本类别的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。

如图5所示,本实施例所示的用于输出文本类别的装置500包括:获取单元501、抽取单元502、提取单元503、分类单元504和输出单元505。其中,获取单元501,配置用于获取待分类文本,其中,待分类文本包括待分类语句集合;抽取单元502,配置用于从待分类语句集合中抽取出待分类语句作为目标待分类语句,生成目标待分类语句集合;提取单元503,配置用于从目标待分类语句集合中提取待分类特征向量,其中,待分类特征向量用于描述目标待分类语句的关键词集合中的关键词之间的关联关系和目标待分类语句之间的关联关系;分类单元504,配置用于将待分类特征向量输入至预先训练的文本分类模型进行分类,得到待分类文本的文本类别,其中,文本分类模型用于表征特征向量与文本类别之间的对应关系;输出单元505,配置用于输出待分类文本的文本类别。

在本实施例中,用于输出文本类别的装置500中:获取单元501、抽取单元502、提取单元503、分类单元504和输出单元505的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202、步骤203、步骤204和步骤205的相关说明,在此不再赘述。

在本实施例的一些可选的实现方式中,抽取单元502可以包括:确定子单元(图中未示出),配置用于对于待分类语句集合中的每条待分类语句,对该待分类语句进行分词,得到该待分类语句的关键词集合;利用卡方特征选择方法,分别计算该待分类语句的关键词集合中的各个关键词在预设的文本类别集合中的各个文本类别的卡方值;基于所计算出的卡方值,确定出该待分类语句的文本类别和该待分类语句的卡方值;选取子单元(图中未示出),配置用于基于待分类语句集合中的各条待分类语句的卡方值,从待分类语句集合中选取出待分类语句作为目标待分类语句。

在本实施例的一些可选的实现方式中,确定子单元可以包括:第一确定模块(图中未示出),配置用于对于该待分类语句的关键词集合中的每个关键词,基于该关键词在各个文本类别的卡方值,确定出最大的卡方值所对应的文本类别作为该关键词的文本类别;第二确定模块(图中未示出),配置用于基于该待分类语句的关键词集合中的各个关键词在各个关键词的文本类别的卡方值,确定出最大的卡方值所对应的关键词的文本类别作为该待分类语句的文本类别,并将最大的卡方值作为该待分类语句的卡方值。

在本实施例的一些可选的实现方式中,选取子单元可以进一步配置用于:从待分类语句集合中选取出卡方值大于预设卡方值阈值的待分类语句作为目标待分类语句。

在本实施例的一些可选的实现方式中,选取子单元可以进一步配置用于:按照卡方值大小顺序,对待分类语句集合中的各条待分类语句进行排序;从卡方值大的一侧开始选取出预设数目条待分类语句作为目标待分类语句。

在本实施例的一些可选的实现方式中,用于输出文本类别的装置500还可以包括训练单元(图中未示出),训练单元可以包括:获取子单元(图中未示出),配置用于获取样本文本和样本文本的文本类别,其中,样本文本包括样本语句集合;抽取子单元(图中未示出),配置用于从样本语句集合中抽取出样本语句作为目标样本语句,生成目标样本语句集合;提取子单元(图中未示出),配置用于从目标样本语句集合中提取样本特征向量,其中,样本特征向量用于描述目标样本语句的关键词集合中的关键词之间的关联关系和目标样本语句之间的关联关系;训练子单元(图中未示出),配置用于将样本特征向量作为输入,将样本文本的文本类别作为输出,训练得到文本分类模型。

在本实施例的一些可选的实现方式中,样本文本可以包括训练用样本文本和测试用样本文本;以及训练子单元可以包括:训练模块(图中未示出),配置用于将训练用样本文本的样本特征向量作为输入,将训练用样本文本的文本类别作为输出,训练得到候选文本分类模型;测试模块(图中未示出),配置用于利用测试用样本文本的样本特征向量和测试用样本文本的文本类别对候选文本分类模型进行测试,得到候选文本分类模型的分类准确率;第三确定模块(图中未示出),配置用于若分类准确率达到预设分类准确率阈值,将候选文本分类模型作为文本分类模型。

下面参考图6,其示出了适于用来实现本申请实施例的服务器的计算机系统600的结构示意图。图6示出的服务器仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示,计算机系统600包括中央处理单元(cpu)601,其可以根据存储在只读存储器(rom)602中的程序或者从存储部分608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。在ram603中,还存储有系统600操作所需的各种程序和数据。cpu601、rom602以及ram603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。

以下部件连接至i/o接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至i/o接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(cpu)601执行时,执行本申请的方法中限定的上述功能。

需要说明的是,本申请上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于:电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。

附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、抽取单元、提取单元、分类单元和输出单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取待分类文本的单元”。

作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的服务器中所包含的;也可以是单独存在,而未装配入该服务器中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该服务器执行时,使得该服务器:获取待分类文本,其中,待分类文本包括待分类语句集合;从待分类语句集合中抽取出待分类语句作为目标待分类语句,生成目标待分类语句集合;从目标待分类语句集合中提取待分类特征向量,其中,待分类特征向量用于描述目标待分类语句的关键词集合中的关键词之间的关联关系和目标待分类语句之间的关联关系;将待分类特征向量输入至预先训练的文本分类模型进行分类,得到待分类文本的文本类别,其中,文本分类模型用于表征特征向量与文本类别之间的对应关系;输出待分类文本的文本类别。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1