基于大数据的文本分词方法、及其相关设备与流程

1.本技术涉及大数据和人工智能技术领域，尤其涉及一种基于大数据的文本分词方法、装置、计算机设备及存储介质。


背景技术：

2.随着经济全球化的到来，国内外交流日趋频繁，存在大量中英文混用的情况，因而从中英文混合语料库中提取词的需求也逐步增大。现有技术中，将中英文文段均按照中文字符的方式进行切割，导致语料库膨胀，计算量大的问题。


技术实现要素：

3.本技术实施例的目的在于提出一种基于大数据的文本分词方法、装置、计算机设备及存储介质，以解决语料库膨胀，计算量大的问题。
4.为了解决上述技术问题，本技术实施例提供一种基于大数据的文本分词方法，采用了如下所述的技术方案：
5.对待处理文本进行预处理，得到由汉字类型词元以及非汉字类型词元构成的语料库；
6.将所述语料库中非汉字类型词元放入一元候选词库；
7.利用二元分词、三元分词以及四元分词对所述语料库中的汉字类型词元进行前后拼接分词，得到二元文本片段集合，三元文本片段集合以及四元文本片段集合；
8.删除所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中满足预设条件的二元候选词、三元候选词、四元候选词，得到二元候选词库、三元候选词库以及四元候选词库。
9.为了解决上述技术问题，本技术实施例还提供一种基于大数据的文本分词装置，采用了如下所述的技术方案：
10.处理模块，用于对待处理文本进行预处理，得到由汉字类型词元以及非汉字类型词元构成的语料库；
11.归纳模块，用于将所述语料库中非汉字类型词元放入一元候选词库；
12.分词模块，用于利用二元分词、三元分词以及四元分词对所述语料库中的汉字类型词元进行前后拼接分词，得到二元文本片段集合，三元文本片段集合以及四元文本片段集合；
13.删除模块，用于删除所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中满足预设条件的二元候选词、三元候选词、四元候选词，得到二元候选词库、三元候选词库以及四元候选词库。
14.为了解决上述技术问题，本技术实施例还提供一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器执行所述计算机程序时实现上述所述的基于大数据的文本分词方法的步骤。
expertsgroup audio layer iii，动态影像专家压缩标准音频层面3)、mp4(moving pictureexperts group audio layer iv，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
28.服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
29.需要说明的是，本技术实施例所提供的基于大数据的文本分词方法一般由服务器执行，相应地，基于大数据的文本分词装置一般设置于服务器中。
30.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
31.继续参考图2，示出了根据本技术的基于大数据的文本分词方法的一个实施例的流程图。所述的基于大数据的文本分词方法，包括以下步骤：
32.步骤s201，对待处理文本进行预处理，得到由汉字类型词元以及非汉字类型词元构成的语料库；
33.在本实施例中，基于大数据的文本分词方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式与终端进行通信。需要指出的是，上述无线连接方式可以包括但不限于3g/4g连接、wifi连接、蓝牙连接、wimax连接、zigbee连接、uwb(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
34.待处理文本可以是文学经典著作，时论文章，科技论文等以纯汉字文本，或者汉字与非汉字如英文单词，数字等混合而成的文本；预处理包括去除空格、标点符号等，也包括识别出非汉字，并标记文本中的汉字与非汉字。词元类型包括汉字类型与非汉字类型。对待处理文本进行空格、标点符号去除后以及标记词元类型后，得到由汉字类型词元以及非汉字类型词元构成的语料库。汉字类型的词元所占据的内存空间比非汉字类型的词元大，可通过占据的内存空间识别出汉字类型词元与非汉字类型词元。
35.步骤s202，将所述语料库中非汉字类型词元放入一元候选词库；
36.单个的英文字母是无意义的，将语料库中非汉字类型的词元如英文词组spring、数字3等，放入一元候选词库，将非汉字筛选出来，尽管增大了非汉字词元的长度，增加了一元候选词库，但筛除无意义的英文拼接词组，缩短了整个候选词库的长度，优化了整体的计算容量，提升了分词效率。
37.步骤s203，利用二元分词、三元分词以及四元分词对所述语料库中的汉字类型词元进行前后拼接分词，得到二元文本片段集合，三元文本片段集合以及四元文本片段集合；
38.利用二元分词切分前后拼接法对预料库中的汉字类型的词元进行分词，得到二元文本片段集合。若语料库为{ai,a
i+1
,a
i+2
,a
i+3
,a
i+4
,a
i+5
.......a
i-1+n
,a
i+n
}，n∈n，二元文本片段集合为{(a
iai+1
),(a
i+1ai+2
),(a
i+2ai+3
)...}；同理，利用三元分词切分前后拼接法对语料库中的汉字类型的词元进行分词，得到三元文本片段集合，三元文本片段集合为{(a
iai+1ai+2
),(a
i+1ai+2ai+3
),(a
i+2ai+3ai+4
)...},i∈n；利用四元分词切分前后拼接法对语料库中的汉字类型的词元进行分词，得到四元文本片段集合，四元文本片段集合为{(a
iai+1ai+2ai+3
),(a
i+1ai+2ai+3ai+4
),(a
i+2ai+3ai+4ai+5
)...},i∈n。
39.步骤s204，删除所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中满足预设条件的二元候选词、三元候选词、四元候选词，得到二元候选词库、三元候选
词库以及四元候选词库。
40.通过切分拼接分词法对语料库进行处理，得到二元文本片段集合、三元文本片段集合以及四元文本片段集合。二元文本片段集合中的词为二元候选词，二元候选词包括两个词元，同理，三元候选词包含三个词元，四元候选词包括四个词元。预设条件可包括各个文本片段集合中候选词在语料库中出现的频率小于该文本片段集合设置的预设频率。预设条件还可包括各个文本片段集合中候选词的自由度和凝合度中的一个或全部小于对应的阈值。在候选词满足预设条件，则删除各个文本片段集合中的候选词。将不符合词组条件的候选词剔除，得到二元候选词库、三元候选词库以及四元候选词库。需要说明的是，集合中的元素不能存在重复，对于重复的候选词，可自动过滤，以减少候选词库的词元，避免空间被占用。
41.在本实施例中，对待处理文本进行预处理，识别出待文本中的汉字词元与非汉字词元，对词元类型进行标记后，得到由汉字类型词元与非汉字类型词元构成的语料库，将非汉字词组作为一个词元进行分开，将单个字母无意义的英文词组筛选出来，尽管增加了非汉字候选词库的长度，但整体候选词库的长度随非汉字字符的去除而缩小，达到缩小整体候选词库长度的有益效果。
42.需要强调的是，为进一步保证上述候选词库的私密和安全性，上述一元候选词库、二元候选词库、三元候选词库以及四元候选词库还可以存储于一区块链的节点中。
43.本技术所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
44.进一步的，上述步骤s201可以包括：
45.步骤s2011，调用预设函数将所述待处理文本转换成字节流，顺序读取所述字节流中的字符；
46.步骤s2012，根据所述字节流中各个字符所占用的存储空间标记字符的字符类型，其中，所述字符类型包括汉字类型以及非汉字类型；
47.步骤s2013，根据各个所述字符的unicode码将全角字符转换成半角字符；
48.步骤s2014，将转换后的半角字符以及所述待处理文本的半角字符写入新文本，替换所述待处理文本，得到所述语料库。
49.首先读取待处理文本，预设函数为字节流转换函数，如newbyte函数，顺序读取字节流中的字符。可读取字符流中各个字符所占用的存储空间，根据各个字符占用的存储空间标记字符类型，汉字类型或非汉字类型。需要说明的是，在识别出英文字母后，若存在多个英文字母，则根据这些英文字符的前后组合以及与英文字典的匹配度，识别出英文字元，例如，“s”、“p”、“r”、“i”、“n”、“g”可组合成英文字元“spring”。
50.按照字节流的先后顺序读取其中的字符，根据标记后的字符的unicode码大小进行转换，将全角字符转换成半角字符。根据全角：是指中gb2312-80(《信息交换用汉字编码字符集
·
基本集》)中的各种符号。半角：是指英文件ascii中的各种符号。在待处理文本中的半角字符不被处理
51.字符被标记后，会保留有标记类型，例如在字符的上标或下标标注有字符类型的符合，经字符转换后也能保持。将半角字符写入到新文本中，新文本中半角字符标记有字符类型，且新文本中包含待处理文本中未被转换的半角字符，将新文本替换待处理文本，得到语料库。通过上述将全角字符转换成半角字符，可精准地识别出新文本中的汉字以及非汉字，对新文字中的词元添加汉字类型或非汉字类型，得到语料库。
52.在本实施例中，通过将全角字符转换成半角字符，根据字节流中字符所占用的存储空间精准识别出汉字以及非汉字词元，并对词元进行标记，得到由汉字类型词元与非汉字类型词元构成的语料库。
53.进一步的，步骤s2013可以包括以下步骤：
54.步骤s20131，在所述字符的unicode码大于或等于u+ff01，且小于或等于u+ff5e时，所述标记后的字符为全角字符，将所述全角字符的unicode码减去65248，得到对应标记后的半角字符；
55.步骤s20132，在所述字符的编码等于u+3000时，所述标记后的字符为全角字符，将所述全角字符的编码转换成u+0020，得到对应标记后的半角字符。
56.在字符的unicode码大于或等于u+ff01，且小于或等于u+ff5e时，表明该标记后的字符为全角字符，将其编码减去65248，即将全角字符转换成半角字符，得到该字符对应的半角字符。在字符的编码等于u+3000时，表明该标记后的字符为全角字符中的空格，将所述字符的编码转换成u+0020，变成半角字符。在标记后的字符的unicode码不处于上述编码区间时，不对字符做进一步的处理。可利用dbc case函数实现全角字符对半角字符的转换。
57.在本实施例中，通过增加全角转半角的预处理，使得文本库的格式统一，以与字典库匹配，根据各个字符的原unicode编码准确识别中英文混杂文本中的非汉字词元，进而精准标记新文本中汉字与非汉字词元，以精准筛选出由非汉字词元构成的一元候选词库。
58.进一步的，步骤s204可以包括以下步骤：
59.步骤s2041，获取所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中的二元候选词、三元候选词以及四元候选词；
60.步骤s2042，分别获取各个所述二元候选词在所述语料库中的频率，各个所述三元候选词在所述语料库中的频率，各个所述四元候选词在所述语料库中的频率；
61.步骤s2043，在所述二元候选词、三元候选词以及四元候选词的频率小于对应的预设频率时，满足所述预设条件，删除满足预设条件的二元候选词、三元候选词、四元候选词，得到二元候选词库、三元候选词库以及四元候选词库，所述预设条件包括所述二元候选词、三元候选词以及四元候选词的频率中的一个或多个小于对应的预设频率。
62.获取所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中的二元候选词、三元候选词以及四元候选词；获取各个候选词在预料库中出现的频率，在频率较低时，表明该候选词不构成词组，候选词的结合本身无意义，需将其剔除。候选词的频率是指候选词在预料库中出现的次数与预料库中所有同类型的候选词的个数之比，例如，二元候选词的频率为该二元候选词在语料库中出现的次数与预料库中所有二元候选词的个数之比。
63.在本实施例中，预设条件包括二元候选词小于二元候选词预设频率，三元候选词小于三元候选词预设频率，四元候选词小于四元候选词预设频率中的一个或多个。
64.需要说明的是，每一个文本片段集合所对应的预设频率不同，预设频率可进行自定义设置，可根据实际去调整预设频率的值，以精准筛选出词组。若候选词在语料库中出现的概率小于其对应的文本片段集合的预设概率，则满足预设条件。
65.若二元候选词存在满足预设条件的情形，则删除所有满足预设条件的二元候选词，得到二元候选词库。三元候选词与四元候选词也是如此处理，在此不做赘述。
66.在本实施例中，通过获取候选词在语料库中的频率，根据候选词的频率剔除无意义且不构成词组的候选词，精准筛选出有价值的词元，缩短候选词库的长度有益效果。
67.进一步的，步骤s204还可以包括以下步骤：
68.步骤s2044，获取所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中的二元候选词、三元候选词以及四元候选词；
69.步骤s2045，获取各个二元候选词、三元候选词以及四元候选词的自由度以及凝合度；
70.步骤s2046，若所述二元候选词、三元候选词以及四元的自由度小于所述所述候选词对应的预设自由度，或所述二元候选词、三元候选词以及四元候选词的凝合度小于所述候选词对应的预设凝合度，则满足所述预设条件，删除满足预设条件的二元候选词、三元候选词、四元候选词，得到二元候选词库、三元候选词库以及四元候选词库。
71.在本实施例中，自由度可以是：当一个文本片段出现在各种不同的文本集中，且具有左邻字集合和右邻字集合，左邻字集合是指出现在文本片段左边相邻的字符的集合，右邻字集合是指出现在文本片段右边相邻的字符的集合，通过计算左邻字集合和右邻字集合的信息熵获取一个文本片段的信息熵，取左邻字集合和右邻字集合中较小信息熵作为自由度。凝合度为候选词在语料库中出现的概率与候选词中单个词元出现的概率之积的比值。其中各个文本片段集合对应的预设自由度与预设凝合度不同，可根据需要进行设置。在候选词的自由度小于该候选词对应文本片段集合的预设自由度，或者候选词的凝合度小于该候选词对应文本片段集合的预设自由度凝合度时，则满足预设条件。
72.在二元候选词满足上述预设条件时，从二元文本片段集合中删除所有满足上述预设体哦阿健的候选词，得到二元候选词库。三元候选词、四元候选词也是如此，不再一一赘述。
73.在本实施例中，通过计算候选词的自由度与凝合度，反映候选词中字之间的关系，若自由度与凝结度越高，则候选词成词的概率越大，提升了多元候选词库成词的有效性，同时进一步缩减预设词库中的词元，更精准地进行分词。
74.进一步的，候选词的凝合度等于候选词在语料库中出现的概率与候选词中单个词元在语料库中的概率之积的比值；所述候选词的自由度h：
75.h＝min{s’,s”}；
76.其中，h表示候选词的自由度，s
′
表示候选词的右熵，s
″
为候选词的左熵，取左邻字集合和右邻字集合中较小信息熵作为自由度；bi属于候选词的右邻字集，n
bi
表示bi出现在候选词右边的频数，k表示候选词的右邻字集中字元素个数，为候选词的左熵；mi属于候选词的左邻字集，n
mi
表示mi出现在候选词左边的频数，m表示候选词的左邻字集中字元素个数。
77.以二元候选词的凝合度为例，m为凝合度，其中，m为凝合度，p(a)、p(b)为候选词中单个词元在语料库中的概率；p(ab)为候选词在语料库中出现的概率。
78.若候选词成词在文本片段集合中分布充足，那么相对于不成词的候选词，成词的候选词的凝合度相对较高，且自由度更大。若将候选词的左右邻字集合看作随机变量，候选词左右邻字集的信息熵就反映了这个字左右邻字的随机性，熵值越大说明该字的左邻字集合或右邻字集合越丰富,则取左右邻字集中较小的熵作为自由度。对于成词的候选词凝合程度较高，说明候选词中字与字关系程度紧密，在计算凝合度时，则取凝合度较小的作为该候选词的凝合度。
79.在本实施例中，通过获取候选词在左、右邻字集合中的分布程度以及候选词中字与字之间的关系程度，筛选出分布不丰富或候选词中字与字之间关系松散的候选词，进一步优化候选词库中的候选词，以得到真正有价值、有意义的候选词。
80.进一步的，步骤s204之前，还包括以下步骤：
81.遍历各个文本片段集合中的候选词；
82.步骤s205，判断所述候选词是否包含于所述候选词对应的字典词库中；
83.步骤s206，若所述候选词包含于对应的字典词库中，将所述候选词从对应的文本片段集合中删除。
84.在本实施例中，调用了标准化的字典词库，字典词库为现有的标准化的词组字典，二元文本片段集合对应二元字典词库，三元文本片段集合对应三元字典词库，四元文本片段集合对应四元字典词库。通过遍历各个文本片段集合中的候选词，并判断候选词是否属于该候选词对应的字典词库中，若候选词包含于对应的字典词库中，则将该候选词从对应的文本片段集合中删除。删除与现有的词库字典中重复的词元，进一步缩小候选词库的长度。
85.在本实施例中，通过将文本片段集合中的候选词与字典词库进行比对，筛选出已经包含于字典词库中的候选词，极大地减少了文本片段集合中候选词的数量，减少了运算量，提升了工作效率。
86.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(artificial intelligence，ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
87.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
88.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory，rom)等非易失性存储介质，或随机存储记忆体(random access memory，ram)等。
89.应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
90.如图3所示，本实施例所述的基于大数据的文本分词装置300包括：处理模块301、归纳模块302、分词模块303以及删除模块304，其中：
91.处理模块301，用于对待处理文本进行预处理，得到由汉字类型词元以及非汉字类型词元构成的语料库；
92.归纳模块302，用于将所述语料库中非汉字类型词元放入一元候选词库；
93.分词模块303，用于利用二元分词、三元分词以及四元分词对所述语料库中的汉字类型词元进行前后拼接分词，得到二元文本片段集合，三元文本片段集合以及四元文本片段集合；
94.删除模块304，用于删除所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中满足预设条件的二元候选词、三元候选词、四元候选词，得到在本实施例中，对待处理文本进行预处理，识别出待文本中的汉字词元与非汉字词元，对词元类型进行标记后，得到由汉字类型词元与非汉字类型词元构成的语料库，将非汉字词组作为一个词元进行分开，将单个字母无意义的英文词组筛选出来，尽管增加了非汉字候选词库的长度，但整体候选词库的长度随非汉字字符的去除而缩小，达到缩小整体候选词库长度的有益效果。
95.在本实施例的一些可选的实现方式中，处理模块301包括：转换子单元和标记子单元，其中：
96.读取子单元，用于调用预设函数将所述待处理文本转换成字节流，顺序读取所述字节流中的字符；
97.标记子单元，用于根据所述字节流中各个字符的所占用的存储空间标记字符的字符类型，其中，所述字符类型包括汉字类型以及非汉字类型；
98.转换子单元，用于根据各个所述字符的unicode码将全角字符转换成半角字符；
99.写入子单元，用于将转换后的半角字符以及所述待处理文本的半角字符写入新文本，替换所述待处理文本，得到所述语料库。
100.在本实施例中，通过将全角字符转换成半角字符，根据字节流中字符所占用的存储空间精准识别出汉字以及非汉字词元，并对词元进行标记，得到由汉字类型词元与非汉字类型词元构成的语料库。
101.在本实施例的一些可选的实现方式中，转换子单元包括：汉字转换子单元与空格转换子单元，其中：
102.汉字转换子单元，用于在所述字符的unicode码大于或等于u+ff01，且小于或等于u+ff5e时，所述标记后的字符为全角字符，将所述全角字符的unicode码减去65248，得到对应标记后的半角字符；
103.空格转换子单元，用于在所述字符的编码等于u+3000时，所述标记后的字符为全角字符，将所述全角字符的编码转换成u+0020，得到对应标记后的半角半角字符。
104.在本实施例中，通过增加全角转半角的预处理，使得文本库的格式统一，以与字典库匹配，根据各个字符的原unicode编码准确识别中英文混杂文本中的非汉字词元，进而精准标记新文本中汉字与非汉字词元，以精准筛选出由非汉字词元构成的一元候选词库。
105.在本实施例的一些可选的实现方式中，删除模块包括：词元获取子单元、频率获取子单元以及比较子单元，其中：
106.词元获取子单元，用于获取所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中的二元候选词、三元候选词以及四元候选词；
107.频率获取子单元，用于分别获取各个所述二元候选词在所述语料库中的频率，各个所述三元候选词在所述语料库中的频率，各个所述四元候选词在所述语料库中的频率；
108.比较子单元，用于在所述二元候选词、三元候选词以及四元候选词的频率小于对应的预设频率时，满足所述预设条件，删除满足预设条件的二元候选词、三元候选词、四元候选词，得到二元候选词库、三元候选词库以及四元候选词库，所述预设条件包括所述二元候选词、三元候选词以及四元候选词的频率中的一个或多个小于对应的预设频率。
109.在本实施例中，通过获取候选词在语料库中的频率，根据候选词的频率剔除无意义且不构成词组的候选词，精准筛选出有价值的词元，缩短候选词库的长度有益效果。
110.在本实施例的一些可选的实现方式中，删除模块还包括：关系获取子单元以及关系比较子单元，其中：
111.词元获取子单元，用于获取所述二元文本片段集合，三元文本片段集合以及四元文本片段集合中的二元候选词、三元候选词以及四元候选词；
112.计算子单元，用于获取各个候选词的自由度以及凝合度；
113.关系比较子单元，用于若所述候选词的自由度小于所述候选词的预设自由度或所述候选词的凝合度小于所述候选词对应的预设凝合度，则满足所述预设条件。
114.在本实施例中，通过计算候选词的自由度与凝合度，反映候选词中字之间的关系，若自由度与凝结度越高，则候选词成词的概率越大，提升了多元候选词库成词的有效性，同时进一步缩减预设词库中的词元，更精准地进行分词。
115.在本实施例的一些可选的实现方式中，关系获取子单元还包括计算子单元，其中：
116.计算子单元，用于计算候选词的凝合度等于候选词在语料库中出现的概率与候选词中单个词元在语料库中的概率之积的比值；所述候选词的自由度h：
117.h＝min{s’,s”}；
118.其中，h表示候选词的自由度，s
′
表示候选词的右熵，s
″
为候选词的左熵，取左邻字集合和右邻字集合中较小信息熵作为自由度；bi属于候选词的右邻字集，n
bi
表示bi出现在候选词右边的频数，k表示候选词的右邻字集中字元素个数，为候选词的左熵；mi属于候选词的左邻字集，n
mi
表示mi出现在候选词左边的频数，m表示候选词的左邻字集中字元素个数。
119.在本实施例中，通过获取候选词在左、右邻字集合中的分布程度以及候选词中字与字之间的关系程度，筛选出分布不丰富或候选词中字与字之间关系松散的候选词，进一步优化候选词库中的候选词，以得到真正有价值、有意义的候选词。
120.在本实施例的一些可选的实现方式中，基于大数据的文本分词装置300还包括判
断模块与精选模块，其中：
121.判断模块，用于判断所述候选词是否包含于所述候选词对应的字典词库中；
122.精选模块，用于若所述候选词包含于对应的字典词库中，将所述候选词从对应的文本片段集合中删除。
123.在本实施例中，通过将文本片段集合中的候选词与字典词库进行比对，筛选出已经包含于字典词库中的候选词，极大地减少了文本片段集合中候选词的数量，减少了运算量，提升了工作效率。
124.为解决上述技术问题，本技术实施例还提供计算机设备。具体请参阅图9，图9为本实施例计算机设备基本结构框图。
125.所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(application specific integrated circuit，asic)、可编程门阵列(field－programmable gate array，fpga)、数字处理器(digital signal processor，dsp)、嵌入式设备等。
126.所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
127.所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(smart media card,smc)，安全数字(secure digital,sd)卡，闪存卡(flash card)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如基于大数据的文本分词方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
128.所述处理器42在一些实施例中可以是中央处理器(central processing unit，cpu)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述基于大数据的文本分词方法的计算机可读指令。
129.所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
130.本实施例中提供的计算机设备可以执行上述基于大数据的文本分词方法的步骤。此处基于大数据的文本分词方法的步骤可以是上述各个实施例的基于大数据的文本分词方法中的步骤。
131.在本实施例中，对待处理文本进行预处理，识别出待文本中的汉字词元与非汉字词元，对词元类型进行标记后，得到由汉字类型词元与非汉字类型词元构成的语料库，将非汉字词组作为一个词元进行分开，将单个字母无意义的英文词组筛选出来，尽管增加了非汉字候选词库的长度，但整体候选词库的长度随非汉字字符的去除而缩小，达到缩小整体候选词库长度的有益效果。
132.本技术还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的基于大数据的文本分词方法的步骤。
133.在本实施例中，对待处理文本进行预处理，识别出待文本中的汉字词元与非汉字词元，对词元类型进行标记后，得到由汉字类型词元与非汉字类型词元构成的语料库，将非汉字词组作为一个词元进行分开，将单个字母无意义的英文词组筛选出来，尽管增加了非汉字候选词库的长度，但整体候选词库的长度随非汉字字符的去除而缩小，达到缩小整体候选词库长度的有益效果。
134.通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本技术各个实施例所述的方法。
135.显然，以上所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例，附图中给出了本技术的较佳实施例，但并不限制本技术的专利范围。本技术可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本技术的公开内容的理解更加透彻全面。尽管参照前述实施例对本技术进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本技术说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本技术专利保护范围之内。