数据分类方法及装置制造方法

文档序号:6628880阅读:216来源:国知局
数据分类方法及装置制造方法
【专利摘要】本公开揭示了一种数据分类方法及装置,属于数据分类【技术领域】。所述数据分类方法包括:获取测试数据,通过预定方法计算得到与测试数据对应的稀疏系数向量;根据训练得到的训练矩阵确定稀疏系数向量中的每个非零变量针对每种类别标签的后验概率;根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和;将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别。通过确定稀疏系数向量中的每个非零变量针对每种类别的后验概率,将后验概率和值最大的类别确定为测试数据的类别;因此解决了一般的分类方法由于需要训练复杂的分类器且存在大量的模型文件,从而使得分类速度较慢的问题;达到了提高分类效率的效果。
【专利说明】数据分类方法及装置

【技术领域】
[0001]本公开涉及数据分类【技术领域】,特别涉及一种数据分类方法及装置。

【背景技术】
[0002]分类是一种重要的数据挖掘技术。分类的目的是根据数据集的特点构造一个分类函数或分类器。该分类器能把未知类别的样本映射到给定类别中,如何更好地使用分类器就成了提高分类效果的关键。
[0003]相关技术中在字典学习与稀疏分解算法的基础上,一般的分类方法会应用复杂的分类器模型,同时对分类器本身进行训练,并需要大量模型文件。
[0004]发明人在实现本公开的过程中,发现相关技术至少存在如下缺陷:一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢。


【发明内容】

[0005]为了解决相关技术中一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢的问题,本公开提供一种数据分类方法及装置。所述技术方案如下:
[0006]根据本公开实施例的第一方面,提供一种数据分类方法,所述方法包括:
[0007]获取测试数据,通过预定方法计算得到与所述测试数据对应的稀疏系数向量,所述稀疏系数向量是所述测试数据映射到训练得到的字典上时得到的系数向量;
[0008]对于所述稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定所述非零变量针对每种类别标签的后验概率;
[0009]根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和;
[0010]将后验概率之和最大的类别标签所指示的类别,确定为所述测试数据的类别。
[0011]可选的,所述方法还包括:
[0012]选取第一训练样本集和第二训练样本集;
[0013]利用所述第一训练样本集得到所述字典,对于所述第二训练样本集中的每个训练样本,计算所述训练样本映射到所述字典时得到的稀疏系数向量,将所述稀疏系数向量确定为训练稀疏系数向量;
[0014]对于每个类别标签所指示的类别,根据各个所述训练稀疏系数向量中的位于同一位置的各个变量,计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于所述类别标签所指示类别的后验概率;
[0015]利用各个位置的变量所对应的后验概率组成所述训练矩阵;
[0016]其中,所述训练矩阵中一行的数据分别为各个所述训练稀疏系数向量中同一个位置的变量所对应的后验概率,所述训练矩阵的每一行对应各个所述训练稀疏系数向量中的一个位置的变量,每一列对应一个类别标签。
[0017]可选的,所述根据各个所述训练稀疏系数向量中的位于同一位置的各个变量,计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于所述类别标签所指不类别的后验概率,包括:
[0018]对于所述训练稀疏系数向量中的一个位置,获取各个所述训练稀疏系数向量中所述位置处的变量,利用后验概率公式计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于每个类别标签所指示类别的后验概率;
[0019]其中,所述后验概率公式为:
[0020]P (C = Ci I Xj ! = O) = P (Xj.! = O | C = Ci) P (Ci) /P (Xj ! = O)
[0021]其中,先验概率P(Ci)为所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率;先验概率P(x] ! = O)为所述稀疏系数向量中变量\为非O的概率;条件概率P (Xj != OlC = Ci)为在所述训练稀疏系数向量所对应的训练样本属于第Ci类时,所述稀疏系数向量的变量Xj为非O的概率;所述后验概率P (C = CiIxj ! = O)为在所述稀疏系数向量中变量\为非O时,所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率,1、j为大于O的自然数。
[0022]可选的,所述利用所述第一训练样本集得到所述字典,对于所述第二训练样本集中的每个训练样本,计算所述训练样本映射到所述字典时得到的稀疏系数向量,包括:
[0023]将所述第一训练样本集中的各个训练样本变换为列向量,将得到的列向量依序排列成矩阵,构成所述字典,利用第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量;
[0024]或,
[0025]对于所述第一训练样本集中的各个训练样本,采用奇异值分解算法进行字典的学习,得到所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量;
[0026]或,
[0027]根据类别对所述第一训练样本集中各个训练样本进行分组,得到至少一个训练样本子集,每个训练样本子集中的训练样本具有相同的类别;采用奇异值分解算法分别对各个训练样本子集进行字典学习,得到各个训练样本子集的字典;将各个训练样本子集的字典级联组成获取的所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量。
[0028]其中,所述第一公式为:min(x) | x | 11; s.t.y = Dx,所述D为字典,y为所述训练数据,X为上述稀疏系数向量。
[0029]可选的,所述通过预定方法计算得到与所述测试数据对应的稀疏系数向量,包括:
[0030]利用训练时得到的所述字典以及所述测试数据,得到所述测试数据对应的稀疏系数向量。
[0031]根据本公开实施例的第二方面,提供一种数据分类装置,所述装置包括:
[0032]第一计算模块,被配置为获取测试数据,通过预定方法计算得到与所述测试数据对应的稀疏系数向量,所述稀疏系数向量是所述测试数据映射到训练得到的字典上时得到的系数向量;
[0033]第一确定模块,被配置为对于所述稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定所述非零变量针对每种类别标签的后验概率;
[0034]第二计算模块,被配置为根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和;
[0035]第二确定模块,被配置为将后验概率之和最大的类别标签所指示的类别,确定为所述测试数据的类别。
[0036]可选的,所述装置还包括:
[0037]选取模块,被配置为选取第一训练样本集和第二训练样本集;
[0038]第三计算模块,被配置为利用所述第一训练样本集得到所述字典,对于所述第二训练样本集中的每个训练样本,计算所述训练样本映射到所述字典时得到的稀疏系数向量,将所述稀疏系数向量确定为训练稀疏系数向量;
[0039]第四计算模块,被配置为对于每个类别标签所指示的类别,根据各个所述训练稀疏系数向量中的位于同一位置的各个变量,计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于所述类别标签所指示类别的后验概率;
[0040]组成模块,被配置为利用各个位置的变量所对应的后验概率组成所述训练矩阵;
[0041]其中,所述训练矩阵中一行的数据分别为各个所述训练稀疏系数向量中同一个位置的变量所对应的后验概率,所述训练矩阵的每一行对应各个所述训练稀疏系数向量中的一个位置的变量,每一列对应一个类别标签
[0042]可选的,所述第四计算模块被配置为对于所述训练稀疏系数向量中的一个位置,获取各个所述训练稀疏系数向量中所述位置处的变量,利用后验概率公式计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于每个类别标签所指示类别的后验概率;
[0043]其中,所述后验概率公式为:
[0044]P (C = Ci I Xj ! = O) = P (Xj.! = O | C = Ci) P (Ci) /P (Xj ! = O)
[0045]其中,先验概率P(Ci)为所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率;先验概率P(x] ! = O)为所述稀疏系数向量中变量\为非O的概率;条件概率P (Xj != OlC = Ci)为在所述训练稀疏系数向量所对应的训练样本属于第Ci类时,所述稀疏系数向量的变量Xj为非O的概率;所述后验概率P (C = CiIxj ! = O)为在所述稀疏系数向量中变量\为非O时,所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率,1、j为大于O的自然数。
[0046]可选的,所述第三计算模块,包括:
[0047]第一计算子模块,被配置为将所述第一训练样本集中的各个训练样本变换为列向量,将得到的列向量依序排列成矩阵,构成所述字典,利用第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量;
[0048]或,
[0049]第二计算子模块,被配置为对于所述第一训练样本集中的各个训练样本,采用奇异值分解算法进行字典的学习,得到所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量;
[0050]或,
[0051]第三计算子模块,被配置为根据类别对所述第一训练样本集中各个训练样本进行分组,得到至少一个训练样本子集,每个训练样本子集中的训练样本具有相同的类别;采用奇异值分解算法分别对各个训练样本子集进行字典学习,得到各个训练样本子集的字典;将各个训练样本子集的字典级联组成获取的所述字典,,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量。
[0052]其中,所述第一公式为:min(x) | x | 11; s.t.y = Dx,所述D为字典,y为所述训练数据,X为上述稀疏系数向量。
[0053]可选的,所述第一计算模块被配置为利用训练时得到的所述字典以及所述测试数据,得到所述测试数据对应的稀疏系数向量。
[0054]根据本公开实施例的第三方面,提供一种数据分类装置,所述装置包括:
[0055]处理器;
[0056]用于存储所述处理器可执行指令的存储器;
[0057]其中,所述处理器被配置为:
[0058]获取测试数据,通过预定方法计算得到与所述测试数据对应的稀疏系数向量,所述稀疏系数向量是所述测试数据映射到训练得到的字典上时得到的系数向量;
[0059]对于所述稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定所述非零变量针对每种类别标签的后验概率;
[0060]根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和;
[0061]将后验概率之和最大的类别标签所指示的类别,确定为所述测试数据的类别。
[0062]本公开的实施例提供的技术方案可以包括以下有益效果:
[0063]通过计算得到与测试数据对应的稀疏系数向量,根据训练得到的训练矩阵确定稀疏系数向量中的每个非零变量针对每种类别标签的后验概率,计算每种类别标签所对应的后验概率之和,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别;由于只需计算后验概率就能确定测试数据的类别,因此解决了一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢的问题;达到了提高分类效率的效果。
[0064]应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。

【专利附图】

【附图说明】
[0065]此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并于说明书一起用于解释本公开的原理。
[0066]图1是根据一示例性实施例示出的一种数据分类方法的流程图;
[0067]图2是根据另一示例性实施例示出的一种数据分类方法的流程图;
[0068]图3是根据一示例性实施例示出的一种数据分类装置的框图;
[0069]图4是根据另一示例性实施例示出的一种数据分类装置的框图;
[0070]图5是根据一示例性实施例示出的一种用于对数据进行分类的装置的框图。

【具体实施方式】
[0071]这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
[0072]图1是根据一示例性实施例示出的一种数据分类方法的流程图,如图1所示,该数据分类方法可以包括以下步骤。
[0073]在步骤101中,获取测试数据,通过预定方法计算得到与测试数据对应的稀疏系数向量,稀疏系数向量是测试数据映射到训练得到的字典上时得到的系数向量。
[0074]在步骤102中,对于稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定非零变量针对每种类别标签的后验概率。
[0075]在步骤103中,根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和。
[0076]在步骤104中,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别。
[0077]综上所述,本公开实施例中提供的数据分类方法,通过计算得到与测试数据对应的稀疏系数向量,根据训练得到的训练矩阵确定稀疏系数向量中的每个非零变量针对每种类别标签的后验概率,计算每种类别标签所对应的后验概率之和,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别;由于只需计算后验概率就能确定测试数据的类别,因此解决了一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢的问题;达到了提高分类效率的效果。
[0078]图2是根据另一示例性实施例示出的一种数据分类方法的流程图,如图2所示,该数据分类方法可以包括以下步骤。
[0079]在步骤201中,选取第一训练样本集和第二训练样本集。
[0080]这里的第一训练样本集和第二训练样本集可以是从一个总训练样本集中选取得至IJ,第一训练样本集中的训练样本可以与第二训练样本集中的训练样本相同、部分相同或者全部不同。
[0081]举例来讲,在一个总训练样本集中有10000个训练样本,此时可以选取3000个训练样本作为第一训练样本集,选取剩下的7000个训练样本作为第二训练样本集;或者选取6000个训练样本作为第一训练样本集,选取7000个训练样本作为第二训练样本集,其中在第一训练样本集和第二训练样本集中有3000个相同的训练样本;或者选取全部10000个训练样本作为第一训练样本集和第二训练样本集,这样第一训练样本集和第二训练样本集中的训练样本就全部相同。
[0082]在步骤202中,利用第一训练样本集得到字典,对于第二训练样本集中的每个训练样本,计算训练样本映射到字典时得到的稀疏系数向量,将稀疏系数向量确定为训练稀疏系数向量。
[0083]在利用第一训练样本集获取字典时,可以通过以下三种方式实现。
[0084]在第一种实现方式中,将第一训练样本集中的各个训练样本变换为列向量,将得到的列向量依序排列成矩阵,构成字典。
[0085]举例来讲,第一训练样本集中有10000张mxn的图像作为训练样本,首先将每幅图像转换为(m*n)xl的列向量,得到10000个列向量,将这10000个列向量级联为一个(m*n)XlOOOO的矩阵,该矩阵即为字典。其中,10000个列向量与10000个训练样本——对应。
[0086]在第二种实现方式中,对于第一训练样本集中的各个训练样本,采用奇异值分解算法进行字典的学习,得到字典。
[0087]这里的奇异值分解算法主要步骤为:获取初始化字典,采用正交匹配跟踪算法计算得到稀疏系数矩阵,根据得到的稀疏系数矩阵利用第二公式迭代地更新字典与稀疏系数矩阵。
[0088]这里的第二公式为:min(X,D) ( Y-DX F)2s.t.| Xi |彡T。,其中X为稀疏系数矩阵,D为字典,Y为训练样本矩阵。
[0089]奇异值分解算法是本领域普通技术人员都能够实现的,这里就不再详述。
[0090]在第三种实现方式中,根据类别对第一训练样本集中各个训练样本进行分组,得到至少一个训练样本子集,每个训练样本子集中的训练样本具有相同的类别;采用奇异值分解算法分别对各个训练样本子集进行字典学习,得到各个训练样本子集的字典;将各个训练样本子集的字典级联组成获取的字典。
[0091]在得到字典后,可以利用第一公式计算第二训练样本集中的各个训练样本映射到字典时得到的稀疏系数向量,并将该稀疏系数向量确定为训练稀疏系数向量。
[0092]其中,第一公式为:min(x) | x | 11; s.t.y = Dx, D为通过上述三种实现方式中任意一种得到的字典,I为第二训练样本集中的训练样本,X为需要求解的训练稀疏系数向量。
[0093]在步骤203中,对于每个类别标签所指示的类别,根据各个训练稀疏系数向量中的位于同一位置的各个变量,利用后验概率公式计算该位置处的变量为非零时,训练稀疏系数向量所对应的训练样本属于每个类别标签所指示类别的后验概率。
[0094]这里的后验概率公式为:
[0095]P (C = Ci I Xj ! = O) = P (Xj.! = O | C = Ci) P (Ci) /P (Xj ! = O)
[0096]其中,先验概率P(Ci)为训练稀疏系数向量所对应的训练样本属于第Ci类的概率;先验概率P(Xj ! = O)为稀疏系数向量中变量为非O的概率;条件概率P(Xj ! =OlC =Ci)为在训练稀疏系数向量所对应的训练样本属于第Ci类时,稀疏系数向量的变量\为非O的概率;后验概率P (C = CiI^ ! =0)为在稀疏系数向量中变量&为非O时,训练稀疏系数向量所对应的训练样本属于第Ci类的概率,1、j为大于O的自然数。
[0097]条件概率P(Xj ! =OlC = Ci)可以根据各个训练稀疏系数向量中的位于同一位置的各个变量,进行相应计算得到。


"Π ?ιλ fo) p) fo、
[0098]举例来讲,得到的训练稀疏系数向量分别为O、2、3、1、2,其中,训练稀



v2y IvSy v0y
?λ⑴(O彳(2\〔O彳疏系数向量O、2、3所对应的训练样本属于C1类,训练稀疏系数向量1、2所对应的训练样本属于C2类。
[0099]在属于C1类的训练稀疏系数向量中,对应于第一位置的各个变量分别为1、1、0,由此可知,在训练稀疏系数向量所对应的训练样本属于C1类时,其第一位置的变量为非零的概率为2/3 ;对应于第二位置的各个变量分别为0、2、3,由此可知,在训练稀疏系数向量所对应的训练样本属于C1类时,其第二位置的变量为非零的概率为2/3 ;对应于第三位置的各个变量分别为0、0、2,由此可知,在训练稀疏系数向量所对应的训练样本属于C1类时,其第三位置的变量为非零的概率为1/3。
[0100]在属于C2类的训练稀疏系数向量中,对应于第一位置的各个变量分别为2、0,由此可知,在训练稀疏系数向量所对应的训练样本属于C2类时,其第一位置的变量为非零的概率为1/2 ;对应于第二位置的各个变量分别为1、2,由此可知,在训练稀疏系数向量所对应的训练样本属于C2类时,其第二位置的变量为非零的概率为I ;对应于第三位置的各个变量分别为3、0,由此可知,在训练稀疏系数向量所对应的训练样本属于C2类时,其第三位置的变量为非零的概率为1/2。
[0101]需要说明的是,这里的先验概率P(Ci)和P(Xj ! = O)可以等同于平均分布。
[0102]在步骤204中,利用各个位置的变量所对应的后验概率组成训练矩阵。
[0103]在计算得到各个变量属于每个类别标签所指示类别的后验概率后,将得到的这些后验概率组成一个训练矩阵,该训练矩阵可以应用于测试中。
[0104]训练矩阵中一行的数据分别为各个训练稀疏系数向量中同一个位置的变量所对应的后验概率,训练矩阵的每一行对应各个训练稀疏系数向量中的一个位置的变量,每一列对应一个类别标签。
[0105]举例来讲,假设共有三类类别标签,计算得到第一位置的变量X1属于C1类的后验概率为30%,属于C2类的后验概率为20%,属于C3类的后验概率为50% ;第二位置的变量X2属于C1类的后验概率为20%,属于C2类的后验概率为50 %,属于C3类的后验概率为


(0T, O 2 O 5^1
30%。此时将这些后验概率组成的训练矩阵为05其中矩阵的第一行代表第一位置的变量X1属于各类类别标签的概率,第二行代表第二位置的变量X2属于各类类别标签的概率,第一列代表各个训练样本属于C1类的概率,第二列代表各个训练样本属于C2类的概率,第三列代表各个训练样本属于C3类的概率。
[0106]在步骤205中,获取测试数据,利用训练时得到的字典以及测试数据,得到与测试数据对应的稀疏系数向量。
[0107]在获取测试数据和训练时得到的字典后,可以利用第一公式计算与测试数据对应的稀疏系数向量。
[0108]这里的第一公式为:min(x) | x | 11; s.t.y = Dx, D为通过步骤202中任意一种实现方式得到的字典,I为测试数据,X为需要求解的测试数据的稀疏系数向量。
[0109]在步骤206中,对于稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定非零变量针对每种类别标签的后验概率。
[0110]由于训练得到的训练矩阵中有各个变量属于每个类别标签所指示类别的后验概率,因此在获得测试数据的稀疏系数向量后,可以根据该训练矩阵得到该稀疏系数向量中每个非零变量针对每种类别标签的后验概率。


"0.3 0.2 0.5、
[0111]举例来讲,训练得到的训练矩阵为0.2 0.5 0.3,测试数据的稀疏系数向量为


、0.2 0.2 0.6,
H
I,根据该训练矩阵可以得到测试数据的稀疏系数向量中第一位置的非零变量属于C1类
1J
的概率为30%,属于C2类的概率为20%,属于C3类的概率为50%;第二位置的非零变量属于C1类的概率为20%,属于C2类的概率为50% ,属于C3类的概率为30%;由于第三位置的变量为零,因此不作考虑。
[0112]在步骤207中,根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和。
[0113]在获得稀疏系数向量中每个非零变量针对每种类别标签的后验概率后,将每种类别标签对应的后验概率相加,得到每种类别标签对应的后验概率之和。
[0114]仍参照上述例子,测试数据的稀疏系数向量为I ,其中,第一位置非零变量属于



1J
C1类的概率为30%,属于C2类的概率为20%,属于C3类的概率为50%;第二位置的非零变量属于C1类的概率为20%,属于C2类的概率为50%,属于C3类的概率为30%。将每种类别标签对应的后验概率相加后,得到测试数据属于C1类的后验概率之和为50%,属于C2类的后验概率之和为70%,属于C3类的后验概率之和为80%。
[0115]在步骤208中,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别。
[0116]在获得每种类别标签对应的后验概率之和后,将这些后验概率和值进行比较,得出和值最大的后验概率,将后验概率和值最大的类别标签对应的类别确定为测试数据的类别。
[0117]仍参照上述例子,在将每种类别标签对应的后验概率相加后,得到测试数据属于C1类的后验概率之和为50%,属于C2类的后验概率之和为70%,属于C3类的后验概率之和为80%。可以得出后验概率之和最大为80%,此时将后验概率之和为80%的类别标签所对应的C3类确定为测试数据的类别。
[0118]综上所述,本公开实施例中提供的数据分类方法,通过计算得到与测试数据对应的稀疏系数向量,根据训练得到的训练矩阵确定稀疏系数向量中的每个非零变量针对每种类别标签的后验概率,计算每种类别标签所对应的后验概率之和,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别;由于只需计算后验概率就能确定测试数据的类别,因此解决了一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢的问题;达到了提高分类效率的效果。
[0119]下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
[0120]图3是根据一示例性实施例示出的一种数据分类装置的框图,如图3所示,该数据分类装置可以包括但不限于:第一计算模块302、第一确定模块304、第二计算模块306和第二确定模块308。
[0121]该第一计算模块302,被配置为获取测试数据,通过预定方法计算得到与测试数据对应的稀疏系数向量,稀疏系数向量是测试数据映射到训练得到的字典上时得到的系数向量。
[0122]该第一确定模块304,被配置为对于稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定非零变量针对每种类别标签的后验概率。
[0123]该第二计算模块306,被配置为根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和。
[0124]该第二确定模块308,被配置为将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别。
[0125]综上所述,本公开实施例中提供的数据分类装置,通过计算得到与测试数据对应的稀疏系数向量,根据训练得到的训练矩阵确定稀疏系数向量中的每个非零变量针对每种类别标签的后验概率,计算每种类别标签所对应的后验概率之和,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别;由于只需计算后验概率就能确定测试数据的类别,因此解决了一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢的问题;达到了提高分类效率的效果。
[0126]图4是根据另一示例性实施例示出的一种数据分类装置的框图,如图4所示,该数据分类装置可以包括但不限于:第一计算模块402、第一确定模块404、第二计算模块406和第二确定模块408。
[0127]该第一计算模块402,被配置为获取测试数据,通过预定方法计算得到与测试数据对应的稀疏系数向量,稀疏系数向量是测试数据映射到训练得到的字典上时得到的系数向量。
[0128]该第一确定模块404,被配置为对于稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定非零变量针对每种类别标签的后验概率。
[0129]该第二计算模块406,被配置为根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和。
[0130]该第二确定模块408,被配置为将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别。
[0131]在一种可能的实施例中,该装置还包括:选取模块410、第三计算模块412、第四计算模块414和组成模块416。
[0132]该选取模块410,被配置为选取第一训练样本集和第二训练样本集。
[0133]该第三计算模块412,被配置为利用第一训练样本集得到字典,对于第二训练样本集中的每个训练样本,计算训练样本映射到字典时得到的稀疏系数向量,将稀疏系数向量确定为训练稀疏系数向量。
[0134]该第四计算模块414,被配置为对于每个类别标签所指示的类别,根据各个训练稀疏系数向量中的位于同一位置的各个变量,计算该位置处的变量为非零时,训练稀疏系数向量所对应的训练样本属于该类别标签所指示类别的后验概率。
[0135]该组成模块416,被配置为利用各个位置的变量所对应的后验概率组成训练矩阵。
[0136]其中,训练矩阵中一行的数据分别为各个训练稀疏系数向量中同一个位置的变量所对应的后验概率,训练矩阵的每一行对应各个训练稀疏系数向量中的一个位置的变量,每一列对应一个类别标签
[0137]在一种可能的实施例中,该第四计算模块414被配置为对于训练稀疏系数向量中的一个位置,获取各个训练稀疏系数向量中该位置处的变量,利用后验概率公式计算该位置处的变量为非零时,训练稀疏系数向量所对应的训练样本属于每个类别标签所指示类别的后验概率。
[0138]其中,后验概率公式为:
[0139]P (C = Ci I Xj ! = O) = P (Xj.! = O | C = Ci) P (Ci) /P (Xj ! = O)
[0140]其中,先验概率P(Ci)为训练稀疏系数向量所对应的训练样本属于第Ci类的概率;先验概率P(Xj ! = O)为稀疏系数向量中变量为非O的概率;条件概率P(Xj ! =OlC =Ci)为在训练稀疏系数向量所对应的训练样本属于第Ci类时,稀疏系数向量的变量\为非O的概率;后验概率P (C = CiI^ ! =0)为在稀疏系数向量中变量&为非O时,训练稀疏系数向量所对应的训练样本属于第Ci类的概率,1、j为大于O的自然数。
[0141]在一种可能的实施例中,该第三计算模块412可以包括:第一计算子模块412a、第二计算子模块412b或第三计算子模块412c。
[0142]该第一计算子模块412a,被配置为将第一训练样本集中的各个训练样本变换为列向量,将得到的列向量依序排列成矩阵,构成字典,利用第一公式计算得到第二训练样本集中的训练样本的稀疏系数向量。
[0143]或,
[0144]该第二计算子模块412b,被配置为对于第一训练样本集中的各个训练样本,采用奇异值分解算法进行字典的学习,得到字典,利用第一公式计算得到第二训练样本集中的训练样本的稀疏系数向量。
[0145]或,
[0146]该第三计算子模块412c,被配置为根据类别对第一训练样本集中各个训练样本进行分组,得到至少一个训练样本子集,每个训练样本子集中的训练样本具有相同的类别;采用奇异值分解算法分别对各个训练样本子集进行字典学习,得到各个训练样本子集的字典;将各个训练样本子集的字典级联组成获取的字典,利用第一公式计算得到第二训练样本集中的训练样本的稀疏系数向量。
[0147]在一种可能的实施例中,该第一计算模块402被配置为利用训练时得到的字典以及测试数据,得到测试数据对应的稀疏系数向量。
[0148]综上所述,本公开实施例中提供的数据分类装置,通过计算得到与测试数据对应的稀疏系数向量,根据训练得到的训练矩阵确定稀疏系数向量中的每个非零变量针对每种类别标签的后验概率,计算每种类别标签所对应的后验概率之和,将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别;由于只需计算后验概率就能确定测试数据的类别,因此解决了一般的分类方法由于需要训练复杂的分类器并且存在大量的模型文件,从而使得分类速度较慢的问题;达到了提高分类效率的效果。
[0149]关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
[0150]本公开一示例性实施例提供了一种数据分类装置,能够实现本公开提供的数据分类方法,该数据分类装置包括:处理器、用于存储处理器可执行指令的存储器;
[0151]其中,处理器被配置为:
[0152]获取测试数据,通过预定方法计算得到与测试数据对应的稀疏系数向量,稀疏系数向量是测试数据映射到训练得到的字典上时得到的系数向量;
[0153]对于稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定非零变量针对每种类别标签的后验概率;
[0154]根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和;
[0155]将后验概率之和最大的类别标签所指示的类别,确定为测试数据的类别。
[0156]图5是根据一示例性实施例示出的一种用于进行数据分类的装置的框图。例如,装置500可以被提供为一服务器。参照图5,装置500包括处理组件502,其进一步包括一个或多个处理器,以及由存储器504所代表的存储器资源,用于存储可由处理组件502的执行的指令,例如应用程序。存储器504中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件502被配置为执行指令,以执行上述数据分类方法。
[0157]装置500还可以包括一个电源组件506被配置为执行装置500的电源管理,一个有线或无线网络接口 508被配置为将装置500连接到网络,和一个输入输出(I/O)接口510。装置500可以操作基于存储在存储器504的操作系统,例如Windows ServerTM, MacOS XTM, UnixTM, LinuxTM, FreeBSDTM 或类似。
[0158]本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本【技术领域】中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
[0159]应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
【权利要求】
1.一种数据分类方法,其特征在于,所述方法包括: 获取测试数据,通过预定方法计算得到与所述测试数据对应的稀疏系数向量,所述稀疏系数向量是所述测试数据映射到训练得到的字典上时得到的系数向量; 对于所述稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定所述非零变量针对每种类别标签的后验概率; 根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和; 将后验概率之和最大的类别标签所指示的类别,确定为所述测试数据的类别。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括: 选取第一训练样本集和第二训练样本集; 利用所述第一训练样本集得到所述字典,对于所述第二训练样本集中的每个训练样本,计算所述训练样本映射到所述字典时得到的稀疏系数向量,将所述稀疏系数向量确定为训练稀疏系数向量; 对于每个类别标签所指示的类别,根据各个所述训练稀疏系数向量中的位于同一位置的各个变量,计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于所述类别标签所指示类别的后验概率; 利用各个位置的变量所对应的后验概率组成所述训练矩阵; 其中,所述训练矩阵中一行的数据分别为各个所述训练稀疏系数向量中同一个位置的变量所对应的后验概率,所述训练矩阵的每一行对应各个所述训练稀疏系数向量中的一个位置的变量,每一列对应一个类别标签。
3.根据权利要求2所述的方法,其特征在于,所述根据各个所述训练稀疏系数向量中的位于同一位置的各个变量,计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于所述类别标签所指示类别的后验概率,包括: 对于所述训练稀疏系数向量中的一个位置,获取各个所述训练稀疏系数向量中所述位置处的变量,利用后验概率公式计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于每个类别标签所指示类别的后验概率; 其中,所述后验概率公式为:
P (C = Ci I Xj ! = O) = P (χ」! = O I C = Ci) P (Ci) /P (Xj ! = O) 其中,先验概率P(Ci)为所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率;先验概率P(Xj ! = O)为所述稀疏系数向量中变量Xj为非O的概率;条件概率P(Xj !=OlC = Ci)为在所述训练稀疏系数向量所对应的训练样本属于第Ci类时,所述稀疏系数向量的变量Xj为非O的概率;所述后验概率P (C = CiIxj ! = O)为在所述稀疏系数向量中变量\为非O时,所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率,1、j为大于O的自然数。
4.根据权利要求2所述的方法,其特征在于,所述利用所述第一训练样本集得到所述字典,对于所述第二训练样本集中的每个训练样本,计算所述训练样本映射到所述字典时得到的稀疏系数向量,包括: 将所述第一训练样本集中的各个训练样本变换为列向量,将得到的列向量依序排列成矩阵,构成所述字典,利用第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量; 或, 对于所述第一训练样本集中的各个训练样本,采用奇异值分解算法进行字典的学习,得到所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量; 或, 根据类别对所述第一训练样本集中各个训练样本进行分组,得到至少一个训练样本子集,每个训练样本子集中的训练样本具有相同的类别;采用奇异值分解算法分别对各个训练样本子集进行字典学习,得到各个训练样本子集的字典;将各个训练样本子集的字典级联组成获取的所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量。 其中,所述第一公式为:min(x) |x| I!, s.t.y = Dx,所述D为字典,y为所述训练数据,X为上述稀疏系数向量。
5.根据权利要求1至4中任一所述的方法,其特征在于,所述通过预定方法计算得到与所述测试数据对应的稀疏系数向量,包括: 利用训练时得到的所述字典以及所述测试数据,得到所述测试数据对应的稀疏系数向量。
6.一种数据分类装置,其特征在于,所述装置包括: 第一计算模块,被配置为获取测试数据,通过预定方法计算得到与所述测试数据对应的稀疏系数向量,所述稀疏系数向量是所述测试数据映射到训练得到的字典上时得到的系数向量; 第一确定模块,被配置为对于所述稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定所述非零变量针对每种类别标签的后验概率; 第二计算模块,被配置为根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和; 第二确定模块,被配置为将后验概率之和最大的类别标签所指示的类别,确定为所述测试数据的类别。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括: 选取模块,被配置为选取第一训练样本集和第二训练样本集; 第三计算模块,被配置为利用所述第一训练样本集得到所述字典,对于所述第二训练样本集中的每个训练样本,计算所述训练样本映射到所述字典时得到的稀疏系数向量,将所述稀疏系数向量确定为训练稀疏系数向量; 第四计算模块,被配置为对于每个类别标签所指示的类别,根据各个所述训练稀疏系数向量中的位于同一位置的各个变量,计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于所述类别标签所指示类别的后验概率; 组成模块,被配置为利用各个位置的变量所对应的后验概率组成所述训练矩阵; 其中,所述训练矩阵中一行的数据分别为各个所述训练稀疏系数向量中同一个位置的变量所对应的后验概率,所述训练矩阵的每一行对应各个所述训练稀疏系数向量中的一个位置的变量,每一列对应一个类别标签。
8.根据权利要求7所述的装置,其特征在于, 所述第四计算模块,被配置为对于所述训练稀疏系数向量中的一个位置,获取各个所述训练稀疏系数向量中所述位置处的变量,利用后验概率公式计算所述位置处的变量为非零时,所述训练稀疏系数向量所对应的训练样本属于每个类别标签所指示类别的后验概率; 其中,所述后验概率公式为:
P (C = Ci I Xj ! = O) = P (χ」! = O I C = Ci) P (Ci) /P (Xj ! = O) 其中,先验概率P(Ci)为所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率;先验概率P(Xj ! = O)为所述稀疏系数向量中变量Xj为非O的概率;条件概率P(Xj !=OlC = Ci)为在所述训练稀疏系数向量所对应的训练样本属于第Ci类时,所述稀疏系数向量的变量Xj为非O的概率;所述后验概率P (C = CiIxj ! = O)为在所述稀疏系数向量中变量\为非O时,所述训练稀疏系数向量所对应的训练样本属于第Ci类的概率,1、j为大于O的自然数。
9.根据权利要求7所述的装置,其特征在于,所述第三计算模块,包括: 第一计算子模块,被配置为将所述第一训练样本集中的各个训练样本变换为列向量,将得到的列向量依序排列成矩阵,构成所述字典,利用第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量; 或, 第二计算子模块,被配置为对于所述第一训练样本集中的各个训练样本,采用奇异值分解算法进行字典的学习,得到所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量; 或, 第三计算子模块,被配置为根据类别对所述第一训练样本集中各个训练样本进行分组,得到至少一个训练样本子集,每个训练样本子集中的训练样本具有相同的类别;采用奇异值分解算法分别对各个训练样本子集进行字典学习,得到各个训练样本子集的字典;将各个训练样本子集的字典级联组成获取的所述字典,利用所述第一公式计算得到所述第二训练样本集中的训练样本的稀疏系数向量。 其中,所述第一公式为:min(x) |x| I1, s.t.y = Dx,所述D为字典,y为所述训练数据,χ为上述稀疏系数向量。
10.根据权利要求1至4中任一所述的装置,其特征在于,所述第一计算模块被配置为利用训练时得到的所述字典以及所述测试数据,得到所述测试数据对应的稀疏系数向量。
11.一种数据分类装置,其特征在于,所述装置包括: 处理器; 用于存储所述处理器可执行指令的存储器; 其中,所述处理器被配置为: 获取测试数据,通过预定方法计算得到与所述测试数据对应的稀疏系数向量,所述稀疏系数向量是所述测试数据映射到训练得到的字典上时得到的系数向量; 对于所述稀疏系数向量中的每个非零变量,根据训练得到的训练矩阵确定所述非零变量针对每种类别标签的后验概率; 根据每种类别标签所对应的后验概率,计算得到每种类别标签所对应的后验概率之和; 将后验概率之和最大的类别标签所指示的类别,确定为所述测试数据的类别。
【文档编号】G06F17/30GK104298729SQ201410510302
【公开日】2015年1月21日 申请日期:2014年9月28日 优先权日:2014年9月28日
【发明者】龙飞, 陈志军, 张涛 申请人:小米科技有限责任公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1