基于模糊小波包分解的小波特征提取方法

专利名称：：基于模糊小波包分解的小波特征提取方法
技术领域：
：本发明涉及信号处理和模式识别的信号分类技术，具体地说是一种基于模糊小波包分解的小波特征提取方法。
背景技术：
：在信号处理和模式识别领域，信号的特征提取一直是研究的关键之处，提取出好的特征既能减小工作量又能实现好的分类效果。目前有很多种数学变换，如傅立叶变换、K-L变换、离散小波变换、小波包(WP:WaveletPacket)分解等，这些变换的目的都是想从另外一个角度来分析信号。傅立叶变换在频域来分析信号；K-L变换只考虑到信号的二阶能量特性；小波变换利用小波时频局部化特性能够从平稳或非平稳信号(包括剧烈变化信号)中提取出鉴别能力强的小波特征。离散小波变换逐级分解低频部分，如Mallat的离散小波分解可描述为其中x为原始信号，xer。，^+1=/^，^+产G^，7f和G分别为二抽取后的低通和高通滤波器，y为分解级数。具体参见图l.l。小波包分解不仅逐级分解低频部分还逐级分解高频部分，所以小波包可看作是离散小波变换的拓展，能够提取出比离散小波变换更多的小波特征，如Wickerhauser的小波包分解可描述为其中<formula>formulaseeoriginaldocumentpage4</formula>附为第乂级子空间的索引值。具体参见图1.2。在小波包分解中，一个一维信号有很多种分解方式，比如V0Q，<formula>formulaseeoriginaldocumentpage4</formula>等。假定g(/)代表)层分解中原始信号的总分解数，那么_/+1层的总分解数g(Z+l)-g(/y+l。其中g(l"2，根节点亦被认为是一个分解。当7=5时，大约有4.6xl07个有效分解，如果釆用穷举的方法对每个分解都进行评价，将是一项非常困难的工作。可见，从小波包分解中找到最优小波分解是一项具挑战性的工作。目前基于小波包分解的特征提取优化方法都是基于信号能量特性，如香衣熵(Shannonentropy)、能量集势(Energyconcentration)、联合最优蕃(JointBestbasis)、^f部鉴别基(Localdiscriminantbase)，它们均只考虑到信号的二阶统计特性，而忽略其它阶次特性。下面以一个例子来说明它们的不足之处有两类样本，一类服从高斯分布iV(-lO，l)，另一类服从高斯分布；v(io，i),只考虑信号的能量大小是无法将这两类区分开的，然而直观上这两类信号是很容易分开的，从信号分类角度看，上述基于信号能量的四种小波包分解方法都不是最优的。模糊理论能够在信号分类中发挥巨大作用现已得到广泛认可。将小波包分解的强特征提取能力和模糊理论在信号分类中的优势结合在一起，并以此从输入平稳或非平稳信号中提取出分类能力强的小波系数特征的方法目前还尚未见报道。
发明内容本发明的目的在于提供一种基于模糊小波包分解的小波特征提取方法，对平稳或非平稳信号(包括剧烈变化信号)进行处理，提取出鉴别力强的小波系数特征，使同类信号的类内距尽量小，而不同类信号之间的类间距尽量大，最终实现平稳或非平稳信号的分类。为了实现上述目的，本发明的技术方案是取平稳信号或非平稳信号为信号样本，包括对已标明类别的信号样本的训练过程和新未知类别的信号样本的特征提取过程，以训练过程为主体；即通过训练过程找最优小波分解Q*;以最优小波分解0*为基础，提取鉴别能力强的小波系数特征；在新未知类别样本的特征提取过程中提取已定位的小波系数作为最终特征；其中所述训练过程是通过训练找最优小波分解^^过程，即基于模糊隶属度函数的代价函数评价小波包分解中子空间的分类能力，得到最优小波分解并提取出鉴别能力的小波系数特征；具体操作如下首先，定义代价函数1)定义模糊隶属度函数<formula>formulaseeoriginaldocumentpage5</formula>其中<formula>formulaseeoriginaldocumentpage5</formula>是第/类样本的均值，A,.是第z'类样本的序号A集合，W是第/类的训练样本数，l卜ll是欧式度量距离，c是分类数；"为样本信号A的维数；2)基于模糊隶属度的代价函数<formula>formulaseeoriginaldocumentpage6</formula>将所有样本信号A所属类别的隶属度函数"'&相加，累加和构成了代价函数F(X);代价函数F(X)用来衡量特征空间X的分类能力；其次，搜索最优小波分解Q"在小波包分解中，利用代价函数F(X)衡量每个分解子空间的分类能力；先选取代价函数最大的子空间，然后删除该子空间的所有后代节点和前辈节点；再从剩余的子空间内选取代价函数最大的子空间，然后再删除该子空间的所有后代节点和前辈节点；重复上述过程直到没有子空间可删除为止，此时所有保留的节点组合就是本发明要搜索的最优小波分解。*;再次，提取鉴别能力强的小波系数特征对于最优小波分解空间内的每个小波系数特征/，利用代价函数F(/)来评价它们的分类能力，并根据代价函数F(/)值的大小对这些特征进行排序，提取鉴别能力强的小波系数特征；所述新未知类别样本的特征提取过程为当输入新样本时按最优小波分解^*对新样本进行分解，再提取已定位的小波系数作为最终特征。本发明的有益效果是1.本发明在小波包分解中引入了模糊理论，发挥了小波对平稳或非平稳信号的时频局部化特征的提取能力，又利用模糊理论在模式识别中的强分类能力。本发明是一种从信号分类角度出发的且基于模糊小波包分解的小波特征提取方法。2.本发明定义了一种模糊隶属度函数，能够将特征空间由《维("是样本jq的维数)降低到c维(c是分类数)且c<<"。它是基于有导师学习的，其计算简单，而不象FCM算法那样需要迭代来计算隶属度函数。3.本发明定义了一种基于模糊隶属度的代价函数F(X)，代价函数F(X)反映所有样本属于它们该属类别的程度。代价函数F(X)既可评价特征空间X的分类能力，又可评价单一特征的分类能力。代价函数F(X)越大，特征空间X的分类能力越强。4.本发明提出了一种最优小波分解0*的搜索策略。在小波包分解树中，认为分类能力强的特征存在于代价函数大的特征空间。首先选取代价函数F(X)最大的子空间，然后删除该空间的所有后代节点和前辈节点；再从剩余的子空间内选取代价函数最大的子空间，然后再删除该空间的所有后代节点和前辈节点；重复上述过程直到没有子空间可删除为止。5.在最优小波分解0*中，再次利用模糊代价函数评价所有小波系数的分类能力，并对它们的分类能力进行排序，定位出分类能力强的小波系数。6.本发明所涉及到的代价函数计算、最优小波分解。*的搜索、鉴别能力强小波特征位置的确定都是在训练过程中离线完成的。训练结束后，当有一个新未知类别的样本输入时，先按最优小波分解。*分解，然后到指定位置提取小波系数作为特征即可，对新样本的特征提取过程简单，可以在线实现。7.本发明所涉及到的所有子模块(或函数)都由标准C语言编程实现，运行效率高，移植方便，可以在不同的搡作系统上运行。8.本发明可广泛应用于平稳信号或非平稳信号的特征提取上，还可适用于样本数量少且维数很高的医学信号分类。附困说明图l.l是小波分解树示意图。图1.2是小波包分解树示意图。图2.1是本发明含特征提取的训练实施例工作流程图。图2.2是本发明含新样本的特征提取过程流程图。图3是本发明的训练过程，输入训练样本源文件界面。图4是本发明的训练过程，显示训练样本界面。图5是本发明的训练过程，显示所提取小波特征能量累计百分比界面。图6是本发明的训练过程，显示提取的小波特征界面。图7是本发明的测试过程(新样本处理过程)，读入样本及配置文件界面。图8是本发明的测试过程，显示新样本界面。图9是本发明的测试过程，显示提取的新样本小波特征界面。具体实施例方式下面结合附图和实施样例对本发明作进一步详细说明。取平稳或非平稳信号为处理对象，依据有导师信号分类的基本实施过程，本实施例分为对已标明类别样本的训练过程和新未知类别样本的特征提取过程，以训练过程为主体；即通过训练过程找平稳或非平稳信号最优小波分解0*;并以最优小波分解0*为基础，且根据小波系数特征/的代价函数尸(/)的值对最优小波分解。*中的所有特征/进行排序并定位这些特征，提取鉴别能力强的小波系数特征；当输入新的平稳或非平稳信号时按最优小波分解0*对新样本进行分解，再提取已定位的小波系数作为最终特征；具体步骤通过训练过程找袭优小波分解Q"基于模糊隶属度函数的代价函数来评价小波包分解中于空间的分类能力，以此得到最优小波分解并提取出鉴别能力的小波系数特征；具体步骤1.定义代价函数1)定义模糊隶属度函数"<formula>formulaseeoriginaldocumentpage8</formula>义广,其中v,-Z^/;V,是第/类样本的均值，A,.是第/类样本的序号*集合，M是第/类的训练样本数，lhll是欧式度量距离，c是分类数。"为样本信号A的维数。上式中模糊隶属度函数能够将特征空间由"维("是样本^的维数)降低到c维(c是分类数)且c"。因为训练样本所属类别是已知的，本发明所定义的隶属度函数是基于有导师学习的，其计算简单，而不象FCM算法那样需要迭代来计算隶属度函数。2)基于模糊隶属度的代价函数<formula>formulaseeoriginaldocumentpage8</formula>将所有样本A所属类别的隶属度函数^相加，累加和构成了代价函数F(X)。代价函数F(X)反映所有样本属于它们所属类别的程度。代价函数F(X)可用来衡量特征空间X的分类能力，代价函数F(X)越大，特征空间X的分类能力越强。2.搜索最优小波分解0*认为分类能力强的特征存在于代价函数大的特征空间，代价函数大的特征空间应该被优先选中。在小波包分解树中(参见图1.2)，利用代价函数F(X)来衡量每个分解子空间X的分类能力。首先选取代价函数F(X)值最大的子空间，然后再删除该子空间的所有后代节点(包括子节点、孙节点等)和前辈节点(包括父节点、祖父节点等)；再从剩余的子空间内选取代价函数F(X)值最大的子空间，然后再删除该子空间的所有后代节点和前辈节点；重复上述过程直到没有子空间可删除为止，此时所有保留的节点组合就是本发明要搜索的最优小波分解Q、3.提取鉴别能力强的小波系数特征对于最优小波分解空间0*内的每个小波系数特征/(/EX)，根据前面所定义的代价函数F(/)评价其分类能力，代价函欽尸(/)越大惠味蓍特征/的分类能力越强。根据代价函数F(/)值的大小，对最优小波分解0*中的所有特征/进行排序，并定位这些特征，F(/)值大的特征就被优先选取用于信号分类。以下具体实施训练过程如图2.1所示。首先，输入样本数据及相关参数；选择包含训练样本的源文件，依次输入"总样本数"、"样本长度"、"分类数目"、"每类样本数"(每类样本数之间以":"分开)、"每类训练样分配"(每类训练样本数之间以":"分开)，选择小波名称、分解级别、拓展模式和最优分解准则(选"Fuzzy");然后点击"读入样本"按钮，读入源数据(具体操作界面见图3)。其次，进行显示样本操作；如图3所示，在界面上点击"显示样本"按钮，显示样本信号曲线(具体操作界面见图4)。然后，进行小波特征提取；如图4所示，在界面上点击"特征提取"按钮，进行特征提取操作，包括定义代价函数(定义模糊隶属度函数，基于模糊隶属度的代价函数)；搜索最优小波分解0*;提取鉴别能力强的小波系数特征；最优小波分解0*中代价函数尸(/)值大的特征/被优先选取。最后，显示能量递增百分比和提取的小波特征；如图4所示，在界面上的按钮"显示能量递增百分比"和"显示提取的小波特征"会自动激活(点击"显示能量递增百分比"按钮，出现小波系数能量递增百分比曲线，见图5;在图5中，点击"显示提取的小波特征"按钮，出现提取的小波系数特征，见图6)。训练过程可用的小波名称库见表1,小波分解的边缘拓展模式见表2。表l:可以利用的小波名称库<table>tableseeoriginaldocumentpage9</column></row><table>表2:小波分解的边缘拓展模式拓<table>tableseeoriginaldocumentpage9</column></row><table>'Per'若信号长度为奇数，将最后面的数据重复加一次使长度为偶数，然后执行'ppd'拓展方式。若信号长度为偶数，直接执行'ppd'拓展方式。新样本的特征提取当输入新的未知类别样本(平稳或非平稳信号)时按最优小波分解0*对新样本进行分解，再提取已定位的小波系数作为最终特征；具体步骤如图2.2所示。首先，训练过程结束后，输入新样本及WP配置文件(包括最优小波分解0*,小波系数特征的位置)；点击图6中"处理新的样本"按钮，进入操作过程(见图7);在图7的搡作界面中，读入新样本文件名称，WP配置文件名称后，点击"读入样本及配置文件"按钮，在"总的样本数目"、"样本长度"、"类别数目"、"小波名称"、"拓展模式"、"分解准则"、"分解级别"等栏目会自动出现相应内容。其次，显示样本操作；在操作界面图7中，点击"显示样本"按钮，出现新样本信号曲线(参见图8)。然后，进行小波特征提取；在图8中，点击"特征提取"按钮，对新样本进行特征提取操作，包括按最优小波分解Q"t新样本进行分解，再提取已定位的小波系数作为最终特征。'然后，显示小波系数特征；在图8中，点击"显示提取的小波特征"按钮，出现从新样本中提取的小波系数特征，具体内容见图9。最后，退出程序。权利要求1.一种基于模糊小波包分解的小波特征提取方法，其特征是取平稳信号或非平稳信号为信号样本，包括对已标明类别的信号样本的训练过程和新未知类别的信号样本的特征提取过程，以训练过程为主体；即通过训练过程找最优小波分解Ω*；以最优小波分解Ω*为基础，提取鉴别能力强的小波系数特征；在新未知类别样本的特征提取过程中提取已定位的小波系数作为最终特征。2.按权利要求l所述基于模糊小波包分解的小波特征提取方法，其特征是所述训练过程是通过训练找最优小波分解0*过程，即基于模糊隶属度函数的代价函数评价小波包分解中子空间的分类能力，得到最优小波分解并提取出鉴别能力的小波系数特征；具体搡作如下首先，定义代价函数1)定义模糊隶属度函数<formula>seeoriginaldocumentpage2</formula>其中<formula>seeoriginaldocumentpage2</formula>是第i类样本的均值，a,是第i类样本的序号k集合，Ni是第i类的训练样本数，l卜il是欧式度量距离，c是分类数；n为样本信号Xk的维数；2)基于模糊隶属度的代价函数F(X)=X将所有样本信号Xk所属类别的隶属度函数uik相加，累加和构成了代价函数F(X);代价函数F(X)用来衡量特征空间X的分类能力；其次，搜索最优小波分解Ω*在小波包分解中，利用代价函数F(X)衡量每个分解子空间的分类能力；先选取代价函数最大的子空间，然后删除该子空间的所有后代节点和前辈节点；再从剩余的子空间内选取代价函数最大的子空间，然后再删除该子空间的所有后代节点和前辈节点；重复上述过程直到没有子空间可删除为止，此时所有保留的节点组合就是本发明要搜索的最优小波分解Ω*;再次，提取鉴别能力强的小波系数特征对亍最优小波分解空问内的哿个小波系数特征l，利用代价函数F(l)来评价它们的分类能力，并根据代价函数F(l)值的大小对这些特征进行排序，提取鉴别能力强的小波系数特征。3.按权利要求l所述基于模糊小波包分解的小波特征提取方法，其特征是所述新未知类别样本的特征提取过程为当输入新样本时按最优小波分解Ω*对新样本进行分解，再提取已定位的小波系数作为最终特征。全文摘要本发明属于信号处理和模式识别技术，具体公开一种基于模糊小波包分解的小波特征提取方法，取平稳信号或非平稳信号为信号样本，包括对已标明类别的信号样本的训练过程和新未知类别的信号样本的特征提取过程，以训练过程为主体；即通过训练过程找最优小波分解Ω^*；以最优小波分解Ω^*为基础，提取鉴别能力强的小波系数特征；在新未知类别样本的特征提取过程中提取已定位的小波系数作为最终特征。采用本发明对平稳或非平稳信号(包括剧烈变化信号)进行处理，提取出鉴别力强的小波系数特征，使同类信号的类内距尽量小，而不同类信号之间的类间距尽量大，最终实现平稳或非平稳信号的分类。文档编号G06K9/46GK101201901SQ20061013475公开日2008年6月18日申请日期2006年12月13日优先权日2006年12月13日发明者史泽林,李德强申请人:中国科学院沈阳自动化研究所