专利名称:模式识别专用神经网络计算机系统及应用方法
技术领域:
本发明属于计算机领域,更具体说是一种模式识别专用神经网络计算机系统及应用方法。
背景技术:
以Fisher、Vapnik为代表的模式识别的发展已经有几十年的历史,取得了显著的成绩。但是这些传统的模式识别方法仅仅重视各种不同样本类型之间的“划分”,而不重视同类样本本身的特征。这种基于“划分”思想的模式识别方法不能克服较大的未训练样本误识率问题,而且每当增加一种新的类型样本的时候,都需要对所有类型的样本进行重新训练。
近年来,王守觉院士提出了一种新的仿生模式识别理论,该理论从根本上突破了传统模式识别“划分”的思想,运用拓扑学和高维空间几何学,以多权值突触神经元构造新的神经网络模式识别系统,克服了传统模式识别方法未训练样本的误识率高、新增样本类型需要全局重新训练的问题,显著提高了模式识别系统的性能。
基于仿生模式识别理论,本发明实现了一种模式识别专用神经网络计算机系统,并提出了一种利用该模式识别专用神经网络计算机系统进行学习与识别分离的模式识别演示应用方法。该演示系统性能价格比高,演示识别效果好,并且操作简单、具有较强的趣味性,可以应用于大、中、小学生的人工智能教学演示教具,以提高学生探索科学知识的兴趣。
发明内容
本发明的目的在于,提供一种模式识别专用神经网络计算机系统及应用方法,实践仿生模式识别理论,提高模式识别系统的样本识别率,克服传统模式识别中未训练样本误识率偏高以及加入新样本需要对所有样本进行重新训练的问题。由于采用神经网络学习与识别分离的模式识别应用方法,本发明模式识别专用神经网络计算机系统具有较高的性能价格比和易操作性,可应用于人工智能教学演示教具。
本发明一种模式识别专用神经网络计算机系统,其特征在于,包括一总线一存储器部件,在系统中提供数据存储空间;一算术/逻辑运算和控制部件,该算术/逻辑运算和控制部件在系统中承担算术/逻辑运算任务,并通过总线控制系统其它各个部件的运行和数据交换;一神经网络硬件,该神经网络硬件根据算术/逻辑运算和控制部件的指令通过总线从存储器部件接收数据进行神经网络计算,并将结果保存到存储器部件;一环境接口部件,该环境接口部件根据算术/逻辑运算和控制部件的指令从环境获取信息,或将系统运行结果通过语音或其它方式表达出来。
其中神经网络硬件在系统中承担分布式并行神经网络计算。该神经网络硬件以多权值突触通用神经元为基本构造单元,其中多权值突触通用神经元的数学模型基本计算式如下Y=f[Φ(W1,W2,...,Wm,X)]其中算术/逻辑运算和控制部件在系统中完成算术/逻辑运算,并通过总线控制神经网络硬件、环境接口部件的运行,以及存储器部件的数据存取操作。
本发明一种模式识别专用神经网络计算机系统的应用方法,其特征在于,是一种基于仿生模式识别理论,以本发明模式识别专用神经网络计算机系统实现的,神经网络学习与识别分离的人工智能演示应用方法。包括如下步骤1)微机协助的神经网络学习过程;2)脱离微机,模式识别专用神经网络计算机系统独立完成的神经网络识别演示过程。
其中微机协助的神经网络学习,是指利用微机协助本发明模式识别专用神经计算机对训练样本集进行学习,使其对已学习过的事物具有“辨认”能力。
其中微机协助的神经网络学习过程,是指借助微机采集样本和特征提取,并根据特征空间中样本点之间的距离,对样本进行选择并排序;然后本发明的模式识别专用神经网络计算机系统对选择排序的样本进行学习,构造神经网络,并将神经网络结构保存到非易失性存储器中。
其中脱离微机模式识别专用神经网络计算机系统独立完成的神经网络识别演示,是指本发明模式识别专用神经网络计算机脱离微机,独立完成神经网络模式识别演示工作。
其中脱离微机模式识别专用神经网络计算机系统独立完成的神经网络识别演示过程,是指本发明模式识别专用神经网络计算机系统作为一个独立运转的模式识别演示系统,独立完成如下工作采集待识别模式样本并对该样本进行特征提取,通过神经网络计算和判决,输出模式识别结果或(和)执行相应动作。
为进一步说明本发明的技术内容,以下结合附图和实施例对本发明作进一步说明,其中图1本发明中的模式识别专用神经网络计算机系统的系统结构图;图2本发明中的模式识别专用神经网络计算机系统应用微机协助的神经网络学习流程图;图3本发明中的模式识别专用神经网络计算机系统脱离微机独立完成的神经网络模式识别流程图。
具体实施例方式
本发明提供一种脱离微机本发明中模式识别专用神经网络计算机系统及应用方法。本发明中的模式识别专用神经网络计算机系统的实施方式请参阅图1,描述如下一种模式识别专用神经网络计算机系统,其特征在于,包括
一总线50;一存储器部件10,该存储器部件10包括非易失性存储器11和易矢性存储器RAM 12,或者全部由非易失性存储器实现,在系统中提供数据存储空间;一算术/逻辑运算和控制部件30,该算术/逻辑运算和控制部件在系统中承担算术/逻辑运算任务,并通过总线50控制系统其它各个部件的运行和数据交换;一神经网络硬件20,该神经网络硬件20根据算术/逻辑运算和控制部件30的指令通过总线50从存储器部件10接收数据进行神经网络计算,并将结果保存到存储器部件10;一接口部件40,该环境接口部件40根据算术/逻辑运算和控制部件30的指令从环境获取信息,或将系统运行结果通过语音或其它方式表达出来。
其中神经网络硬件20在系统中承担分布式并行神经计算,该神经网络硬件20采用硬件神经元复用的方式实现,其中的硬件神经元是一种多权值突触通用神经元,多权值突触通用神经元的数学模型基本计算式如下Y=f[Φ(W1,W2,...,Wm,X)]其中算术/逻辑运算和控制部件30,采用MCU 31(MicrocontrolerUnit单片机)和利用可编程逻辑器件开发的协控制器32实现,也可以采用一个功能强大的通用处理器实现。该算术/逻辑运算和控制部件30在系统中完成算术/逻辑运算,并通过总线50控制神经网络硬件20、环境接口部件40的运行,以及存储器部件10的数据存取操作。
本发明一种模式识别专用神经网络计算机系统的应用方法,其特征在于,是一种基于仿生模式识别理论,以本发明模式识别专用神经网络计算机系统实现的,神经网络学习与识别分离的人工智能演示应用方法。包括如下步骤1)微机协助的神经网络学习过程;该微机协助的神经网络学习,是指利用微机协助本发明模式识别专用神经计算机对训练样本集进行学习,使其对已学习过的事物具有“辨认”能力。其中微机协助的神经网络学习过程,是指借助微机采集样本和特征提取,并根据特征空间中样本点之间的距离,对样本进行选择并排序;然后本发明的模式识别专用神经网络计算机系统对选择排序的样本进行学习,构造神经网络,并将神经网络结构保存到非易失性存储器中。
2)脱离微机,模式识别专用神经网络计算机系统独立完成的神经网络识别演示过程。其中脱离微机模式识别专用神经网络计算机系统独立完成的神经网络识别演示,是指本发明模式识别专用神经网络计算机脱离微机,独立完成神经网络模式识别演示工作。
其中脱离微机模式识别专用神经网络计算机系统独立完成的神经网络识别演示过程,是指本发明模式识别专用神经网络计算机系统作为一个独立运转的模式识别演示系统,独立完成如下工作采集待识别模式样本并对该样本进行特征提取,通过神经网络计算和判决,输出模式识别结果或(和)执行相应动作。
本发明中的模式识别专用神经网络计算机系统应用方法是一种基于非划分的仿生模式识别理论,以本发明模式识别专用神经网络计算机系统实现的,神经网络学习与识别分离的人工智能演示应用方法,其具体实施步骤请参阅图2、图3。描述如下1、微机协助的神经网络学习过程,其流程图如图2所示。借助微机采集样本和特征提取,并根据特征空间中样本点之间的距离,对样本进行选择并排序。然后本发明的模式识别专用神经网络计算机系统根据特征空间中同类样本点所分布的复杂几何形体,以高维空间复杂几何形体分段近似覆盖的方法来构造该类样本的样本分布子空间。例如样本实际形体分布为一条超曲线,则可以采用分段的直线进行近似覆盖来构造该类样本的样本分布子空间。重复上述过程直至完成所有类型样本分布子空间的构造,从而完成神经网络的学习并将网络结构参数储存在非易失存储器11中。
2、脱离微机本发明中模式识别专用神经网络计算机系统独立完成的神经网络识别演示过程,其流程图如图3所示。本发明中的模式识别专用神经网络计算机系统作为一个独立运转的模式识别演示系统,独立完成如下工作采集待识别模式样本并对该样本进行特征提取,通过神经网络计算和判决,输出模式识别结果或(和)执行相应动作。
实施例本发明模式识别专用神经网络计算机系统的应用实例是要求对水平面上不同角度的实物模型进行识别演示。样本的采集是利用微机从不同方向观察所采集到的Bmp文件进行筛选和排序,构成训练样本集S={Si′|i=0...j}。然后由本发明的模式识别专用神经网络计算机系统对训练样本集中的样本进行特征提取,每个样本图像得到一个256维的特征向量。由于观察方向都是水平的,可以说方向的改变只有一个变量,因而,特征空间中样本点的分布呈一维流形分布Pa。因此我们采用超香肠分段覆盖的方式近似构造该类样本子空间的近似几何形体,设置多权值突触硬件神经元为超香肠神经元,并完成神经网络的训练。超香肠近似几何形体覆盖方法描述如下用j个神经元Pi(i=0…j-1)来近似地覆盖Pa,设Pi为Pi={x|ρ(x,y)≤k,y∈Bi,x∈Rn}Bi={x|x=αSi′+(1-α)Si+1′,α∈
}则得到地样本子空间Pa为Pa=Yi=0j-1Pi]]>在实验中,以狮子、老虎、坦克等8件模型作为已训练样本模型,共采集样本6400个,其中每类样本选择26到50个作为真正的训练样本,8类共有338个。另外用猫、小狗等6件模型各采样400个作为未训练的测试样本。得出已训练样本的正确识别率为99.75%,据识率为0.25%,误识率为0;未训练样本误识率为0。从上面结果可以看出,本发明实现的人工智能演示系统对未训练对象不会误识,充分体现了仿生模式识别理论相对于传统模式识别方法的优越性。
本发明模式识别专用神经网络计算机系统及应用方法中的模式识别专用神经网络计算机系统的系统结构如图1所示,结合神经网络硬件解决形象思维问题的特长和算术/逻辑运算部件在逻辑思维领域的能力,该系统采用双处理器共享存储器的组织结构。
本发明模式识别专用神经网络计算机系统及应用方法中的模式识别专用神经网络计算机系统应用方法,是一种基于仿生模式识别理论,以本发明模式识别专用神经网络计算机系统实现的,神经网络学习与识别分离的人工智能演示应用方法。由于采用了学习与识别分离的技术手段,极大的降低了系统的成本和系统操作的复杂性,参与演示过程操作简单,结果准确,趣味性强,因此,非常适合用作大、中、小学生的教学演示教具,以提高学生探索科学知识的兴趣。
本发明与现有技术相比具有以下优点1、采用共享存储器件部件10的方式,完成以算术/逻辑运算和控制部件30与可变拓扑结构神经网络硬件20为中心的双处理器系统结构设计,并实现本发明模式识别专用神经网络计算机系统的硬件设计。
2.基于仿生模式识别理论的系统应用,比传统模式识别方法获得更优越的性能。
3.提出学习与识别分离的模式识别应用方法,使本发明模式识别专用神经网络计算机具有更高的性能价格比。
权利要求
1.一种模式识别专用神经网络计算机系统,其特征在于,包括一总线一存储器部件在系统中提供数据存储空间;一算术/逻辑运算和控制部件,该算术/逻辑运算和控制部件在系统中承担算术/逻辑运算任务,并通过总线控制系统其它各个部件的运行和数据交换;一神经网络硬件,该神经网络硬件根据算术/逻辑运算和控制部件的指令通过总线从存储器部件接收数据进行神经网络计算,并将结果保存到存储器部件;一环境接口部件,该环境接口部件根据算术/逻辑运算和控制部件的指令从环境获取信息,或将系统运行结果通过语音或其它方式表达出来。
2.根据权利要求1所述的模式识别专用神经网络计算机系统,其特征在于其中的神经网络硬件,在系统中承担分布式并行神经网络计算。该神经网络硬件以多权值突触通用神经元为基本构造单元,其中多权值突触通用神经元的数学模型基本计算式如下Y=f[Φ(W1,W2,...,Wm,X)]
3.根据权利要求1所述的模式识别专用神经网络计算机系统,其特征在于其中算术/逻辑运算和控制部件,在系统中完成算术/逻辑运算,并通过总线控制神经网络硬件、环境接口部件的运行,以及存储器部件的数据存取操作。
4.一种模式识别专用神经网络计算机系统的应用方法,其特征在于,是一种基于仿生模式识别理论,以本发明模式识别专用神经网络计算机系统实现的,神经网络学习与识别分离的人工智能演示应用方法,包括如下步骤1)微机协助的神经网络学习过程;2)脱离微机,模式识别专用神经网络计算机系统独立完成的神经网络识别演示过程。
5.根据权利要求4所述的模式识别专用神经网络计算机系统的应用方法,其特征在于,其中微机协助的神经网络学习,是指利用微机协助本发明模式识别专用神经计算机对训练样本集进行学习,使其具有“辨认”已学习过的事物的能力。
6.根据权利要求4所述的模式识别专用神经网络计算机系统的应用方法,其特征在于,其中脱离微机模式识别专用神经网络计算机系统独立完成的神经网络识别演示,是指本发明模式识别专用神经网络计算机脱离微机,独立完成神经网络模式识别演示工作。
全文摘要
一种模式识别专用神经网络计算机系统及应用方法,其中的模式识别专用神经网络计算机系统包括一总线;一存储器部件,该存储器部件在系统中提供数据存储空间;一算术/逻辑运算和控制部件,该算术/逻辑运算和控制部件在系统中承担算术/逻辑运算任务,并通过总线控制系统其它各个部件的运行和数据交换;一神经网络硬件,该神经网络硬件根据算术/逻辑运算和控制部件的指令通过总线从存储器部件接收数据进行神经网络计算,并将结果保存到存储器部件;一环境接口部件,该环境接口部件根据算术/逻辑运算和控制部件的指令从环境获取信息,或将系统运行结果通过语音或其它方式表达出来。
文档编号G06N3/00GK1700250SQ20041003796
公开日2005年11月23日 申请日期2004年5月17日 优先权日2004年5月17日
发明者王守觉, 李卫军, 赵顾良, 孙华 申请人:中国科学院半导体研究所