一种多特性仿生统一神经元模型的制作方法
【专利摘要】本发明为对几十种神经元模型做出统一描述,总结归纳出目前生物医学界和工程科学界普遍认可的生物神经元的十二大基本特性,并以此为基础提出了一种更为全面反映生物神经元特性的人工神经元统一框架模型——多特性仿生统一神经元(MBUN)模型。
【专利说明】一种多特性仿生统一神经元模型
[0001]本发明为对几十种神经元模型做出统一描述，总结归纳出目前生物医学界和工程科学界普遍认可的生物神经元的十二大基本特性，并以此为基础提出了一种更为全面反映生物神经元特性的人工神经元统一框架模型--多特性仿生统一神经元(MBUN)模型。
[0002]为解决上述技术问题，本发明的技术方案是:
综合各类文献和研究成果，目前生物医学界和工程科学界普遍认可的生物神经元有以下12大基本特性，并分别给出了数学表示:
(1)空间整合效应
在神经网络结构上，大量不同的神经元的轴突末梢可以到达同一个神经元的树突并形成大量突触。当这些树突上同时有信号传来时，这些信号在向细胞体传送过程中全部叠加起来。这种神经元可以对不同树突上来源的输入信息进行整合，称为空间整合效应。在MP模型中，整合效应用加权求和函数表示。但是整合效应是否一定用加法描述，是否存在其他规则，生物学上目前尚无明确结论。本发明中用空间整合函数S(#)表示这种特性。
[0003](2)时间整合效应
对于来自同一个突触的信息，神经元可以对不同时间传入的信息进行整合。在一定时间内的连续刺激将会产生叠加效果，称为时间整合效应。本文中用时间整合函数T (#)表示这种特性。
[0004](3)阈值特性
当神经元接受来自其他神经元的信息时，膜电位在开始时是按时间连续渐变的。当受刺激的空间、时间总和大于一定量，膜电位变化超出某个定值时，神经元产生突变上升的脉冲，脉冲沿轴突向下一级传递。神经元这种膜电位高达一定阈值才产生脉冲传送的特性称为阈值特性。在通常的MP模型中，视阈值为某一定值，直接取为H。然而，生理学研究指出神经网络上各神经元的阈值并非固定不变，不但不同的神经元可以取不同的值，而且还可能随着时间而变化。如小脑桥脑处的网络结构中就有所谓/高阈值细胞O。本文中用阈值函数TH(#)表示这种可变的特性。
[0005](4)不应期
在电脉冲刚刚释放后，即使很强的信号到来，神经元也不会兴奋，此期间称为绝对不应期。绝对不应期结束之后，在一段时间内，兴奋的阈值比通常的高一些，使神经元难以兴奋，此期间称为相对不应期。变高了的阈值会渐渐返回到正常值。绝对不应期大约有lms，而相对不应期大约有数毫秒。本文中用不应函数G(#)表示这种特性。
[0006](5)疲劳(适应性)特性
神经元在持续刺激多次后会对外界刺激输入有所适应，其阈值逐渐增加，致使神经元难以兴奋，需改变刺激强度才会得到同样的响应，这称为神经元的疲劳特性。它的数学表示可在阈值、权重及输出特性上进行调整(如采用时变函数)。本文中用疲劳函数p(#)表示。
[0007](6)兴奋与抑制
一个神经元有兴奋和抑制两种状态，并由细胞膜内外不同的电位差来表征。在抑制状态，细胞膜内外之间有内负外正的电位差；在兴奋状态，则广生内正外负的相反电位差。神经元之间的连接既有兴奋性连接，也有抑制性连接。本发明中用正值权重表示兴奋性连接，以负值权重表示抑制性连接；以正值输入表示神经元接受的兴奋输入信息，以负值输入表示神经元接受的抑制输入信息。
[0008](7)延时特性
信息通过突触传递、神经元接受信息到发生响应之间有一个延时，通常为0.5?lms。本发明用延时函数D(#)表示。
[0009](8)输出激发特性
神经元对输入的各种刺激经过整合后做出动作，产生脉冲输出，这种作用称之为输出激活或激发特性。从神经生理的角度看，由激活值激发的神经元输出有极其复杂的关系，很难用一种唯一确定的函数表达。因此，目前的各类神经元的输出激发函数有多种形式，各自表示了神经元输出特性的一个侧面。本发明用可变激发函数F(#)表示，它可以是确定的某一类函数，也可以是随时间或调节参数变化的函数族。
[0010](9)传导衰减特性
神经元在激活作用下产生动作电位，此电位以一定的速度沿轴突传到另一个神经元上，其传送速度与轴突的直径及结构有关。电位的传递一般服从电缆方程，以衰减形式传递，这就是传导衰减特性。本发明用衰减函数A(#)表示.(10)突触连接的可塑性
突触之间的连接随着信号的强弱和神经元的兴奋程度而变化。本文用可变连接权值向量W表示这种特性，并用学习算法来进行权值的更新与调整。
[0011](11)数字/模拟信号转换特性
在神经元轴突上传递的信息是等幅、恒宽、编码的离散电脉冲信号，是一个数字量。但在突触中神经递质的释放和树突中膜电位的变化是连续的，这说明突触有数字-模拟信号转换功能。神经元的树突膜电位高过一定阀值时，则又变成电脉冲方式由轴突传送出去，这个过程说明神经元有模拟-数字信号转换功能。用模数转换函数AD(#)和数模转换函数DA (#)分别表示。
[0012](12)新发现特性
对照Getting、PDP小组以及相关文献曾列出的目前流行的各种神经元网络模型的神经元特性，可以看出，它们均没有超出以上的11条特性。但是，科学是不断的深入和发展的，考虑到未来还将可能发现更多的重要特性，用特性函数N(#)表示未来新发现的特性，以增进框架的通用性和前瞻性。
[0013]与现有技术相比，本发明的有益效果是:
(1)、该模型构成的网络适用于求解某些问题或解决某些问题时，能够获得满意结果；
(2)、模型简单，与生物神经系统的神经元相似，很多特性都被充分的描述；
(3)、网络的容量与网络规模有关，解决较复杂的问题时需采用规模较大的网络，该网络的设计使得训练变得十分容易实现。
【权利要求】
1.一种多特性仿生统一神经元模型分为以下几个部分: 综合各类文献和研究成果，目前生物医学界和工程科学界普遍认可的生物神经元有以下12大基本特性，并分别给出了数学表示: (1)空间整合效应 在神经网络结构上，大量不同的神经元的轴突末梢可以到达同一个神经元的树突并形成大量突触；当这些树突上同时有信号传来时，这些信号在向细胞体传送过程中全部叠加起来；这种神经元可以对不同树突上来源的输入信息进行整合，称为空间整合效应；在皿卩模型中，整合效应用加权求和函数表示；但是整合效应是否一定用加法描述，是否存在其他规则，生物学上目前尚无明确结论；本发明中用空间整合函数S(#)表示这种特性； (2)时间整合效应 对于来自同一个突触的信息，神经元可以对不同时间传入的信息进行整合；在一定时间内的连续刺激将会产生叠加效果，称为时间整合效应；本文中用时间整合函数T(#)表示这种特性； (3)阈值特性 当神经元接受来自其他神经元的信息时，膜电位在开始时是按时间连续渐变的；当受刺激的空间、时间总和大于一定量，膜电位变化超出某个定值时，神经元产生突变上升的脉冲，脉冲沿轴突向下一级传递；神经元这种膜电位高达一定阈值才产生脉冲传送的特性称为阈值特性；在通常的MP模型中，视阈值为某一定值，直接取为H ;然而，生理学研究指出神经网络上各神经元的阈值并非固定不变，不但不同的神经元可以取不同的值，而且还可能随着时间而变化；如小脑桥脑处的网络结构中就有所谓/高阈值细胞O ;本文中用阈值函数ΤΗ(#)表示这种可变的特性；` (4)不应期 在电脉冲刚刚释放后，即使很强的信号到来，神经元也不会兴奋，此期间称为绝对不应期；绝对不应期结束之后，在一段时间内，兴奋的阈值比通常的高一些，使神经元难以兴奋，此期间称为相对不应期；变高了的阈值会渐渐返回到正常值；绝对不应期大约有1ms，而相对不应期大约有数毫秒；本文中用不应函数G(#)表示这种特性； (5)疲劳(适应性)特性 神经元在持续刺激多次后会对外界刺激输入有所适应，其阈值逐渐增加，致使神经元难以兴奋，需改变刺激强度才会得到同样的响应，这称为神经元的疲劳特性；它的数学表示可在阈值、权重及输出特性上进行调整(如采用时变函数)；本文中用疲劳函数P(#)表示； (6)兴奋与抑制 一个神经元有兴奋和抑制两种状态，并由细胞膜内外不同的电位差来表征；在抑制状态，细胞膜内外之间有内负外正的电位差；在兴奋状态，则广生内正外负的相反电位差；神经元之间的连接既有兴奋性连接，也有抑制性连接；本发明中用正值权重表示兴奋性连接，以负值权重表示抑制性连接；以正值输入表示神经元接受的兴奋输入信息，以负值输入表示神经元接受的抑制输入信息； (7)延时特性 信息通过突触传递、神经元接受信息到发生响应之间有一个延时，通常为0.5^1ms ;本发明用延时函数D(#)表示；(8)输出激发特性 神经元对输入的各种刺激经过整合后做出动作，产生脉冲输出，这种作用称之为输出激活或激发特性；从神经生理的角度看，由激活值激发的神经元输出有极其复杂的关系，很难用一种唯一确定的函数表达；因此，目前的各类神经元的输出激发函数有多种形式，各自表示了神经元输出特性的一个侧面；本发明用可变激发函数F(#)表示，它可以是确定的某一类函数，也可以是随时间或调节参数变化的函数族； (9)传导衰减特性 神经元在激活作用下产生动作电位，此电位以一定的速度沿轴突传到另一个神经元上，其传送速度与轴突的直径及结构有关；电位的传递一般服从电缆方程，以衰减形式传递，这就是传导衰减特性；本发明用衰减函数A(#)表示； (10)突触连接的可塑性 突触之间的连接随着信号的强弱和神经元的兴奋程度而变化；本文用可变连接权值向量W表示这种特性，并用学习算法来进行权值的更新与调整； (11)数字/模拟信号转换特性 在神经元轴突上传递的信息是等幅、恒宽、编码的离散电脉冲信号，是一个数字量；但在突触中神经递质的释放和树突中膜电位的变化是连续的，这说明突触有数字-模拟信号转换功能；神经元的树突膜电位高过一定阀值时，则又变成电脉冲方式由轴突传送出去，这个过程说明神经元有模拟-数字信号转换功能；用模数转换函数AD(#)和数模转换函数DA (#)分别表示； (12)新发现特性 对照Getting、PDP小组以及相关文献曾列出的目前流行的各种神经元网络模型的神经元特性，可以看出，它们均没有超出以上的11条特性；但是，科学是不断的深入和发展的，考虑到未来还将可能发现更多的重要特性，用特性函数N(#)表示未来新发现的特性，以增进框架的通用性和前瞻性。
【文档编号】G06N3/02GK103679265SQ201310588813
【公开日】2014年3月26日 申请日期:2013年11月21日 优先权日:2013年11月21日
【发明者】刘雨 申请人:大连海联自动控制有限公司