专利名称:一种求解优化问题的神经网络的制作方法
技术领域:
本发明属于神经网络的应用技术领域,涉及一种求解优化问题的神经网络及其实现方法,此神经网络可以用软件或硬件实现,并且神经网络的初始条件对计算结果影响小,收敛速度很快,收敛到全局最优解的概率比较高。
背景技术:
神经网络问世以来,一直成为科学界研究的热点之一,在求解优化问题、联想记忆、模式辨识以及图像处理等领域已经得到了广泛的应用。特别是在优化领域,神经网络更是大显身手。它已经成功地被应用于函数最优值求解、TSP (Traveling SalesmanProblem)、装箱问题、调度优化、供应链问题等优化问题,神经网络已成为用于解决优化问题的有力工具之一。与其它智能优化算法(如遗传算法(GA),模拟退火(SA),禁忌搜索(TS)等)相比,神经网络最主要的优点在于并行计算性、容错性以及可硬件实现性等优点。特别是可硬件实现性可以大大提高算法的稳定性和计算速度,但是神经网络存在一定的缺陷,神经网络的初始条件严重影响计算结果,在优化计算过程中容易得不到最优解或合理解,更不容易收敛到全局最优解。神经网络很容易陷入局部最小值或是不合理解,得不到合理解使得优化问题根本没有得到解决,而得不到较优解,使得优化问题的解还存在着进一步提高的空间。在实际工程中,如果得不到合理解,会使得整个工程无法正常运行,而得不到较优解,会使得整个工程的成本升高,降低竞争力。因此,解决神经网络初始条件对网络运行效果的影响,提高神经网络收敛到合理解和全局最优解的概率,提高其优化求解能力,具有十分重要的理论价值和现实意义。
发明内容
本发明的目的在于解决神经网络用于求解优化问题时,神经网络初始条件严重影响计算结果,使收敛速度慢,收敛到全局最优解的概率低的问题,提供一种求解优化问题的神经网络及其实现优化求解的方法。本发明提供的求解优化问题的神经网络,包括神经元(1),固定不变的连接权值
(2),变化的连接权值(3)和神经元输出(4);
程为
所述的神经元S由连续且单调递增的神经元激活函数来实现,神经网络的动态方
权利要求
1.一种求解优化问题的神经网络,其特征在于该神经网络包括神经元(1),固定不变的连接权值(2),变化的连接权值(3)和神经元输出(4); 所述的神经元S由连续且单调递增的神经元激活函数来实现,神经网络的动态方程为
2.按照权利要求1所述的求解优化问题的神经网络,其特征在于所述的神经元内部状态的起始值为在[-1,I]连续范围内的随机数。
3.按照权利要求1所述的求解优化问题的神经网络,其特征在于当所述的固定不变的连接权值用矩阵表示时,该矩阵应为对称矩阵。
4.按照权利要求1所述的求解优化问题的神经网络,其特征在于所述的变化的连接权值或者是正或者是负,变化的连接权值或者连续增加,或者连续衰减。
5.按照权利要求1所述的求解优化问题的神经网络,其特征在于当所述的变化的连接权值用矩阵表示时,该矩阵为任意矩阵,并按照事先设计好的变换规则,或增加,或衰减,或不断的增加和不断的衰减。
6.按照权利要求1所述的求解优化问题的神经网络,其特征在于此神经网络使用串行工作方式,即在某一时刻只有一个神经元按照神经网络动态方程改变状态,而其它神经元的输出不变;这一变化的神经元按照随机的方式,或者按照预定的顺序来选择。
7.根据权利要求1至6任一项所述的求解优化问题的神经网络,其特征在于当用软件实现此神经网络时,所求解优化问题的优化目标函数变量设置为神经网络的神经元输出Xi,有几个优化问题的变量就设置几个神经网络神经元的输出Xi,此优化目标函数就是要映射到神经网络的能量函数E。
8.一种使用权利要求1所述的求解优化问题的神经网络实现优化求解的方法,其特征在于该方法包括 第1、首先为所求解的优化问题建立一个能量函数E,并将此能量函数映射到权利要求1所述的求解优化问题的神经网络中,映射后的神经网络动态方程为
全文摘要
一种求解优化问题的神经网络及其实现优化求解的方法。该神经网络包括神经元(1),固定不变的连接权值(2),变化的连接权值(3)和神经元输出(4)。所述的神经元由连续且单调递增的神经元激活函数来实现,神经元的起始值为[-1,1]的连续范围内的随机数。每一个神经元都通过连接权值与其它的神经元相连接。该神经网络由神经元组成,每一个神经元都是具有函数映射功能的主要处理单元。该神经网络不需要训练,可以直接求解优化问题。
文档编号G06N3/02GK103020710SQ201210499958
公开日2013年4月3日 申请日期2012年11月28日 优先权日2012年11月28日
发明者费春国, 陈维兴, 张积洪 申请人:中国民航大学