一种约束稀疏的非负矩阵分解方法
【技术领域】
[0001] 本发明属于图像信息处理技术领域,具体而言是一种在对系数矩阵施加最小相关 约束的同时对基矩阵施加2-范数的约束,从而使得分解结果更优且唯一的稀疏非负矩阵 分解算法。
【背景技术】
[0002] 随着移动多媒体应用的推广和普及,各种多媒体数据(如图像数据等)得到爆发 式地增长,如何在海量数据中进行快速分析、搜索并获取少量感兴趣数据成为现阶段需要 解决的问题。近年来,盲源分离(Blind Source Separation,BSS)成为信号处理领域的一 个研宄热点。其基本思想是在未知源信号和传输信道参数的情况下,仅从观测到的混合信 号中恢复出源信号。
[0003] 1999 年,D. D. Lee 与 H. S. Seung 在《Nature》上发表了学术文章 《Learning the parts of objects by non-negative matrix factorization〉〉,首次提出了一种带有非负 约束的矩阵分解方法,即非负矩阵分解(Non-negative Matrix Factorization,NMF)。该 方法要求给定源数据满足非负性,即其物理意义是数据的非负性要满足其物理信号的真实 性,在实际应用过程中,非负数据广泛的存在,且分解后的结果具有明确的物理含义,如灰 度图像的元素值为0~255 (或0~1)、电表数据一直保持非负等。NMF的非负限定符合直 观上的理解:整体是由部分组成的,因此它在某种意义上把握了数据描述的本质;非负性 的限制导致了相应描述在一定程度上的稀疏性。稀疏性描述将在一定程度上将抑制外界环 境干扰,如光照的变化、图像部分遮挡或物体的旋转等。非负矩阵分解具有的这些优势,逐 渐成为一种盲源分离的新的有效手段,该方法成为近年来研宄的热点,有望在信号处理、海 量数据分析和数据挖掘等领域取得突破性进展。
[0004] 目前,很多利用增加新的限制条件到已有的NMF模型中,以便使得分解结果能够 满足更多性质的要求,例如加入稀疏性、平滑性和正交性等条件限制,从而得到分解结果更 加合理。对NMF系数矩阵施加相关性约束以实现盲源分离,从而放宽了对基矩阵独立性的 要求,但其要求基矩阵稀疏。而实际的基矩阵信号信道参数常常是非稀疏的,该方法具有一 定的局限性。本文提出了一种基于非负矩阵分解的新的稀疏算法,该算法对系数矩阵施加 最小相关系数约束和对基矩阵施加向量2-范数约束,并通过梯度下降法进行迭代求解。
【发明内容】
[0005] 发明目的:针对稀疏非负矩阵分解算法中的分解速率慢,易陷入局部最优值的缺 点,本发明提出了一种新的约束稀疏的非负矩阵分解方法,对系数矩阵施加最小相关系数 约束和对基矩阵施加向量2-范数约束,使得分解结果更优且唯一。
[0006] 技术方案:为了更好理解本发明技术方案,先对相关技术做简单介绍:
[0007] NMF算法即给定非负矩阵V e RmXn,NMF旨在求解两个非负子矩阵W e Rmxir和 H e Ifxn使得V ~ WH。其中V为原矩阵(灰度图像的像素值矩阵),W称为基矩阵(又叫 特征矩阵),H称为系数矩阵。一般情况下r << min (m,η),达到降低数据存储维数,从而 降低数据存储空间,在降维过程中可同时添加约束使得结果更加稀疏,对原始图像的表达 更加具体,重构的图像与原图像的误差更小。
[0008] 在数理统计理论中,非相关源信号间的相关系数的绝对值一定小于它们混合信号 间的相关系数的绝对值。分离出来的信号的相关系数的绝对值越小就表明分离出来的信号 间的相关性越小。因此可以把分离信号相关系数最小作为对系数矩阵H的一个约束条件。 相关系数定义为:
[0009]
【主权项】
1. 一种约束稀疏的非负矩阵分解方法,应用于图像分解,所述方法为:将给定的由灰 度图像像素值组成的非负矩阵V通过多次迭代分解得到两个非负子矩阵:基矩阵W和系数 矩阵 H 使得 V ~ WH,其中 V e RmXn,W e RmXl:,H e rXn,r << min(m,n);其特征在于,在每 次迭代过程中对系数矩阵H施加最小相关约束,并同时对基矩阵W施加最大2-范数的约 束,目标函数为:
系数矩阵η的相关系数;M/=Σκ2, _ - i'k 其中,i = 〇,1,. . .,m_l,k = 0,1,. . .,r_l ; α ¥和α η为正则化参数,表不约束的强度,越大 表示约束越强。
2. 根据权利要求1所述的约束稀疏的非负矩阵分解方法,其特征在于,所述将给定的 由图像像素值组成的非负矩阵V通过多次迭代分解得到两个非负子矩阵中,包括如下步 骤; (1) 根据给定的降维目标r,随机初始化W和H并进行归一化处理; (2) 确定基矩阵W和系数矩阵H的学习因子Iiw和τι H; (3) 运用梯度下降法按如下迭代公式进行迭代,更新W和H :
式中,i = 0, 1,…,m_l,k = 0, 1,…,r_l,j = 0, 1,…,n_l ; (4) 在每一步迭代后将W和H的负元素置零,并对W按列进行归一化处理; (5) 循环进行(3)~(4)直至收敛,得到的基矩阵W和系数矩阵H即为最后分解结果。
3. 根据权利要求2所述的约束稀疏的非负矩阵分解方法,其特征在于,所述步骤(2)中 基矩阵W和系数矩阵H的学习因子Iiw和τι HS:
所述步骤(3)中迭代公式为:
【专利摘要】本发明公开了一种约束稀疏的非负矩阵分解方法,用于将给定的由图像像素值组成的非负矩阵通过多次迭代分解得到基矩阵和系数矩阵,在求解过程中对系数矩阵施加最小相关约束的同时对基矩阵施加2-范数的约束,使得分解结果更优且唯一。本发明方法是对传统非负矩阵分解算法的一种改进,在保证非负约束和分解精度的基础上,使分解后得到的矩阵尽可能的稀疏,从而更加节省存储空间。
【IPC分类】G06T7-00
【公开号】CN104732535
【申请号】CN201510119985
【发明人】李昌利, 张师明, 李臣明
【申请人】河海大学
【公开日】2015年6月24日
【申请日】2015年3月18日