论文部分内容阅读
矩阵分解是指通过将一个高维矩阵分解成若干个低维矩阵从而达到降维的目的。该技术被广泛的应用在信号处理、计算机视觉、音视频和图像处理等拥有庞大数据量的领域。这种方法能够找到高维数据的低维表示,揭露看似无关数据背后隐藏的联系。传统经典的矩阵分解方法主要通过添加不同的约束将原高维矩阵(1分解成两个低维矩阵W和H的乘积形式。但是在两个低维矩阵中可能包含负元素。由于这些负元素的存在,使得在一些实际的生活场景下,比如人脸检测、视频追踪等,没有直接的物理意义。基于此,非负的矩阵分解算法(NMF)应运而生并迅速吸引了众多海内外学者的注意。非负约束的加入,使得该分解算法有了便于直观理解的物理意义。NMF的一个有用的性质是它的解通常具有稀疏性,这使得其局部特征更加明显,在很多应用场景中稀疏性都是一个很重要的特性。然而,稀疏性特征并不是一开始设计NMF算法的目标,只是一个副产物,因此稀疏性的质量不能得到保证。为了使得解的稀疏性满足实际应用的需求,必须在传统NMF算法的目标函数基础上添加相应的稀疏性约束条件。本文针对稀疏非负矩阵分解算法的基本技术进行了研究和学习,主要是基于L2范数约束的NMF算法,包括目标函数的设计与迭代公式的推导以及算法收敛性的验证。论文的具体安排如下:首先介绍了NMF尤其是稀疏NMF国内外的研究进展以及现状,并且对NMF基础理论做了简单的归纳和总结;然后重点设计了一个固定L2范数的约束非负矩阵分解算法;最后在实验环节验证了所提算法的收敛性以及满足提出的固定L2范数的约束条件。本文的具体内容如下:提出了一个具有固定L2范数的约束NMF算法,该算法能够保证在迭代过程中解的L2范数固定不变。首先采用拉格朗日乘子法将原有的约束优化问题转换成无约束优化问题,然后采用了修改后的梯度下降法求解更新公式使得该公式在迭代过程中能够始终满足L2范数固定的要求。该公式能够在迭代过程中自动选择适当的拉格朗日乘子和学习率,保证所提出的算法满足所有约束条件。实验结果证明了该算法是收敛的且满足L2固定的约束条件。