论文部分内容阅读
稀疏表示是近年出现的一种新颖且热门的技术,受到很多研究者的广泛关注。其目前己被广泛应用于计算机视觉和机器学习,包括人脸识别、聚类、维数约减和图像高分辨率重建等。在人脸识别中,稀疏表示分类器已经被证实对于图像污染有很强的鲁棒性且对于具体的特征提取方法并不敏感。在本文中,我们将围绕稀疏表示技术,研究模式识别中的三个经典问题,包括分类、维数约减和子空间分割(或子空间聚类),并在人脸数据上进行实验测试。相应地,本文的主要贡献包括:
(l)对于分类问题,我们首先回顾了稀疏表示分类器和最近特征分类器,包括最近邻、最近线、最近面和最近子空间。我们将最近特征分类器描述成一般化的最优化问题,以便更容易了解最近特征分类器和稀疏表示分类器之间的关系。考虑稀疏表示分类器和最近特征分类器所利用的判别信息,我们提出了局部化加权的稀疏表示分类器,这是稀疏表示分类器的一种直接推广,不同的是其线性表示会变得局部化。因此加权的稀疏表示分类器可以同时利用数据的局部性和相关性信息。我们在YaleB和AR两个人脸数据集及多个UCI数据库上的数据集进行测试,结果显示,我们提出的加权的稀疏表示分类器比稀疏表示分类器更有效。
(2)对于维数约减问题,我们提出了一种监督的降维方法,称为优化的稀疏表示投影,这是一种基于稀疏表示分类器的降维方法。优化的稀疏表示投影是根据稀疏表示分类器的决策规则设计的,其目标是,对于训练样本,减小类内样本的表示残差,并同时增大类间样本的表示残差。因此优化的稀疏表示投影能更好地和稀疏表示分类器进行匹配,以便在变换后的子空间具有更强的判别性。我们在Yale、ORL和UMIST这三个人脸数据集上进行了充分的测试,结果显示,和多个经典的方法相比,优化的稀疏表示投影总能取得最高的识别率。
(3)对于子空间分割问题,我们首先回顾了最近的四种子空间分割方法,包括稀疏子空间聚类、低秩表示、多子空间表示和基于二次规划的子空间分割算法。这四种方法都是基于谱聚类框架的,其目的都在于学习一个好的相似度矩阵或构图矩阵。我们首先从理论上进行了分析,证明了当数据采样充分且准则函数满足一定条件时,在子空间独立条件下,我们总能获得块对角化的构图矩阵。进一步地,如果子空间正交,我们不要求数据采样充分。而已有的四种方法都是特例。考虑到数据的子空间结构,当数据采样较充分时,其必有很强的相关性,这要求子空间分割算法要有较强的聚集能力,以便将相关性强的样本聚集在一起。因此我们提出了基于(e)2范数的最小二乘回归算法,其能有效地利用数据的相关性,聚集相关性强的样本。进一步地,为适应不同程度相关性的数据,我们结合了稀疏子空间聚类和最小二乘回归算法,提出了弹性子空间分割算法,以更好地对不同类型的数据进行建模。最后我们在Hopkins155运动数据及YaleB人脸数据集上进行了充分测试,结果显示,弹性子空间分割算法往往取得最好的分割效果,但其不足在于计算最耗时。而最小二乘回归的结果与弹性网接近,且具有很高效的解析解。