论文部分内容阅读
在信息科学研究领域,基于能量模型求解特定问题的过程常常包含两个步骤:建立能够较好地刻画问题的能量模型,并提出有效的优化方法进行求解。遗憾的是,这两个步骤往往不能同时两全:相比于凸函数来说,非凸非光滑的模型对刻画实际问题的能力更强;然而相比于凸优化问题,非凸非光滑模型也更难被优化求解。因此,不论是为实际应用问题提出能够更好地刻画问题的非凸非光滑模型,还是为非凸非光滑优化问题设计有具有普适性且有效的收敛算法,他们都是当前研究工作中非常具有研究意义的热点问题。本文从非凸非光滑问题在图像处理和机器学习中的算法与应用两方面展开研究,取得了一系列重要成果。本文的工作内容主要包括:(1)针对线性等式约束优化问题的LADMP算法。为线性等式约束优化问题,提出一种基于ADMM的LADMP算法。通过引入辅助变量,将其带来的额外约束惩罚到目标函数上,通过这样做可以证明LADMP算法产生的序列是收敛到原问题的一个KKT点。并且,由于LADMP算法在每次迭代内部使用的是LADM算法,因此它能够保证子问题具有闭形式解。在信号表示和图像去噪问题上的实验结果,表明了 LADMP算法具有较好的收敛性和有效性。(2)针对无约束优化问题学习带Bregman距离的优化算法。为无约束优化问题,提出带Bregman距离的AMBM算法。它针对不同的子问题,使用特定的Bregman距离,以寻求子问题能够更容易被求解。与此同时,它还能获得针对一般非凸非光滑问题较理想的收敛性结果。此外,基于学习的思想,作者提出了 LAMBM算法。它能够从训练数据中自适应地学习算法参数,以使得目标函数值能够快速地下降。(3)一种不精确的优化算法框架。提出了一种不精确的IPAD算法,用来求解无约束的优化问题。在作者给出的不精确条件下,任何有效的算法都能够被融入到IPAD的算法框架中。因此IPAD算法框架是非常灵活的,并且,它同时还保有针对一般非凸非光滑问题较理想的收敛性结果。此外,考虑到子问题的多样性,作者提出了一种混合形式的IPAD算法(HIPAD)。作者在合成和实际数据上验证了 IPAD和HIPAD算法,通过实验可以证实本章提出算法的收敛性和有效性。(4)基于非局部L0模型的显著性检测及其扩展。通过对希望得到的显著性检测结果的刻画,作者为图像显著性检测问题提出了一种非局部的L0模型(NLL0)。NLL0模型中使用的非局部图结构比之前工作中所用的局部图结构能得到更一致的显著性检测结果。作者提出了两种不同的显著性引导图,其中一个是由感知先验产生的,而另外一个是通过对训练数据的学习得到的。此外,这种基于学习策略的NLL0模型也能够被用于交互式图像分割问题中。通过大量的实验证实了作者提出的模型的有效性。