波达方向估计是阵列信号处理领域的一个基本问题,它在雷达、声呐以及无线通信等方面都有着广泛的应用。近年来,人们渐渐采用稀疏阵列来获取空间信息,因为相比受限于奈奎斯特采样定律的均匀线阵,稀疏阵列在等量物理阵元的情况下能够实现更高的角度分辨率和更高的阵列自由度。其中,以互质阵列为代表的系统化稀疏阵列更是研究热点,因为这一类稀疏阵列的结构和可实现自由度都能闭式地表达出来。本文在互质阵列信号处理技术的基础上,结合压缩感知的框架,着重研究了互质阵列的波达方向估计问题,并提出了具有高效性和实用性的算法。本文主要有以下三个方面的研究内容:1.针对子空间类算法在虚拟域中的自由度缺失问题,将压缩感知中具有代表性的稀疏恢复算法引入到虚拟域,实现高自由度的波达方向估计。由于互质阵列的虚拟阵列是非均匀的,并且相应的虚拟信号表现出单快拍特性,本文将迭代自适应方法和基于协方差的稀疏迭代估计方法引入到虚拟域进行稀疏信号重建。这两种方法能够有效地处理具有单快拍特性的虚拟信号,并且适用于非均匀的虚拟阵列,能够更加充分地发挥互质阵列高分辨率、高自由度的优势。2.针对压缩感知中的网格失配问题,提出基于不确定集提取的离网格型互质阵列波达方向估计算法,降低波达方向的估计误差。现有的离网格型波达方向估计算法均是用网格失配变量来补偿网格参数,而本文从导向矢量重构的角度出发,提出利用不确定集的概念来等价地刻画误差变量,并构建了一个协方差拟合问题来优化不确定集。求解后得到的最优不确定集能够在欧几里得平面上逼近期望导向矢量,因此从中提取波达方向能够有效地降低网格失配引起的估计误差。3.针对非均匀虚拟阵列的信息缺失问题,分别从协方差矩阵重构和信号重构的角度设计虚拟阵列插值算法,进一步提高互质阵列的可实现自由度。由于互质阵列推导出来的虚拟阵列是非均匀的,阵列无法充分利用所有接收的信息,导致波达方向估计性能下降。本文一方面从协方差矩阵重构的角度出发,采用一种协方差拟合准则,重构出与插值虚拟阵列相对应的协方差矩阵。另一方面,本文从信号重构的角度出发,分别采用原子范数最小化和矩阵填充的方法来增强信号的稀疏性,从而恢复出缺失阵元对应的虚拟信号。这两种算法能够有效地解决信息损失问题,大大提高了互质阵列的可实现自由度以及波达方向估计的精度。