盲源分离是指在源信号与传输通道均未知或先验知识极少的情况下,仅通过观测信号来恢复出源信号。近些年来,盲源分离的研究如火如萘,并广泛应用于无线数据通信、图像处理、语音信号处理与生物医学信号处理等诸多领域,盲源分离也因此成为当前信息处理领域的重点研究方向之一。信号的稀疏表示理论是一种新兴的信号分析方法,其目的就是用尽可能少的原子来准确的表示信号的本质特征,以获得信号简洁的表示方式。研究发现,利用信号的稀疏特性能够很好的揭示非平稳信号的时变特性。因此,本文在调研盲源分离研究现状的基础上,以信号的稀疏性为主线,从信号变换与信号压缩两个角度展开。首先,考虑到通信调制信号的时频域特征混叠,在窄带脉冲噪声环境下将其循环谱域分析推广到低阶下,通过对其谱域特征研究,构造分离特征参数;其次,通过对压缩感知理论与盲源分离模型的对比,构建级联字典,结合正交匹配追踪OMP算法对通信信号进行稀疏表示,进而实现盲源分离。本文工作主要包括以下几点:(1)从盲源分离的经典模型出发,在熟悉压缩感知理论的基础上,探讨了盲源分离与压缩感知模型的相似性,进而提出将源信号恢复算法与过完备字典构造的思想应用于信号分离。文章进一步对随机观测矩阵与确定性矩阵、学习字典与联合字典以及基于范数优化的算法做了分析归纳,并提出待解决的几个问题。(2)以循环平稳理论为出发点,探讨稳定分布下信号的低阶循环谱特征。以共变及低阶循环谱密度为基础,探讨了低阶FSM算法,为脉冲噪声环境下的信号分离提供了新思路。(3)联合傅立叶基与小波基构造联合字典,以正交匹配追踪OMP贪婪算法为恢复算法,探讨了信号在联合字典下的稀疏表示。结果表明:相比于传统的正交完备字典,联合字典具有自适应性,对信号表示更灵活准确,通信调制信号的稀疏表示也为下一步盲源分离奠定了良好的基础。