随着下一代移动通信网络及移动互联网技术的发展,未来无线通信网络将面临有限频谱资源上异构网络与复杂无线信号动态共存的问题,开发新的基于信号检测处理手段获取无线网络中的频谱使用信息的频谱感知技术显得尤为重要。依赖于复杂人工分析提取特征的传统通信信号识别技术已经无法满足上述需求,因此,本课题提出利用深度学习算法构建通信信号特征学习网络和信号检测识别算法,提高未来复杂无线通信环境下认知通信终端的自主学习能力。启发于注意力机制提出的初衷,论文从时频分析方法入手,通过引入短时傅里叶变换和离散小波变换机制,构建基于深度学习的特征学习网络和通信信号识别网络,以提高特征提取算法的自适应性和信号识别网络的准确性。论文的主要工作如下。论文针对传统识别算法的场景局限性和特征提取的人工分析依赖性等问题,提出了一种基于深度学习网络构建的通信信号特征自主学习算法。通过拟合短时傅立叶变换的两种计算机制,论文分别构建了基于卷积受限波尔兹曼机(CRBM)和非卷积型受限波尔兹曼机(RBM)的通信信号特征学习网络。其中,基于RBM构建的网络相比于基于CRBM构建的网络计算速度大大提升,大大降低了深度学习网络对高性能硬件的要求。论文针对基于短时傅里叶变换机制构建的特征学习网络存在分辨率固定的问题,提出了一种基于离散小波变换机制的能检测突变、抑制噪声的通信信号深度特征学习网络,并针对网络输出特征计算方式的不同,构建了两种不同的直接型和间接型深度学习网络。论文针对通信中的信号调制识别问题和信号检测问题,分别利用拟合短时傅立叶变换的特征学习网络和拟合小波变换的特征学习网络结合反向传播神经网络分类器构建了调制识别网络和信号检测网络。相比于传统算法,论文提出的算法都在识别精度上都获取了更优的性能,尤其是低信噪比条件下。