当前,随着无线接入设备数量的不断增加,频谱资源越来越紧张。然而很多授权频段大部分时间都处于空闲状态,没有被授权用户使用。认知无线电作为能够提高频谱利用率的重要技术获得了研究人员越来越多的关注。频谱感知是认知无线电技术实现应用的重要一步,频谱感知的目标是通过不断检测目标频带来判断频带与主用户的状态,检测出频谱空穴。为了准确实时的计算出频谱空穴,频谱感知成为了无线通信领域的一个研究热点。本文主要研究基于随机矩阵理论和基于高斯混合模型的频谱感知算法。频谱感知技术研究主要包括两个方面:一是单用户频谱感知;二是多用户合作频谱感知。首先总结了现有的几种频谱感知算法,介绍了以发射机感知作为基础的能量检测算法和匹配滤波检测算法。由单用户频谱感知技术的一些缺点,引出了多用户合作频谱感知中的集中式合作频谱检测技术,重点介绍了比较成熟的数据融合方式集中式硬融合方式,包括该方式的“与”准则,“或”准则和“K秩”准则。然后简要介绍了随机矩阵理论在频谱感知方法中的应用。最后为了改进传统的频谱感知模型引入了基于机器学习的频谱感知模型,并且介绍了基于机器学习的频谱感知流程。首先研究了随机矩阵理论在频谱感知中的应用,因为基于随机矩阵理论的频谱感知算法计算复杂度比较高,所以提出了最大特征值与平均特征值之差的频谱感知算法(MSE)和能量检测算法(ED)级联组合的频谱感知算法(ED-MSE)。在高信噪比下采用能量检测算法进行频谱感知,降低算法的计算复杂度;在低信噪比下采用MSE算法频谱感知。ED-MSE算法的频谱感知性能比单独使用能量检测算法或MSE算法要更强。然后研究了基于机器学习理论的频谱感知算法,因为基于随机矩阵理论的频谱感知算法的判决门限的推导比较复杂且存在不准确等问题,同时为了提高衰减信道下的频谱感知性能,所以提出了小波变换和高斯混合模型相结合的多天线协作频谱感知方法。该方法结合多次用户多天线技术提高分集度,减少路径衰减、阴影对频谱感知性能的影响,为了减少噪声对频谱感知性能的影响,使用小波变换对信号进行降噪。然后使用机器学习中的高斯混合聚类算法进行训练,得到频谱感知分类器,避免了复杂的判决门限推导。最后使用训练好的分类器进行频谱感知。在实验仿真部分,在Rayleigh衰减信道和Rician衰减信道下进行了仿真,对比了几种不同特征的性能,以及和k-means聚类算法进行了性能比较,结果表明了采用MSE特征的基于小波变换和高斯混合模型的多天线协作频谱感知方法具有更好的频谱感知性能。