文章研究了认知频谱共享系统的容量优化技术。从介绍认知无线电技术基本概念出发,通过对分级频谱共享系统进行建模分析,阐述了动态频谱共享对提高频谱效率的重要意义;接着探讨了次用户竞争和频谱感知对认知系统容量的影响,为频谱共享系统容量优化提供思路和方向;随后从MAC帧结构优化、接入算法设计、功率控制等角度优化频谱共享系统的容量。主要研究内容和成果包括:1)基于马尔可夫过程对分级频谱共享系统进行建模,推导系统的性能指标并分析比较机会接入(Overlay/OSA)和共存式频谱共享(Underlay)系统的性能。综合考虑主用户和次用户活动对系统状态的影响,首先从信道动态性的角度建模Overlay和Underlay系统动态性,得到Overlay系统的N维3N状态马尔可夫过程模型和Underlay系统的N维4N状态马尔可夫过程模型;基于建立的模型推导了诸如用户阻塞概率、信道利用率等系统性能指标的闭合表达式,并应用这些指标分析比较Overlay、Underlay以及非频谱共享系统的性能差异,从理论上阐述了频谱共享的必要性以及建模系统动态性对系统性能分析与优化的重要性。2)通过建模Underlay系统容量为分集(竞争)次用户数的函数来量化分析次用户分集对频谱共享系统容量的影响;通过建模认知网络的吞吐量为感知时间的函数来研究频谱感知对OSA系统容量的影响。首先,考虑次用户分集场景将Underlay系统可获得的容量建模为分集用户数的函数,由此定义并推导出次用户的分集增益,进而从理论和仿真角度分析了次用户分集对Underlay系统可获得的容量的影响。其次,考虑OSA系统的感知-吞吐量交易,将认知网络的吞吐量建模为感知时间的函数,进而分析了感知时间和感知质量对认知网络可获得的吞吐量的影响。这些研究为频谱共享系统容量优化提供了思路与方向。3)在分析OSA系统次用户信道切换活动的基础上,通过平衡感知质量(检测器的ROC)和认知系统的感知-吞吐量交易对次用户的感知时间和MAC帧长进行联合优化,以最大化认知网络的吞吐量。针对周期性信道感知机会频谱接入系统,首先在建模系统动态性的基础上研究一般化的次用户信道切换问题,得到次用户的成功切换概率、阻塞概率、无切换概率以及平均切换时延等性能指标的闭合表达式;随后,根据信道切换推导出MAC帧的三种应用图景,据此推导出新的认知网络吞吐量模型,它是感知时间和MAC帧长的函数;通过平衡感知质量指标并最大化认知网络吞吐量,推导出最优感知时间和最优MAC帧长的闭合表达式,进而得到认知网络可获得的最大吞吐量。理论和仿真结果揭示了感知质量和信道切换对认知网络吞吐量的影响。4)在建模OSA系统主网络动态性和次用户频谱感知活动的基础上定义并推导出一个跨层性能指标,以该指标为接入收益函数提出一种跨层优化接入算法。针对周期性信道感知机会频谱接入系统,在建模主网络动态性和次用户频谱感知活动的基础上推导出次用户在每个信道上的无碰撞传输概率,这是MAC层指标;结合信道传输容量这一物理层指标,推导出次用户在每个信道上无碰撞传输时可获得的信道容量,称为有效传输容量;以最大化有效传输容量为接入信道优选准则提出一种跨层优化接入算法,并推导出OSA系统可获得的最大平均有效传输容量的闭合表达式。理论和仿真结果表明跨层优化接入算法可以提供高于单一物理层或单一MAC层优化算法的有效传输容量。5)提出混合Overlay/Underlay频谱共享模型,在建模主网络动态性的基础上推导出混合频谱共享系统的容量,并采用功率控制技术对系统容量进行优化。结合Overlay和Underlay优势提出混合频谱共享模型,它允许次用户依据主网络状态的变化借助自适应功率控制技术灵活工作于Overlay状态或Underlay状态。考虑FDMA主网络和CDMA主网络两种场景,通过分析主网络动态性得到次用户处于Overlay状态和Underlay状态的时间比率,由此推导出混合频谱共享系统的容量模型;以最大化系统容量为准则,推导出次用户在Overlay和Underlay状态的最优发射功率,进而得到混合频谱共享系统可获得的最大容量。理论和仿真结果表明,混合频谱共享可以实现比Overlay或Underlay系统更高的频谱效率。上述研究采用跨层设计技术对频谱共享系统的容量进行优化,所提出的方案和算法有助于优化频谱共享系统设计,亦为未来无线资源的动态调度与管理提供了部分理论依据。