轮流中继技术利用多个节点轮流协作能够克服中继节点的半双工限制,极大提升协作网络通信效率,受到人们的广泛关注。然而该技术引入多个中继节点潜在地扩大了保密信号的传播范围,增加了中继链路被窃听的风险。现有的轮流中继研究仅关注了频谱效率提升的问题,对于轮流中继网络存在的安全问题缺乏重视,物理层安全技术利用无线信道固有的随机性、时变性、多样性和互易性,能够有效解决无线通信系统中的安全问题,得到了业界的广泛研究。但是,当网络中分别存在外部窃听者与内部窃听者时的信息安全问题缺乏性能分析与解决方案。基于此,本文依托国家自然科学基金项目与国家863计划项目课题,针对轮流中继网络的物理层安全技术开展研究。论文首先建立了当外部和内部窃听者存在时轮流中继网络的物理层安全模型,并分析了其安全性能。在此基础上,针对外部窃听问题提出了可信中继的轮流中继安全传输方案、面向安全的轮流中继网络中继选择方案,针对内部窃听问题提出了非信任中继的轮流中继安全传输方案。具体研究内容包括:1.提出一种基于中继间干扰迭代消除的轮流中继系统物理层安全传输方案。首先,利用中继间干扰恶化窃听者的窃听,同时利用合法节点接收信号之间的相关性消除中继间干扰对目的节点的影响。然后,设计了一种最大化保密速率的发射功率分配算法。仿真结果表明,采用安全方案后轮流中继系统的保密速率提升了至少3 bit/s/Hz。2.提出一种面向安全的轮流中继选择方案。首先提出遍历搜索所有中继组合的最优中继选择方案,并推导得到了保密速率的理论值;之后为降低复杂度,分别从最大化主信道容量、最大化中继间干扰的角度设计了两种两阶段的次优中继选择方案,先缩小中继选择范围再进行搜索,其中K-最大中继间干扰中继选择方案的计算复杂度最低,K-最大主信道中继选择方案的信道估计开销最小。仿真结果表明K-最大主信道中继选择方案能够以较低的复杂度实现最优保密速率。3.提出一种基于中继间干扰消除与波束成形的非信任中继安全传输方案。首先利用可信中继与不可信中继交替转发产生的中继间干扰,恶化非信任中继的窃听条件,然后采用波束成形技术与中继间干扰迭代消除方法提高合法用户接收信号质量;并在此基础上提出了以最小化窃听和速率为目标的快速功率分配算法。分析和仿真结果表明,该方案提高了轮流转发系统的安全性,系统的保密速率提升了至少2 bit/s/Hz。