随着通信技术的不断进步与革新,频谱资源的匮乏已经变成了制约无线通信业务扩展的一个阻碍,许多为了改善频谱资源利用率的技术也被人们相继提出,其中携带OAM的涡旋电磁波为人们提供了一个解决频谱资源问题的新方向。涡旋电磁波具有螺旋形的波形结构、各模态相互正交,可实现多路信息同一频点同时传输,从而提高频谱利用率。由于多个模态的涡旋电磁波同时传输会出现模式串扰等问题降低系统性能,考虑在OAM通信系统中引入信道编码相关技术来提高系统性能。本文通过总结和分析OAM通信系统的特性,对具有OAM的通信系统与信道编译码进行了深入研究并提出将信道编译码应用在OAM通信系统的办法,论文的主要工作与结论如下:(1)针对OAM的相关概念、产生方法及信道编译码的现状进行了总结与分析,为将信道编译码技术应用到OAM通信系统中建立一定的研究基础。同时,对产生OAM的几种方式进行了总结,选择一种合适的产生涡旋电磁波的方法来建立相应模型。这一部分为本论文的相关研究打下了坚实的理论基础。(2)建立基于圆形阵列天线的OAM通信系统,对此系统的相关性能进行了分析,推导。OAM通信系统可通过具有多个阵元的圆形阵列天线进行构建,利用控制各个阵元之间馈电的相位差来改变空间能量分布从而实现不同模态的涡旋电磁波的产生。并对其在发送天线与接收天线同轴传输情况的容量进行了推导。通过实验证明,当发送天线阵列与接收天线阵列数目相同,且构造的子信道数目相同的情况下,OAM通信系统与MIMO通信系统的容量相同。MIMO可构建的信道数目是有限的,OAM通信系统理论上是可以实现无数条子信道在同一频点上的同时传输。当OAM构建的子信道数目逐渐增加时,OAM的信道容量会大于MIMO系统。同时,通过对不同的调制方式下系统的误码率进行分析与比较,了解系统的相关性能。(3)针对OAM在无线通信中由于串扰、发散等问题引起的系统性能降低这一问题,本文提出将信道编译码引入到OAM通信系统中,改善系统性能。本文首先采用经典的RS码作为短码方案将其引入到OAM通信系统中。在实验证明信道编译码能够有效降低系统误码率之后,考虑到未来大容量通信的发展趋势,将LDPC码应用在OAM通信系统长码的编译码中。通过仿真对LDPC码在Gallager、Mackay、QC-LDPC三种不同检验矩阵构造法下的码性能进行分析,选择最优编码方案,并结合PEG算法对检验矩阵进行优化,增加围长,提高码性能。同时对BP、MS译码算法下的码性能进行了比较,选取合适的译码算法作为LDPC码的译码方式。对于不同信噪比、码长、码率和译码迭代的次数对OAM系统性能的影响也进行了一定的分析。最后结合近几年提出的新型Polar码,搭建了基于Polar码的OAM通信系统模型,这为今后OAM在无线通信中的具体应用有十分重要的研究意义。