正交频分复用(OFDM)技术作为第四代无线通信的核心技术,已经有了很广泛的应用。它能够有效地提高系统的传输容量、抗干扰能力以及频谱利用率。相干光通信具有传输距离长、信道容量大以及信号质量好等优点。结合OFDM技术与相干光通信技术的优点,相干光正交频分复用(CO-OFDM)技术能够有效的抵御色散(CD)和偏振模色散(PMD)。近年来,它在光通信领域中受到了极大的关注,已经成为了超长距离光网络传输的重要技术。然而,CO-OFDM系统也存在一些局限性,诸如：1)CO-OFDM系统需要放大器来补偿光纤中的损耗,这些放大器产生的自发辐射噪声会产生不可忽略的非线性相位噪声；2)虽然CO-OFDM系统具有良好的抵御色度色散的能力,但只是在一定的范围内,因此仍然不可忽略色散对CO-OFDM系统造成的影响；3)CO-OFDM系统中子载波排列过于密集,这使得光纤中的非线性效应比较强烈,尤其是四波混频(FWM)效应对系统的影响最为显著,而且在长距离传输过程中这些非线性效应会不断累积,从而导致系统的性能严重下降。本文基于非线性薛定谔方程模型,结合CO-OFDM信号的具体形式,主要针对CO-OFDM信号在光纤传输过程中的FWM噪声积累过程及其抑制方法展开了详细研究。论文主要内容包括：1)归纳了CO-OFDM系统的原理以及一些比较常用的关键技术,为后续章节做铺垫；2)理论研究了CO-OFDM系统中FWM效应与光纤损耗、色度色散、光纤段数、每段光纤的长度以及色散失配等参数的关系；3)理论推导并分析了引入光相位共轭(OPC)后CO-OFDM系统的FWM噪声抑制程度；4)针对上述理论分析结果做了相应的数值仿真,并展开了深入的探讨,得到的结论与理论推导结果是一致的。理论研究结果表明：1)在CO-OFDM系统中,FWM噪声的强弱主要取决于光纤损耗、色度色散、光纤段数、每段光纤的长度以及相位失配等因素,这些参数对FWM噪声的影响并不是分开的,而是结合在一起的,比如,当相位失配置参数取不同值的时候,光纤段数对FWM噪声的影响程度就不同；2)将OPC技术被引入到CO-OFDM系统中以后,FWM噪声得到了明显抑制,尤其是当相位失配很小的时候。仿真结果表明：1)其它参数确定的条件下,当相位失配参数为零(也就是绝对匹配的时候),FWM光强度最强；随着相位失配逐渐增大,系统累积的FWM噪声强度将发生一定规律性的变化；此外,相位失配参数取不同的数量级时,光纤段数以及每段光纤长度对FWM光强度的影响不同,特别的,当相位失配参数小于等于1.7×10-8m-1时,除相位失配外的其它参数对系统中的FWM光强度基本上没有影响；2)采用OPC技术后,FWM噪声受到了明显的抑制,尤其是当相位失配参数绝对值小于1.7×10-7m-1时；在相位匹配程度一定的情况下,采用了OPC技术后,其他参数对系统的影响也得到了明显的改善。