随着光纤通信速率和传输容量的不断发展,新型光调制格式被研究并逐步应用到了高速光纤传输系统中以改善传输性能。另一方面,为了克服光网络节点的电子处理速度瓶颈,全光信号处理技术成为未来的发展方向。本论文结合新型调制格式以及全光信号处理技术的研究热点和发展趋势,针对适于不同新型调制格式的全光波长转换及全光逻辑门展开研究,取得以下主要成果:论文基于半导体光放大器(SOA)中交叉偏振调制效应,提出了一种全光或非门和或门方案,两种逻辑功能可在同一结构实现并简单切换。在理论分析和实验验证基础上有效简化了系统中的偏振控制,并进行了10Gb/s两路和三路信号光实验,逻辑输出消光比大于11.0dB。在此基础上,进一步提出一种无需探测光的全光与门方案,节省光源并简化了结构,成功进行了仿真及实验验证。归零差分相移键控(RZ-DPSK)和归零差分四相相移键控(RZ-DQPSK)是近年来最受关注,并极有可能在下一代40Gb/s或更高速WDM系统中应用的新型调制格式。针对DPSK和DQPSK信号的全光波长转换技术是一个前沿和热点研究方向。论文利用SOA中四波混频效应,进行了高速40Gb/s RZ-DPSK波长转换,并首次利用SOA展开了RZ-DQPSK信号波长转换的实验研究,DQPSK速率达到107Gb/s,转换功率代价小于3dB。对输入光功率、SOA电流、信号光脉冲宽度等因素对转换光信噪比以及转换效率的影响进行了详细研究。除相位信息外,偏振信息也越来越多被应用在新型调制格式中,但是目前针对偏振调制格式的全光波长转换技术还没有开展起来。论文提出一种适于新型偏振调制格式信号的全光波长转换原理,该原理利用四波混频效应中产生光与输入光偏振态的相关性。首次实现了10Gb/s偏振移位键控信号(PolSK)全光波长转换实验,转换功率代价1.6dB。此外,提出将该原理应用在全光PolSK/DPSK标签加载的系统方案。已有的全光逻辑门方案基本基于SOA或光纤中的非线性效应实现,论文提出了一种基于半导体激光器中注入锁定效应的全光或非门的方案,基于注入锁定半导体激光器的理论模型对其进行了数值模拟,证明方案可行并可达到10Gb/s以上的速率,通过仿真为各个参数的设置提供了参考。