空间激光通信具有宽带、高速、远距离、抗干扰能力强和轻小型等突出的优点,使其非常适合星间等空间链路通信,并且可以满足目前日益增长的信息传输需求,是未来空间通信的发展趋势。随着空间激光通信高速率、小型化及组网化的发展需求,基于偏振分光及相干探测通信体制通信终端是最佳的解决方案。采用这两种通信体制的激光通信系统均采用偏振光进行信号的传输,信号光的偏振态对通信系统性能会产生影响,因此对信号光的偏振态具有严格的要求。而光学系统的偏振特性会改变信号光的偏振态,从而影响通信系统性能。本文基于某型空间激光通信光学终端研制项目,针对通信收发光路偏振光传输效率以及通信收发光路同轴度标校的问题,围绕空间激光通信光学系统的偏振特性开展了以下研究工作:1、介绍了基于偏振分光的空间激光通信光学系统工作原理、系统组成;并在相干探测原理及激光通信收发光路同轴度标校原理的基础上,分别分析了信号光的偏振态对激光通信系统相干探测信噪比及通信收发光路同轴度标校的影响,说明信号光与本振光偏振态不一致时会降低相干探测信噪比,信号光的偏振态同样会影响标校光斑的强度分布,从而影响收发同轴度标校精度。2、基于偏振分光及相干探测的激光通信光学系统,建立了通信接收光路及通信发射光路的偏振光传输模型,并分别推导了通信接收光路及发射光路光学传输效率与光学系统中各部件偏振特性之间的数学模型,通过数值仿真分析了光学望远镜、1/4波片、通信发射镜组及通信接收镜组的偏振效应对光学传输效率的影响,为激光通信光学系统的保偏设计及指标量化提供了理论依据。3、基于偏振分光的激光通信光学系统,建立了通信收发光路同轴标校光路的偏振光传输模型;分别分析了全反射型及镀银膜型角锥棱镜的偏振特性,并对采用全反射型及镀银膜型角锥棱镜的标校光路的偏振特性进行了数学仿真及实验测试,仿真及实验结果表明采用镀银膜型角锥棱镜的标校系统中,标校光在不同传播路径下具有近似相同的光场复振幅分布,标校光斑强度分布满足艾利分布,更有利于提高通信收发光路的同轴度标校精度。4、根据空间激光通信光学系统设计指标,设计了一套基于偏振分光的激光通信光学系统;根据通信光路偏振光传输效率的要求推算了保偏膜系的设计指标要求,并完成了保偏膜系的设计,设计结果满足指标要求;对镀膜后的光学望远镜、通信发射镜组及通信接收镜组进行了偏振损耗仿真和实验测量,仿真及实验结果表明:经过保偏膜设计后的光学系统,偏振损耗均小于0.1%,可推算所引起的偏振光传输效率损耗均小于0.1%,说明所研制的光学系统具有很高的保偏性能;根据系统中1/4波片使用条件,给出了1/4波片的保偏装校方式,设计并搭建了一套基于Shack-Hartmann波前测量仪的系统辅助装调及检测装置,确保了光学望远镜工作波长下的离焦量满足装配要求。本论文对于激光通信光学系统偏振特性的相关理论研究与实际工作,对于高保偏性能的空间激光通信光学系统的研制具有很好的指导意义及参考价值,对空间激光通信终端的高效率、小型化及组网化发展具有一定的促进作用。