近二十年来,随着信息技术的发展,所需处理和传递的信息量以指数级增长。目前,被广泛使用的经典加密技术,为日常生活中的数据提供了安全保障。但是,其安全性是基于算法的计算复杂度。而在数学上的重大进展,比如未知漏洞的发现,或者在新型计算机的重大突破,比如量子计算机,可能会使现有的经典加密技术在较短时间内过时。量子密钥分发技术可以提供给认证的双方一串共享的随机数,也即安全密钥。这一技术是基于物理学原理的,且在理论上被证明是安全的。基于这一技术,再加上已经被证明绝对安全的一次一密技术,就可以实现无条件安全的量子通信。此外,该技术能够通过误码率等手段监测到侧窃听者的存在。1984年,Bennet和Brassard提出了第一个量子密钥分发协议,BB84协议。经过了 35年的发展,从第一个只有32 cm的自由空间信道实现量子密钥分发,到目前实现中国和奥地利之间的7600公里洲际量子密钥分发。在光纤信道里也完成了从北京到上海的2000公里长的京沪干线。现如今,以量子密钥分发技术为核心的量子保密通信技术,已从实验室演示走向实用化和产业化。本论文总结了作者在攻读博士学位期间,在基于光子偏振和轨道角动量的量子密钥分发实验中所做的几个工作,主要包括以下几个方面:第一,在实现量子密钥分发中常见的偏振编码方案中,有多光源方案,有基于单光源的干涉仪方案,还有直接调制偏振控制器的方案。针对现有方案存在安全性隐患和偏振消光比低的缺点,我们提出了一种基于Sagnac干涉仪的相位调制偏振编解码方案。不仅弥补了多光源存在的安全性隐患,其在偏振制备和探测过程中的自补偿特性也提高了发送端和接收端光学装置的鲁棒性。我们在此基础上实现了光纤诱骗态BB84协议,并在实验上证明了其较好的偏振消光比和稳定性。第二,轨道角动量近年来受到了越来越多的关注,在处理轨道角动量光束时,现有的光学元器件会改变入射光的轨道角动量量子数,比如可调节分束器。基于此,我们提出了一种偏振轨道角动量双无关的可调分束比的分束器,并在实验上验证了其偏振无关性和轨道角动量无关性。利用此分束器,我们搭建了Sagnac干涉仪,实验中优异的干涉可见度证明了其在量子信息处理或者基于轨道角动量的量子密钥分发中的潜在应用。第三,现有的大部分量子密钥分发系统均需要校准参考系,在参考系变化剧烈的系统中,比如自转的卫星与地面接收站通信,需要大量的资源来对准参考系。而参考系无关量子密钥分发协议可以解决这一问题。但是,现有的参考系无关协议存在对损耗敏感和只能针对参考系弱漂移的缺点。在前人提出旋转不变光子态的概念以及演示实验的基础上,我们利用光纤Sagnac干涉仪,设计并实验实现了偏振和轨道角动量联合编码的BB84诱骗态方案。实验结果表明了我们系统的稳定性以及应对旋转参考系的有效性。第四,在实现全天候量子密钥分发这一目标的过程中,白天量子密钥分发是先要突破的一个技术难点。我们分别利用时间滤波,频率滤波,和空间滤波的方法,在自由空间实地信道实验实现了诱骗态BB84协议。我们持续一周的连续运行我们的系统,实验结果证明了其可靠性。受大气湍流影响,轨道角动量光束在自由空间传播时会增大其模间串扰,从而影响基于轨道角动量光通信的性能。我们提出了基于快反镜和四象限探测器的自适应光学方案来减弱大气湍流对轨道角动量光束的影响,并以此为基础,实现了自由空间实地参考系无关诱骗态BB84协议。相对较低的误码率和相对较高的安全密钥率证明了我们系统在自由空间实地信道的应用前景。