高性能的频率源在通讯、雷达、测量等领域有着重要的作用,是系统中射频信号的来源。传统的频率源存在着频率低、频谱纯度差等问题。光电振荡器(Optoelectronic Oscillator,OEO)作为一种新型的频率源,可以产生高频率且Q值极高、相位噪声极低的高性能射频信号,并且可以产生抖动低的光脉冲信号,近年来受到了各国学者的关注。本论文对低相噪光电振荡器的几个关键技术进行了理论分析和实验验证。本文首先介绍了光电振荡器的运转机理,讨论了低相噪光电振荡器的三个关键技术:单模运转、相位噪声抑制和频率稳定性提升,阐述了这三种关键技术的常规解决方案和各自的基本原理,分析了它们的优缺点。针对光电振荡器各项指标的提升,提出了两种方案,第一种方案是基于锁相环的双环光电振荡器,分析了双环的结构对边模的抑制作用,通过锁相环和温控模块提升了频率稳定性,理论推导了锁相环光电振荡器的噪声传递函数,并优化了光电振荡器的噪声。第二种是改进的注入锁定式光电振荡器,针对传统的注入锁定式光电振荡器存在的失锁问题,设计了额外的反馈环路,通过检测注入锁定式光电振荡器和注入源的相位关系来控制环路长度,提高了光电振荡器的长期稳定性。另外,推导了注入锁定式光电振荡器s域的噪声传递函数,并利用这一关系优化了注入锁定式光电振荡器的相位噪声。最后,基于锁相环和注入锁定技术,设计了光电振荡器的工程化样机。样机可以长时间稳定工作,输出10GHz的高品质信号,边模抑制比优于75dB,在10kHz频偏处相位噪声低于-140dBc/Hz,且30小时内频率漂移低于0.05ppm。