高功率单模掺镱光纤激光器凭借转换效率高、光束质量好、结构紧凑等优势，广泛应用于工业加工和军事国防等领域。随着输出功率不断攀升，非线性效应(NLE)和模式不稳定(TMI)效应成为制约其功率提升的最主要因素。采用基于模式控制技术的大模场掺镱光纤可从根本上实现NLE和TMI效应的同时抑制，然而目前国内高性能的掺镱光纤仍然主要依赖进口，特殊结构的大模场掺镱光纤更是因军事敏感被国外禁运。本文围绕基于模式控制技术的大模场掺镱光纤，从优化光纤制备技术入手，以自建高功率光纤激光测试平台为基础，验证各模式控制技术对激光器NLE和TMI阈值的提升效果，最终实现适用于高功率光纤激光器的高模式不稳定阈值大模场掺镱光纤。
　　本文首先介绍了以改进的化学气相沉积(MCVD)工艺和拉丝技术制备掺镱光纤的方法，并分析了实现高Yb3+离子掺杂浓度、低背景损耗的大模场掺镱光纤在各个制备环节中需要把握的关键点。随后，系统地介绍了大模场掺镱光纤的基本特征参数和测试表征技术。基于上述光纤制备和测试技术，自主研制了20/400双包层掺镱光纤，在全光纤激光振荡器中获得了2kW激光输出，光光效率82.5%，光束质量M2~1.39，拉曼抑制比高达46dB。
　　研究了基于弯曲掺镱光纤的模式控制技术。阐述了基于大芯径掺镱光纤的全光纤结构主振荡功率放大器(MOPA)在准单模运转和少模运转条件下，TMI效应的典型特征及监测方法，明确了以激光光束质量M2因子急剧退化或时频域信息突变作为TMI阈值的判断依据。实验探究了大芯径掺镱光纤放大器中TMI阈值随掺镱光纤弯曲直径的变化关系：实验中掺镱光纤弯曲直径范围为11-17.5cm时TMI阈值最低，增大弯曲直径可使阈值提升51%，而减小弯曲直径也实现了33%的阈值提升。基于实验结果，提出弯曲影响TMI阈值的根因在于光纤模式耦合和模式弯曲损耗的共同作用。
　　研究了基于降低纤芯数值孔径(NA)的模式控制技术。模拟分析了纤芯折射率波动将使低NA本质单模光纤产生多模行为；提出在包层中引入低折射率沟道可使高阶模离域，且能提升低NA光纤对纤芯折射率波动的容忍度，从而降低低NA掺镱光纤的制备难度。在全光纤MOPA放大器中，基于自研的20/400沟道辅助低NA掺镱光纤，TMI阈值达1.35kW，输出1.3kW时M2~1.04。设计了线性掺杂和指数掺杂的掺镱光纤，能均衡光纤中的热负载分布，可将最高温度降低一半以上，并显著提升熔点的稳定性。
　　研究了基于减小纤芯镱离子掺杂区域的模式控制技术。阐述了部分掺杂光纤的制备要点，从调控MCVD工艺参数和设计掺杂组分两方面提出了优化方案，并成功制备了折射率剖面优化的30/400镱铈共掺部分掺杂光纤。与常规掺镱光纤相比，基于镱铈共掺部分掺杂光纤的全光纤MOPA放大器TMI阈值提升了74%；得益于部分掺杂的设计，输出激光功率达1.2kW时M2~1.43，放大器的激光光束质量得到改善。15小时的高功率拷机实验验证了镱铈共掺部分掺杂光纤具有较强的抗光子暗化性能。需要注意的是，弯曲导致的模场畸变会使TMI阈值提升效果降低。通过设计光纤长度和弯曲直径，利用镱铈共掺部分掺杂光纤在后向泵浦的全光纤激光振荡器中实现了3.14kW激光输出，且未出现受激拉曼散射效应和TMI。