近年来，在传统的腔光力学系统量子光学响应特性研究的基础上，许多学者逐渐转向研究加入各种非线性介质的混合腔光力学系统。已有各种不同的混合腔光力学系统被提出用来促进系统中的有效光力耦合，例如在法布里-珀罗腔(FP)中引入简并光学参量放大器(OPA)和高阶激发原子实现系统可调快慢光、在FP腔中悬浮纳米球控制系统的光学响应特性、在FP腔中嵌入薄膜研究混合腔光力学系统中的量子非线性效应等等。借助于光力相互作用可以探索系统中宏观机械振子的诸多量子力学效应，如光力学纠缠、机械模式光学冷却、机械态的制备等等。在这些混合腔光力学系统中产生的有趣量子相干及光学响应特性，使人们逐渐意识到混合腔光力学系统研究的重要性。而随着量子相干控制技术的发展，通过激光操作，原子局域化的研究也同样得到了迅速的发展。
　　本文研究的内容如下：
　　(1)研究了具有高阶激发原子系综和悬浮介质纳米球的光力学系统的稳态纠缠。在此系统中，单个纳米球被外部谐波偶极子阱囚禁于单模腔场中，其与腔场的耦合系数依赖于纳米球在腔场中的稳态位置。通过机械运动与腔模之间的有效光力学相互作用，发现在此系统中可以产生稳态光力纠缠。并且存在一个最佳的有效腔失谐量能最大限度地提高系统的光力纠缠。此外，详细地分析了原子激发数、纳米球的半径以及热噪声强度对系统稳态光力学纠缠的影响。研究表明，通过增加原子激发数或纳米球的半径均可以有效地增强系统的稳态纠缠。
　　(2)研究了由固定腔镜和可移动腔镜构成的光力系统的交叉克尔(CK)耦合和光学参量放大(OPA)对有效频率、阻尼、正态模式劈裂、基态冷却和稳态纠缠的影响。交叉克尔(CK)耦合会增加可移动腔镜的阻尼。由于CK耦合的存在，可以观察到输出场的正态模式劈裂。CK耦合和OPA的结合降低了可动腔镜的最小可达声子数和有效温度。弱CK耦合可以增加腔模与机械模之间的稳态纠缠的数量。特别是，发现在存在CK弱耦合的情况下，稳态纠缠对可动腔镜的热涨落具有更强的鲁棒性。
　　(3)针对级联四能级原子系统，提出了一种有效的三维原子局域化方案。在此方案中，在存在探测吸收的情况下，利用射频场耦合双折叠能级，实现了原子系统的相干控制。结果表明，适当调整射频驱动场的强度和频率失谐，可以显著提高三维原子的检测精度。因此，此方案有助于实现高效率、高精度的三维原子局域化。在激光冷却或原子纳米光刻领域，我们的研究提供了潜在的应用。