非线性光限幅效应可用于对光敏器件和人眼的保护以免受到高强激光的伤害，非线性光学材料与光限幅研究是国内外光电信息功能材料领域的一个研究热点。无机过渡金属团簇化合物材料因其较强的光学非线性、优良的光限幅性能、分子结构和中心骨架金属原子的可变性，近年来引起了人们极大的兴趣。在本文中，对鸟巢结构无机过渡金属团簇化合物的光学非线性和光限幅性能进行了研究。论文的主要研究内容如下：　　利用Z-scan技术，在不同光强条件下，研究了具有不同骨架金属原子的鸟巢结构无机金属团簇化合物材料[MOS3Cu3(4-pic)6]·ClO4(M=W, Mo)的非线性吸收特性与非线性折射特性。实验结果和理论分析结果证实了该金属团簇化合物具五阶光学非线性。目前无机过渡金属团簇化合物的五阶光学非线性未见国内外报道。　　应用可调谐激光测量了鸟巢结构无机金属团簇化合物[WOS3Cu3I(4-pic)6]溶液在绿光和红光波段的光限幅性能，并与作为光限幅基准材料的C60甲苯溶液的光限幅性能进行了比较。在532nm波长处，金属团簇的光限幅性能优于C60，而在630nm波长处C60的光限幅性能优于金属团簇，并且金属团簇在532nm波长处的光限幅性能要优于在630nm波长处的光限幅性能。　　利用泵浦-探测技术研究了金属团簇化合物[WOS3Cu3I(4-pic)6]的溶液样品在绿光和红光波段的光限幅作用机制，为了进行比较，同样对 C60和碳黑悬浮液进行了泵浦-探测实验，实验发现该团簇在上述波段光限幅的作用机制与C60的光限幅作用机制一致，主要是激发态吸收。应用激发态吸收光限幅理论对光限幅测量结果进行了理论研究。研究表明在纳秒激光脉冲的作用下，金属团簇的光限幅效应的作用机制主要是三重态的激发态吸收；在皮秒激光脉冲的作用下，金属团簇的光限幅效应的作用机制主要是单重态的激发态吸收。　　在以往无机过渡金属团簇化合物的光限幅研究中已经报道了在不同溶剂中团簇化合物溶液的光限幅特性基本类似。实验研究了鸟巢结构无机金属团簇化合物[MOS3Cu3I(4-pic)6](M=W, Mo)在氯仿、乙腈和二氯甲烷溶液中的光限幅性质，发现金属团簇在不同溶剂中的光限幅性能差异明显，这主要是溶剂改变了局域电场或改变电子结构与分布的结果。材料的光限幅性能与溶剂相关。　　实验研究了鸟巢结构无机金属团簇化合物[MoOS3Cu3I(4-pic)6]溶剂相关的光学非线性，测量了在不同溶剂中金属团簇溶液的非线性吸收系数与非线性折射系数。发现团簇溶液的非线性吸收系数与非线性折射系数均随着溶剂的变化而变化，而且该团簇在 DMF溶液中的非线性折射符号为负，但是在乙腈和二氯甲烷中溶液中的非线性折射符号为正。团簇溶液的光学非线性是与溶剂相关的。　　从理论上研究了非线性光学材料中的激发态吸收增强瞬态热折射，实验测量了激发态吸收增强瞬态热折射对光学非线性的影响。在不同的条件下，激发态折射和激发态吸收增强瞬态热折射之间的竞争会导致非线性折射性质发生巨大的改变。