随着高强度合金材料和复合材料的应用,现代化的结构设计中人们对系统稳定性的认识和应用日益深化。一方面,失稳破坏导致的结果往往比较严重,另一方面,工程实践中人们也有利用失稳的案例。带有柔性约束的杆件以及外压圆环都是常见的结构。目前分析稳定性的方法主要是依据最小势能原理。根据Koiter初始后屈曲理论,需要对势能二阶变分的正定性进行严格的理论证明,由势能二阶变分半正定对应临界点的高阶变分的信息判断临界平衡状态的稳定性。非线性有限元方法是求解结构稳定性问题的一种数值方法。但存在两点不足:一是非线性有限元方法只能在给定具体刚度的条件下求解后屈曲平衡路径,只能解这类正问题;不能直接地、精确地给出临界平衡状态稳定与不稳定的柔性约束刚度的范围,不能求解这类反问题。二是非线性有限元方法不含有高阶变分的信息,所以也不能直接应用非线性有限元方法判断临界平衡状态的稳定性。基于上述背景,本文开展了柔性约束压杆和外压圆环临界平衡稳定性理论分析方法的研究。本文提出了柔性约束压杆的临界平衡稳定性的一种理论证明方法。应用最小势能原理,用解析的方法分析势能二阶及二阶以上的高阶变分的性质,对势能高阶变分符号进行研究,确定了临界平衡状态的稳定性,给出了柔性约束压杆临界平衡状态稳定和不稳定的柔性约束刚度范围。本文的主要工作如下:一、证明了一端固定、另一端带有弹簧约束的压杆,在欧拉临界载荷作用下的稳定性。将系统的势能表示为转角的泛函,将扰动量展开成Fourier级数,将势能的二阶变分表示成一个非对角型的二次型,得到了在临界平衡状态下,势能的二阶变分半正定的条件,并求得临界载荷与屈曲模态。进一步研究临界平衡状态下高阶变分的符号,包括四阶和六阶变分的符号,证明了柔性约束压杆临界平衡状态的稳定性与约束的相对刚度有关,有稳定与不稳定之分。这与刚性约束情况是不同的。分别给出了临界平衡状态是稳定和不稳定的情况下,柔性约束的刚度范围。关于一种弹性地基的研究成果于2017年发表（应用数学和力学,2017,38（008）:877-887）。两年后,斯洛文尼亚学者Batista得到了与本文完全相同的结果（INT J SOLIDS STRUCT,2019,169（9）:72-80）。关于另一种弹性地基的研究成果于2019年2月20日出版（ARCH APPL MECH,2019,89（8）:1579-1587）,Batista对完全一致的模型,应用不同的方法,于2019年2月22日得到了相同的结论（INT J MECH SCI,2019,155:1-8）。二、将扰动量展开成Fourier级数,可将势能的二阶变分表示成一个二次型,但这个二次型系数矩阵一般不是对角型的,且阶数是无穷的。需要推导出各阶及无穷阶顺序主子式的递推公式才有可能判别这个二次型正定与否。从而证明柔性约束压杆临界平衡状态的稳定性。这样就导致上述一端固定、另一端带有弹簧约束的压杆临界平衡状态稳定性的证明过程很繁琐。对于带有扭转弹簧约束的压杆,这种方法无法得到各阶及无穷阶顺序主子式的递推公式,无法进行下一步分析。对于带有扭转弹簧约束的压杆,本文应用一个广义Fourier级数对扰动量进行展开,可将势能的二阶变分表示为对角型的无穷阶二次型。这就使得判别二次型正定与否成为可能,而且证明过程很简明。据作者掌握的资料,这是首次应用广义Fourier级数分析柔性约束压杆临界平衡状态的稳定性问题（MATH MECH SOLIDS,2020,25（4）:961-967）。另外,本文还对受外压圆环临界平衡状态稳定性的理论分析方法进行了探讨。应用张量理论推导出考虑几何非线性的势能泛函,得到了势能泛函的一阶、二阶和三阶变分表达式,并得到了临界载荷的一个近似解。本文的工作,对进一步研究结构临界平衡状态的稳定性打下了基础。