工程中的有限元计算能反映边坡的变形特征、应力状态和破坏机理，但是尚不能给出一个直观的安全系数；在工程中应用广泛的刚体极限平衡分析方法，虽然能够给出直观的安全系数和危险滑裂面位置，但是在破坏机理研究上有一定的局限，需要发展一种将有限元计算结果同刚体极限平衡分析方法相结合的边坡稳定评价新方法。本文基于这种思路，引入蚁群算法解决边坡滑动面的搜索问题，实现危险滑动面的自动搜索，计算最小安全系数。同时将有限元法与之相结合，考虑岩土体材料的非线性应力-应变关系，得到边坡的实际应力、应变和位移等。具体研究工作如下： 1.研究蚁群算法的实现过程及其应用在边坡稳定分析中搜索潜在滑裂面的可行性。 2.在岩土坡应力场非线性有限元分析结果的基础上，将蚁群算法与岩土坡稳定性有限元分析方法相结合，探讨了基于有限元分析得出的岩土坡应力场所对应最小稳定安全系数的岩土坡任意形状临界滑裂面的蚂蚁算法搜索技术。运用Visual Basic语言编制计算程序。 3.应用编制的蚁群算法极限平衡有限元程序，进行了边坡极限平衡有限元算例分析，对岩土体强度参数做了敏感性分析。在证明了蚁群算法极限平衡有限元算法正确性的同时，得到了安全系数随内摩擦角、黏聚力、泊松比和弹性模量的变化曲线以及塑性区与临界滑裂面的位置关系。 4.根据古水水电站的地质模型，应用蚁群算法极限平衡有限元分析方法，搜索古水水电站进水口高边坡潜在滑裂面，计算安全系数，并与常规的刚体极限平衡法的计算结果进行比较，得到了一致的结论，说明了将此种方法应用到复杂地质条件下的边坡稳定计算的可行性和实用性。