众所周知,自然界大量存在的相互作用是非线性的,无论是数学、物理等基础学科还是经济、工程等应用领域均存在很多非线性问题,它们都可用一系列非线性动力系统来描述。而稳定性问题的研究能够定量地刻画这些系统在有限扰动下的运动形态,在不同的参数条件下,非线性动力系统出现的不同的稳定性运动会使系统的运行出现一些无法预测的问题。因此,对非线性动力系统在特定参数条件下的稳定性进行研究是非常有必要和有意义的。本文主要运用微分不等式技巧、Lyapunov稳定性原理、复合矩阵方法并结合模型参数的性质研究了三类非线性动力系统的稳定性,主要内容如下:第一章,介绍了非线性动力系统及其稳定性研究的背景与意义,概述了Nicholson飞蝇模型、毒品传播模型和蠕虫传播模型的国内外研究现状,并论述了本文的主要工作。第二章,研究了一类具有非线性密度制约死亡率和斑块结构的Nicholson飞蝇模型,基于泛函理论,分析了该模型正概周期解的存在性与有界性,并利用概周期函数的性质,构造了一个合适的Lyapunov函数,建立了该模型正概周期解全局指数稳定的充分条件。考虑到Chen和Wang(2014)已经研究了具有两种非线性密度制约死亡率形式之一的死亡率和斑块结构的Nicholson飞蝇模型的概周期解的存在性和稳定性,然而另外一种非线性密度制约死亡率的情形还没有被研究过,所以,本章是对已有工作的补充。第三章,建立了一种考虑复吸的合成毒品传播模型,给出了模型的基本再生数,利用微分不等式技巧分析了系统在无合成毒品滥用平衡点处的全局指数稳定性,利用Lyapunov稳定性原理分析了系统在合成毒品传播平衡点处的全局渐近稳定性。最后对模型进行了敏感性分析,讨论了复吸对毒品传播过程的影响,并用数值模拟验证了本章的主要理论结果。考虑到本章建立的模型更加接近实际情况,且是以往毒品传播模型中没有考虑过的,并通过一系列分析得到了非常有意义的结论,所以,本章是对毒品传播模型构造的创新,并对毒品滥用的控制是有意义的。第四章,研究了一类移动网络中的蠕虫传播模型,利用复合矩阵方法,得到了系统的蠕虫传播平衡点的全局渐近稳定的充分条件,并用Matlab软件进行了数值模拟,证实了所得结论的正确性。考虑到Xiao等(2017)只考虑了该蠕虫传播模型的蠕虫传播平衡点的局部渐近稳定性,本章对其全局渐近稳定进行了分析,所以,本章是前人工作的继续和补充。