在非线性系统中随着系统阶次的增加，对其进行分析和控制的难度不断提高，而模型中含有不确定性、存在耦合的复杂系统的控制问题更是研究的难点。非线性级联系统是一类具有代表性的高阶非线性系统，一般该类系统的数学模型都具有高阶次的特点，此外，整个系统可以分成多级的子系统，上下级子系统间通过状态变量来实现关联。通过大量的理论研究发现，很多高阶非线性系统都可以通过状态反馈、坐标变换等方法转化为级联系统，而且非线性级联系统在工程应用的复杂系统中广泛存在，如电力、冶金、机械等系统。由于非线性级联系统的特殊结构及实际存在的广泛性，使得对其控制策略的研究具有更加重要的理论价值和工程意义。本文针对高阶非线性级联系统进行了理论分析与研究，特别是针对模型具有不确定性的级联系统的控制策略做了深入的理论及实验研究，提出了一套行之有效的控制理论与控制器设计方案，并以多输入，含不确定性的高阶非线性板球系统为实际研究对象，完成了控制器的设计及实验研究，实验结果证明了所提控制方案的有效性及实用性。本文的具体研究内容如下：1、分析了利用非线性状态观测器实现动态补偿线性化的设计理论，研究了非线性状态观测器的稳定性和误差的收敛域，针对扩张状态观测器进行了稳态误差的分析。提出了系统模型局部未知时，可减小ESO观测负担、提高观测精度的ESO的结构设计方法。此外，针对系统输出量可能被量测噪声污染的情况，给出了多种具有滤波功能的ESO设计方法。最后，研究了利用多个自抗扰控制器解决非线性多变量系统耦合的问题，给出了理论分析。仿真研究证明了以上所提各方案的有效性。2、针对模型不确定具有严格反馈形式的非线性级联系统，研究了反步递归控制器设计的理论，在此研究基础上提出了不依赖于系统模型、具有递归设计特点的级联自抗扰控制策略。该方法对被控对象约束条件不苛刻、易于满足，而且由于ADRC中TD的作用，使得在轨迹跟踪控制中不要求给定轨迹高阶可微，控制器结构设计简单、易于实现，有效解决了高阶非线性系统中控制器结构设计复杂的问题。此外，研究了模型不确定非线性级联系统的结构分类，并将级联自抗扰的控制策略推广到广义前馈、广义非三角结构的级联系统中去，并定义了级联自抗扰控制的规范型。以典型的三个一阶子系统级联的三阶非线性系统、两个二阶子系统级联的四阶非线性系统为例，进行了仿真研究，针对具有前馈形式的车摆系统进行了仿真研究，以上仿真研究均取得了满意的控制效果，进而证明了所提控制策略的有效性。3、对自抗扰控制器的参数整定规律进行了分析，给出基本的参数整定规律。研究中发现当被控对象和给定跟踪轨迹确定后，TD及ESO中的参数就不需要改变，为了提高控制器的适应性，可以用参数优化的方法对NLSEF中的参数进行优化。在此研究基础上，提出了利用神经网络技术进行参数优化的方法。为满足在线控制的快速性，采用了结构简单、逼近效果良好的RBF神经网络，算法采用了能对多个主要影响逼近能力的参数进行动态调整、运算速度快的动量因子梯度下降法。此外，对控制器的结构设计和参数选取做了一定的探讨，仿真研究了所设计的基于RBF的ADRC的控制效果，达到了设计要求。4、以板球系统为研究对象，验证所提理论的可行性及实用性。建立了完整的四阶板球系统的数学模型，综合考虑摩擦、扰动等不确定因素以及多输入系统的耦合问题，将级联自抗扰控制的设计方案应用到轨迹跟踪及定点控制中。分别研究了简化的二阶板球系统和完整的四阶板球系统的自抗扰控制方案，完成了控制器的结构设计。进行了不同自抗扰控制方案下的多工况仿真研究，并在板球系统实验平台BPVS-JLU-II上进行了实验研究。研究结果表明自抗扰控制具良好的轨迹跟踪控制制能力和较好的鲁棒性，实现了高精度的轨迹跟踪任务，为所提控制方案的工程应用做出了有益的尝试。综上所述，本文针对一类不确定高阶非线性系统的级联自抗扰控制策略进行了深入的理论和实验研究，研究结果证明了所提控制方案的有效性、可行性。在高阶板球系统中的应用研究也取得了令人满意的控制效果，为所提控制策略的工程应用提供了可参考的实验研究依据。