滑模变结构控制具有响应快和对系统参数以及外部干扰呈不变性的优点，而且其算法简单易于工程实现，近年来在解决复杂非线性系统的综合问题时取得了比较突出的进展。本文主要讨论如何将滑模变结构控制与神经网络相结合，以产生性能更为优越的神经网络自适应变结构控制；同时，在算法上着重研究如何提高网络的收敛性。首先本文从提高RBF网络的收敛性和精度出发，根据分组优化理论，提出了一种RBF网络在线学习算法，对网络权值采用常规的递推最小二乘法进行迭代，而对于隐单元节点的中心和宽度则采用动量因子法进行调整，仿真结果证明了其精度优于常规的梯度下降法。然后，针对线性不确定系统，本文采用等效滑模控制的方法，即：根据系统的确定部分计算出等效控制量，同时利用一个RBF网络对系统的不确定部分进行补偿得到切换控制量。仿真结果证明此方法比采用固定切换控制增益的方案抖振有所减小，且不需要知道不确定部分的上界。近年来趋近律方法在滑模控制中得到了广泛应用，本文以离散指数趋近律为例，定量分析了离散滑模控制的抖振大小，并提出了一个参数时变的自适应离散指数趋近律。最后，针对复杂未知非线性系统，本文提出了一种基于系统辨识的自适应滑模控制的设计方法，根据RBF网络估计的系统参数，利用趋近律的方法来设计滑模控制器，解决了复杂非线性系统的滑模控制问题。以倒立摆模型为被控对象进行仿真，结果说明这种基于神经网络辨识的方法比采用RBF网络直接实现自适应神经网络滑模控制的方案具有更好的跟踪性能，且系统抖振明显减小，系统鲁棒性增强，并提高了滑模控制的实用性。