约束作为制约系统性能的重要因素之一,广泛存在于实际系统中。因此,针对状态或者输出约束的研究在非线性控制领域显得尤为重要。结合障碍李雅普诺夫函数和反步法,针对非线性系统,进行了如下四个方面的研究工作:（1）针对一类具有时变全状态约束的严格反馈非线性系统,提出了一种自适应死区补偿控制方法。首先,构造了障碍李雅普诺夫函数和反步法来保证时变全状态约束不违反约束界并且使系统输出尽可能接近目标轨迹。其次,在反步法设计过程中利用神经网络逼近非线性系统中未知且连续的函数。然后,为了解决初始状态不确定问题引入延迟约束。最后,仿真例子验证所提控制方法的有效性。（2）针对一类具有多目标约束的严格反馈非线性系统,研究了自适应有限时间神经网络控制问题。首先,利用新的障碍李雅普诺夫函数来解决状态约束和有限时间的稳定性,这样不仅能有效地解决多目标约束,而且能保证所有状态始终在约束区间内。其次,在反步法中加入了将命令滤波,设计了智能控制器,从而有效的避免了由于虚拟控制器反复微分导致的“奇异性”问题。进一步,引入误差补偿机制,消除滤波过程中出现的误差。最后,机电动力系统的仿真验证了所提出有限时间控制策略是可行的。（3）针对具有时变全状态约束的严格反馈非线性系统,提出了一种自适应模糊控制方法。首先,利用积分型障碍李雅普诺夫函数,不仅保证了所有的状态都在约束范围内,而且把状态和误差结合起来直接约束状态,降低了约束满足条件的保守性。其次,在反步法的每一步中都构造了一个模糊自适应状态观测器来估计系统中的不可测状态。同时,根据李雅普诺夫稳定性理论证明了闭环系统中的所有信号都是有界的,且所有的状态不违反约束界。最后,仿真结果验证了所提控制方案的有效性。（4）针对具有时变输出约束和未知外部干扰的水面船舶系统,提出了自适应神经网络控制算法。首先,构造了障碍李雅普诺夫函数来保证时变输出约束不违反约束界。其次,引入非线性状态相关变换,从而去除了虚拟控制器的可行性条件。然后,设计了干扰观测器,用来估计时变且未知的外部干扰,并且利用李雅普诺夫稳定性定理验证闭环系统中的所有信号都是有界的。最后,仿真结果证明了该方法是正确的。