四旋翼无人机的倒立摆系统作为非线性系统,具有强耦合性和欠驱动性。其具有八个自由度,即六个自由度的四旋翼无人机和两个自由度的倒立摆。它们结合作为一个新型的控制器平台,既保留了四旋翼无人机的模型上的不确定性,又引入了倒立摆的特性,符合当前研究控制复杂系统方法的验证需求。同时,也有利于研究无人机高精度的飞行姿态,提高无人机的工作效率。现有研究领域中,控制器设计是基于线性化的数学模型。但是,实际的控制器形式复杂,参数难以调整,需要大量试验,而且不恰当的参数设计成的控制器容易受到外部的干扰。针对上述问题,本文提出了基于遗传算法和强化学习算法的控制器,通过仿真实验,验证了算法的可行性。本文的主要研究工作包含了以下几个方面:(1)首先,根据拉格朗日力学建立了系统的动力学方程,系统的动力学模型主要有两方面,一个是四旋翼无人机的数学模型,另一个是倒立摆的数学模型。对已建立的数学模型,在平衡点附近做线性化处理,简化了系统的数学模型。(2)其次,为了解决控制器参数难以调整的问题,采用遗传算法优化LQR控制器的办法。相对于试凑法经验法而言,遗传算法作为人工智能算法的一种,它使用群体搜索技术,不需要目标函数的导数值以及其他一些辅助信息。遗传算法擅长寻找最优值,尤其是在复杂问题中。但是它的计算收敛速度是相对较慢的,而且易陷入局部最优值的问题,所以,提出了用于遗传算法的搜索模型,如QR染色体的模型等。实现了遗传算法快速寻优。并在仿真实验中验证了改进后的遗传算法有效性和可行性。(3)再次,引入了强化学习算法,使系统能够不依靠精确的数学模型来控制系统达到稳定平衡的状态。应用了Q学习算法,在无系统模型下,可以通过测量沿系统轨迹实时的数据,在线求解方程。将线性二次型规划调节器中的性能指标作为Q函数的价值函数,得到了关于矩阵的贝尔曼方程以及哈密顿方程。应用时差方法,设计了策略迭代并将控制动作的迭代作为改进步骤,可以同时评估当前的值函数和改进的控制策略,将重写的Q学习应用在仿真实验中以系统为载体进行训练。通过大量的仿真实验证明了,强化学习能够有效的控制系统稳定飞行,有较强的鲁棒性和抗干扰性。(4)最后,在仿真软件中,验证无人机的倒立摆系统是否在两个算法下,能够稳定运行,并且通过加入扰动和噪声,对比二者的鲁棒性以及抗干扰性。然后对实验结果进行对比和分析,表明了基于强化学习算法的控制器能够满足四旋翼无人机的倒立摆系统的需求,并具有较强的抗干扰能力和鲁棒性。