随着科学技术的发展,多个学科中都涌现出诸多非线性现象,非线性动力学因此而生.混沌,分形,孤立子被认为是几类典型的非线性现象且彼此之间密切相关.分形集可由多种方式产生,其中复动力系统的分形现象尤为典型,被广泛研究并应用在物理,生物,图像加密,地质学等交叉学科中.经典复动力系统可产生两类分形集：Julia集和Mandelbrot集.利用计算机技术和复分析等手段,这两类分形集已在图像可视化、拓扑结构分析、特性分析、扰动分析、控制等理论层面得到广泛研究.如上所述,复动力系统的分形集能准确描述一些自然形态或进程,并在图像处理等领域有较强的应用背景,因此人们开始有意识的去探索一些更一般化的复系统所产生的分形集.如交替迭代下的复系统、广义有理映射、时滞系统、超复系统、高维系统等复杂复系统等.复系统分形集的一个显著特点是系统表达式或迭代规则简单,而所产生的分形行为却尤为复杂.因而对于迭代形式较为复杂的复系统而言,其对应的上述两类分形集则具有更为复杂的结构和性质.本文首先研究了几类复杂迭代形式的复动力系统M-J集的性质,如有界性,连通性,对称性等；利用所得性质,设计了有效的控制器对其M-J集进行了有效的边界控制或同步控制.具体内容如下：1.交替复映射分形集的性质分析.对简单切换(交替)规则下的复系统而言,首先利用数学归纳法证明了其他学者在其论文遗留的两个待证明问题：交替复系统分形集的有界性和对称性,给出了仿真验证了所证明结果的正确性.然后利用图形方法研究了在交替规则下分形集的连通性的变化.2.一类有理时滞复映射的Julia集的控制与同步.对一类有理时滞复映射而言,设计了一种有效的混合控制器,求出了受控系统Julia集的逃逸半径,实现了受控系统Julia集的边界控制.同时利用非线性耦合方法实现了两不同有理时滞复映射Juila集的同步控制.设计了一个“同步指数”算法来量化Julia集的同步过程.利用该算法可清晰地观察出耦合强度和同步程度的关系.3.复Lorenz系统Julia集的噪声扰动分析以及其与复Henon映射Julia集的同步.Lorenz系统是一类最为经典的混沌系统,本章研究了一类离散复Lorenz系统的分形行为,给出了Lorenz系统Julia集的定义.对系统分别引入加性噪声和乘性噪声,首先利用已有JD算法量化了两种噪声对Lorenz系统Julia集的结构破坏程度.然后证明了Lorenz系统Julia集的对称性并提出一种“对称性指数”算法量化了两种噪声对Lorenz系统Julia集的对称性的影响.最后利用两种非线性耦合方法实现了Lorenz系统和复Henon映射的Julia集的同步控制.将第二章所提出的“同步指数”算法改进至空间情形并用此量化了第一种同步方法中耦合强度和同步程度之间的关系.4.复耦合映像格子系统的空间Mandelbrot集的控制通过给出双参数强耦合的复耦合映像格子系统Mandelbrot集(简称CMLM-集)的定义,将平面Mandelbrot集的研究拓展到了空间情形.证明了CMLM-集的3-D切面的对称性.另外设计了一类有效辅助参考控制实现了CMLM-集的3-D切面的旋转变化、位置变化、大小变化等多重控制效果.给出了相应的仿真验证了控制方法的有效性.综上所述,本文主要研究了几类基于经典复映射所改进而得的几类复杂映射的M-J集的性质和控制问题.改进了相应的可视化算法,提高了分形图像的成像效果.通过数学归纳法和不等式技巧等手段分析了这几类复系统M-J集的性质.研究了其M-J集的控制问题.补充了分形研究的知识框架,为分形理论的应用提供了一定的理论支撑.