非线性理论是描述具有无规则结构的复杂系统结构形态的一门新兴边缘科学。它包含了分形、混沌和孤子这三个非常重要的概念。本文侧重研究了分形学中具有重要意义的复合复映射M-J集(简称M-J集)的相关理论方法和一类混沌系统的投影同步问题，并取得了一些重要的研究成果。 (1) 将复合复映射z←(z~2+c)~2+c推广为z←(z~α+c)~β+c(α，β∈R)，研究了由该映射所构造的广义J集的分形结构和裂变演化规律，通过研究发现：α为整数的广义J集具有旋转对称性；α和β为小数时，相角θ主值范围的不同选取，将导致广义J集的不同演化；计算了广义J集之间的Hausdorff距离，这对研究广义J集之间的匹配程度提供了一种新的研究方法。 (2) 研究了由复合复映射z←(z~α+c)~β+c(α，β∈R)所构造的准广义Mandelbbrot集(简称M集)。通过对准广义M集分形图的绘制发现：当α和β为整数时，准广义M集关于x轴对称，并且α和β为为奇数时，准广义M集不仅关于x轴对称，还关于y轴对称，并在理论上给出了证明；利用DeMoivre理论，当α和β为小数时，对相角θ的主值范围的不同选取，准广义M集将出现错动和断裂，出现了雏瓣和部分卫星群。最后将Hausdorff距离应用到准广义M集，得出了不同准广义M集之间的匹配程度。 (3) 实现了一种新混沌系统——变形耦合发电机系统的投影同步。利用状态观测器理论，设计了与该混沌系统相应的投影同步观测器，利用该观测器理论上使得变形耦合发电机系统达到投影同步。最后，对变形耦合发电机系统进行了数值仿真，仿真结果进一步验证了该方法的有效性。