随着人们对客观世界本质认识的不断深化,分数微积分和非线性系统科学开始逐步走到了理论研究和工程实际应用的舞台前沿。分数阶非线性系统理论的发展对推动现代数学、物理学的进步起到了十分重要的作用——不仅极大地推广与拓展了经典的整数阶线性系统理论,而且能够更好地反映我们身处大自然的种种特征。同时,分数阶非线性系统科学与其他学科地相互渗透,也促进了相应交叉学科与边缘学科的发展。目前,分数阶系统控制理论都是建立在整数阶微分方程的理论之上。尽管整数阶系统是分数阶系统的特例,但对整数阶系统适用的理论不一定全部适用于分数阶系统。而且分数阶系统控制理论尚未形成完整的体系,处于一个无序发展过程中,需要不断的完善和创新。针对目前研究现状,本文主要做了以下工作：(1)本文提出一种新的分数阶非线性系统稳定性判定方法,并给出数学证明。对于不稳定系统,我们可以通过该方法,方便地选择合适的控制律,而不用求解不稳定系统的平衡点。(2)本文将Back-Stepping法和新提出的稳定性理论相结合,选择合适的控制律,对统一分数阶混沌系统进行稳定性控制,并对其进行仿真。该系统作为多种混沌系统的一种集合体既具有混沌系统的一般特性,又有其本身的特点,选择该系统作为被控对象对验证上面提出的稳定性理论具有很强的说服力。(3)本文引入非线性状态变量反馈同步法,通过新的稳定性判定方法,对统一分数阶系统进行自同步控制,并对其进行仿真。考虑到驱动系统与响应系统的同步控制相当于对它们误差系统的稳定性控制,因此本文只需对误差系统选择合适的控制律,期望其稳定,即可达到分数阶统一混沌系统自同步的目的。最后进行总结,分析了论文在分数阶非线性系统稳定性理论及控制研究中的成果,并探讨了该领域需要进一步研究的几个方面。