分数阶现象在越来越多的科学与工程问题中被发现,标志着人们对客观世界认知的进步,也对控制和改造动态系统以实现更高的目标带来了机遇和挑战。分数阶系统的控制理论是推动分数阶技术不断发展的基础,是在实际问题中作为一种解决方案能够得到认可并取得良好效果的关键,是一门既有重要的工程意义、较广的应用前景又充满困难的新兴基础科学。本文致力于从易到难、由浅入深并富于创造性地对其进行研究,建立和完善以分数阶控制系统为核心的理论体系。首先,研究目前较热门的分数阶系统鲁棒稳定性问题。针对三类直接影响稳定性的不确定因素,给出分数阶系统的鲁棒稳定线性矩阵不等式(LMI)条件,并进一步研究鲁棒镇定控制器设计以及保守性更低的LMI条件。鉴于巩范数是表征系统鲁棒稳定性和扰动抑制能力的重要指标,首次提出运用广义KYP引理研究并得到适合于分数阶系统的界实引理,并进一步给出分数阶系统的H∞控制器设计方法。稳定性理论中著名的劳斯判据十分简单且有效,但仅适合于整数阶系统。本文首次给出适用于线性定常同元次分数阶系统的劳斯型判据。同时,对于劳斯型列表可能出现的两种特殊情况给出便于数值处理的方法。进一步,针对复系数同元分数次多项式关于黎曼面中任意扇形区域的零点分布给出完备的劳斯型判据。此外,对于更为困难的非同元分数次多项式零点分布问题,给出简单的图解判据。鉴于李雅普诺夫方法在控制系统分析与设计中的重要地位,探讨适合于分数阶系统的李雅普诺夫泛函的存在性和它可能具有的形式。首次证明了线性定常分数阶系统的逆李雅普诺夫定理。提出分数阶系统的李雅普诺夫泛函方程,并进一步给出一类满足要求的李雅普诺夫泛函构造方法。进一步,给出表征分数阶控制系统能量的广义线性二次型泛函,提出使其最小化的LQR控制问题。为了解决该最优控制问题,开创性地给出空间积运算数学工具,能够有效分析分数阶系统无穷维状态空间方程。在此基础上,运用贝尔曼动态规划给出分数阶系统的LQR控制律。最后,考虑分数阶系统的数值实现问题,给出有限维近似方法,得到一般分数阶系统近似模型的状态空间方程,同时对初始化问题进行研究。针对真实分数阶系统与分数阶微分方程数学模型之间的差异,给出它们稳定性之间的关系。