自然和社会中广泛存在着随机及非线性因素,正是因为这些因素的存在,增加了系统的复杂性,因此有必要对非线性系统的随机动力学行为进行相关研究。分数阶导数定义含有卷积部分,能很好地表达记忆效果,表示出随时间累积的效应,因而与传统的整数阶微积分系统相比,含分数阶微积分的系统更具有优越性,是描述记忆特征的有力数学工具,因而研究分数阶微分方程尤其是分数阶随机微分方程的动力学行为有着重要意义。针对分数阶非线性动力系统参数设计问题,基于分数阶导数的等效表达,以分岔奇异性理论为主要分析工具,在分数阶动力系统计算方法、确定性及随机分岔方面,展开了如下五方面工作。(1)提出了一种适于阶数不同的分数阶微分方程组的矩阵化求解方法。以几类有解析解的方程为例,验证了该方法的正确性。以分数阶Duffing方程为例,说明了部分文献中用GL算法代替Caputo算法可能存在的问题。用GL算法来计算Caputo导数下的微分方程,除零初始条件下没有问题之外,因初始条件不同,计算结果存在如下问题:(1)仅过渡过程有差异,稳态结果正确;(2)过渡过程不同,稳态结果也不同。造成这种现象的原因,是初始条件是否靠近吸引域的边缘所致。(2)研究了含分数阶导数项Duffing振子的3:1超谐共振及随机P-分岔问题。首先,以超谐共振响应下系统的幅频响应方程为分岔方程,由奇异性理论,得到了系统发生分岔的临界参数条件,并通过谱分析的方法将所得数值解分别与系统1倍频及3倍频幅值的解析解进行了比较,验证了所得结果的正确性。其次,根据最小均方误差原理,将乘性噪声激励下的Duffing系统转化为了一个具有线性刚度的整数阶系统,由随机平均法及奇异性理论,求得了系统发生随机P-分岔的临界参数条件,从而可以通过选取合适的开折参数来控制系统的运动状态。(3)对高斯白噪声激励下含分数阶导数项的广义Van der pol系统的三稳态随机P-分岔现象进行了研究。将原系统转化为了等价的整数阶系统,运用随机平均法得到了系统幅值的稳态概率密度函数,并利用奇异性理论,得到了系统发生随机P-分岔的临界参数条件,分别讨论了在加性及加性与乘性高斯白噪声联合激励下系统的随机P-分岔行为。通过选择合适的开折参数,可使系统响应维持在单稳态或在平衡点附近小幅振动,避免系统发生大幅振荡或非线性跳跃现象引起失稳,可为相关系统设计提供理论依据。(4)对高斯白噪声激励下含分数阶时滞反馈的广义Van der pol系统的双稳态随机P-分岔现象进行了研究。根据均方误差最小原则,将原系统转化为了等价的整数阶系统,运用随机平均法和奇异性理论,得到了系统发生随机P-分岔的临界参数条件。分别讨论了在加性、乘性噪声激励及加性与乘性高斯白噪声联合激励下系统的随机P-分岔行为,通过选择合适的开折参数,可使系统响应在平衡点附近小幅振动,避免系统发生大幅振荡引起失稳等现象,可为相关分数阶控制器设计提供直接指导。(5)分别对高斯白噪声及色噪声激励下含高次非线性项分数阶导数的粘弹性梁的双稳态随机P-分岔现象进行了研究。通过d’Alambert原理及伽辽金离散法得到了粘弹性简支梁横向振动的常微分方程。通过对等价的整数阶系统运用随机平均法和奇异性理论,得到了系统发生随机P-分岔的临界参数条件,通过选取合适的开折参数,可使系统响应维持在平衡点附近小幅振动,可为实际工程应用中系统设计提供必要的理论支撑。