齿轮系统是最常用的传动系统,传统的齿轮设计是从其强度校核的角度来进行的,但对于实际传动系统来说,啮合过程中的动态特性对系统的平稳性、精确性以及可靠性有较大的影响。对于确定性齿轮系统,通过数值和近似解析两种方法对响应结果进行求解,同时对系统中的一些非线性现象进行了研究,对影响系统响应的主要结构参数进行灵敏度分析,为结构设计的改进以及不同工况下系统结构参数的选取提供理论依据。通常情况下,由于结构参数（如材料特性、尺寸参数、装配工艺等）以及载荷激励的随机性,使得系统为随机响应系统。对于随机系统主要研究其结构的可靠性以及可靠性灵敏度,这需要结构随机扰动的数学模型、非线性系统的随机响应分析以及结构随机振动的损伤与可靠性分析等相关理论的结合来完成。本文以工程中的惰轮传动系统为研究对象,对齿轮系统的结构参数进行了详细研究,并对确定性模型和随机模型分别进行了研究,主要内容包括:（1）对齿轮传动动力学以及随机模型下的随机动力学理论和可靠性理论进行了详尽的阐述。给出了齿轮传动系统的动力学特性求解的主要方法,包括数值求解和近似解析求解。同时对随机振动系统基于矩方法的可靠性及可靠性灵敏度以及基于FPK方程求解的概率密度转移函数的可靠性理论等内容进行了详细的分析。（2）针对三齿轮惰轮组成的物理模型,基于相关文献的实验验证,采用集中质量法建立起来二级传动扭振数学模型。对系统中的主要非线性因素诸如时变啮合刚度、综合传递误差以及齿侧间隙进行了详细的分析和计算。在齿廓精确建模的基础上,采用材料力学方法对时变啮合刚度进行了详细推导,并与ANSYS计算结果进行比较,验证了数值求解方法的准确性;传递误差从概念和组成部分两个方面进行了描述;侧隙的存在使得系统存在单边冲击和双边冲击,这造成系统的强非线性,为便于计算,采用近似光滑曲线来代替,并对近似程度进行了详细计算。最后对建立的模型进行了无量纲化处理,便于参数灵敏度以及可靠性灵敏度的对比排序,为工程上的结构设计改进提供理论依据。（3）采用多谐波平衡法对系统的稳态响应进行近似解析求解。由于研究的系统具有强非线性,所以这里我们采用谐波平衡法求解。对系统响应进行傅里叶级数展开,合并具有相同频率的正弦项与余弦项,得到关于谐波项的待定系数的非线性方程组。采用Newton-Raphson迭代法进行数值求解,针对该迭代法对初值的敏感度以及方程的Jacobian矩阵奇异所导致求解失败的问题,利用弧长延拓法既可以避免Jacobian矩阵的奇异同时也可以提供较为精确的初值。谐波平衡法求解的稳态周期响应结果采用Floquet理论进行稳定性判定,并与Runge-Kutta数值算法进行对比。同时对影响系统非线性相关特性的关键参数进行了灵敏度分析,如啮合刚度,重合度,阻尼比,载荷以及侧隙等。最后对影响系统运行稳定性的主要指标动态传递误差和动态啮合力在不同转速下进行了详细研究,这为工作转速下系统的结构参数优化提供了充足的理论支撑。（4）考虑结构参数和载荷的随机性,采用随机振动模型对惰轮系统进行了随机动力学及可靠性分析。对随机动力学模型的可靠性求解主要结合随机摄动法、高阶矩技术、Edgeworth级数法以及相应的修正公式。考虑系统为多级传动时出现的串并联状况,给出了相应的计算公式,由于基于四阶矩法得到的可靠度为瞬态可靠度,所以引入累积可靠度的概念,采用Monte Carlo模拟法对可靠度求解进行验证。采用直接微分法来分析传动可靠性对随机基本参数的均值灵敏度和方差灵敏度,并将各基本参数对可靠性的影响程度进行排序,为产品的优化设计提供理论指导。（5）研究高斯白噪声激励下的多级随机齿轮动力系统,通过求解系统的FPK方程得到瞬时转移概率密度函数,进而得到系统响应的准确瞬时联合概率密度函数,这对于非线性系统来说避免了因采用矩方法而出现的概率信息的截断。对于Gaussian白噪声激励下的线性稳态系统来说FPK方程的求解可以转化为求解系统响应的前两阶矩,这与频率响应法是等效的,结合首次超限理论得到系统的累积可靠度;对于齿轮非线性系统,其FPK方程通常很难得到解析解,且由于方程含有四个状态变量,对于这类高维抛物线型偏微分方差,采用基于局部一维格式的有限差分法对FPK方程进行数值求解,得到瞬时联合概率密度函数后采用Rice穿越率理论进行可靠性求解。