行星齿轮传动更具有传动比大、传动平稳、承载能力强、单位体积和质量功率密度高、输入输出同轴、抗冲击能力强、在传递动力同时可进行功率分流汇流等特点,被广泛应用于各个工业领域[1]。随着行星轮个数及其相位的变化以及与齿圈太阳轮的啮合情况多样化,行星齿轮系统的设计也显得复杂多样,而且齿轮传动系统一直都存在一些非线性激励,如时变啮合刚度、齿侧间隙和综合误差等,所引起振动噪声较大的问题,除此之外,复合行星齿轮系统中还存在载荷分配不均等问题。本文针对这些问题以综合传动装置中的复合行星齿轮系统为研究对象,在多种内外非线性激励下,建立系统弯-扭耦合非线性动力学模型,从系统固有特性、时频特性、稳定性和均载性等角度分析了该系统在多种工况下的耦合振动特性,并与ADAMS的动力学仿真结果进行了对比分析与互相验证,主要包括:（1）研究了齿轮动态啮合中时变刚度、动态间隙以及齿轮安装制造误差等非线性激励的建模方法,并分析各非线性因素的变化特性及其影响规律,为复合行星齿轮传动系统的弯-扭耦合非线性动力学建模提供准确的数学模型。（2）以某拉威娜式复合行星排系统为研究对象,分析复合行星齿轮系统各啮合副在平移和扭转方向的弯扭耦合啮合变形关系,在复合运动坐标系中考虑了行星齿轮时变相位角等因素,建立了多源激励下复合行星齿轮系统的弯-扭耦合动力学模型。（3）对所建立的系统弯-扭耦合动力学模型进行数值求解,研究了系统的固有频率和振型特点及系统固有特性受转动惯量和啮合刚度的影响规律,分析了该系统在内外等多源激励下耦合振动响应的载波频率、调制频率和谐次频率等多种频率成份之间的关系,利用相图、Poincaré映射和轴心轨迹以及最大均载系数等分析系统的稳定性与均载特性。（4）基于CAE软件和虚拟样机技术,建立了该系统的ADAMS动力学样机模型,得到系统的振动固有模态和时频响应结果,进而与数值响应结果进行对比分析与互相验证。