本文致力于研究由功能梯度材料制成的薄壁圆柱壳的非线性动力学特性。重点讨论功能梯度薄壁圆柱壳的非线性模态相互作用和共振行为。基于Hamilton动力学理论及摄动法分析了功能梯度薄壁圆柱壳双模态自由振动中的模态相互作用和能量交换现象；同时采用Lagrange动力学和多尺度法研究了功能梯度薄壁圆柱壳在稳态温度分布和分布外载作用下的双模态主共振行为；揭示了功能梯度柱壳振动中存在的各种非线性动力学现象。首先采用幂律分布规律描述功能梯度材料的组分材料体积分数沿厚度的变化,基于Voigt等应变模型给出了服从简单混合律的等效材料参数。根据Donnell简化柱壳理论和von Karman大挠度理论分别建立了功能梯度薄壁圆柱壳线性和非线性振动的动力学方程。在此基础上分析了两端简支的功能梯度薄壁圆柱壳线性振动的频率特性,验证了本文理论的正确性。得到了功能梯度薄壁圆柱壳的动能和势能公式。进一步选取一个轴对称模态和一个非对称模态作为圆柱壳的近似横向挠度函数,给出了功能梯度薄壁圆柱壳非线性双模态振动的动能和势能表达式。将Hamilton系统动力学理论引入到功能梯度圆柱壳非线性自由振动分析中。借助摄动法得出了描述功能梯度薄壁圆柱壳非线性双模态自由振动的平均化方程,得到了系统在理想1：2内共振和近共振条件下的相轨迹,揭示了内共振时的模态相互作用和能量交换现象；进一步得到了触发非对称模态和轴对称模态发生相互作用的能量分岔点,讨论了功能梯度材料的梯度指数对系统内共振条件和分岔特性的影响；并通过数值积分展示了功能梯度薄壁圆柱壳非线性双模态内共振在高能状态的混沌运动特性。采用Lagrange方法得到了功能梯度薄壁圆柱壳在横向外激励作用下的双模态强迫振动的运动微分方程；借助多尺度法,详细研究了系统发生高频主共振和低频主共振时的动力学行为。采用数值延续算法分析了系统在这两种主共振条件下的幅频响应曲线以及系统的动力学分岔行为,揭示了系统通向混沌的道路；讨论了功能梯度材料的梯度指数对系统响应幅值的影响。研究发现系统发生高频主共振时,可产生拟周期运动,并且将通过拟周期环面的周期倍化分岔进入混沌；同时系统响应的拟周期环面或混沌吸引子具有对称性,并且吸引子会产生碰撞而融合,形成单一的自对称环面或混沌吸引子。而在低频主共振时,系统也会产生拟周期运动和混沌运动,但此时系统响应的各种吸引子也不再具有对称性。研究了功能梯度薄壁圆柱壳在热环境中的主共振行为。同样采用多尺度方程分析了包含稳态温度分布时,系统在高频主共振和低频主共振条件下的动力学行为。研究发现稳态温度分布不会影响FGM圆柱壳主共振的动力学定性行为,但是温度会使系统的幅值响应随梯度指数的关系发生变化。