本文运用动力系统的方法研究了一类三维广义哈密顿系统的动力学行为及其应用.此类系统其相空间具有球面叶层结构,不同半径的球面为叶子(不变流形),系统的轨道均分布在这些球面上.此类系统广泛存在于机械工程,天体力学,光学,分子动力学等领域中,包括具有若干个附加转子的无外力矩作用陀螺运动姿态模型以及包括水分子在内的三原子分子动力学模型等,对其各种解的性质的深入研究和认识具有重要的理论意义和现实的实用价值.　　 由于非线性问题的复杂性,科学家们更多的是关注平衡解、周期解、同宿解、异宿解等各种特殊形式解的存在性及稳定性,并可在特定参数条件下对该系统的稳定性及分叉特性进行研究.　　 本文主要研究的无外力矩作用下的陀螺姿态模型是一类具有球面叶层结构的三维广义哈密顿系统,其可以用如下的微分方程组来表示:　　 其中,gi是刚体的角动量,ai是主惯性动量的逆,fi是转子的角动量.　　 此外,系统的角动量场G的模是一个首次积分(运动不变量):　　 所以,三维广义哈密顿系统(1)具有两个首次积分:哈密顿函数和角动量场的模(Casimir函数).因此,系统(1)可以化为一维可积系统,且其相空间可以看成是不变流形上的一个叶层.　　 为此,系统具有的积分保证了其相轨道均位于某个固定半径的球面上,半径的大小是由各变量的初值决定的.　　 根据不同的参数条件,无外力矩作用下的陀螺可以分为五种不同类型.迄今为止,前人已经讨论过其中的几类陀螺模型,分析了所考虑系统的平衡点个数及稳定性等动力学性质.本文根据广义哈密顿系统的理论讨论了另外两类陀螺模型:具有三个转子的轴对称陀螺(a1=a2>a3,f1,f2,f3≠0)和具有两个转子的非对称陀螺(a1>a2>a3,fi,fj≠0,fk=0)的动力学性质.第二章中,首先介绍了广义Hamilton系统的基本概念、重要性质及相关理论方法.同时,得到了陀螺模型在广义Hamilton系统意义下的Poisson结构.第三,四章中通过研究平衡点分叉方程根的个数,得到了完整参数区域内平衡点的个数及稳定性变化情况,并使用Maple软件利用隐函数作图的方法获得了系统在球面上的全局相图,进一步地,利用Jacobi椭圆函数和双曲函数将不同参数区域内的轨道进行了精确解表示.在此基础上,第五章中利用摄动理论对扰动系统的平面同宿轨及平面异宿轨进行了分析,通过计算相应的Melnikov函数,说明系统在小扰动下可能发生混沌现象.