研究常见混沌系统的周期轨道对理解其混沌动力学性质具有重要意义,它的研究不仅可以深入理解混沌机制,也阐明了混沌吸引子的结构。本文基于变分法研究了五个常见三维混沌系统的不稳定周期轨道以及轨道随参数值的演化情况、分岔等行为。根据每个系统轨道的拓扑结构建立了适当的符号动力学,使得每条轨道都包含在内且不会发生重复现象。首先,我们系统地研究了陈和吕系统的不稳定周期轨道。多值和非可逆回归映射显示了两种耗散流的复杂性,并提出了一种基于轨道拓扑结构建立一维符号动力学的新设计方法。我们采用变分方法计算不稳定周期轨道,并使用两个轨道碎片进行初始化。周期轨道的同伦演化提供了周期的演化规则。对于混沌流,目前的工作为周期轨道分类提供了一个有趣的框架。其次,对Burke-Shaw系统（BSS）的不稳定周期轨道进行了研究。与以往研究中使用的庞加莱截面法相比,我们使用变分方法进行轨道搜索,并根据轨道的拓扑结构建立了适当的符号动力学。变分方法使得在参数变化过程中连续跟踪周期轨道更加容易。耗散系统的整个轨道结构表明,该方法在大多数低维混沌系统中都是有效的。然后,研究了一个非线性混沌广义类洛伦兹系统的不稳定周期轨道。利用变分方法,提出了适当的符号动力学方法,并介绍了可用于轨道搜索初始化的同伦演化方法。计算了14个不同拓扑长度的不稳定短周期轨道。我们还探讨了在改变参数值时,部分轨道的连续变形,这为观察各种分岔提供了一种新的方法。通过对广义类洛伦兹系统的标度变换,得到了一个单参数系统,即非扩散洛伦兹方程。通过系统地计算非扩散洛伦兹方程中的周期轨道,证明了这种拓扑分类方法对经典洛伦兹系统变体周期解的有效性。最后,我们发现当参数值发生变化时,广义类洛伦兹系统的拓扑结构也会发生极大变化,在某些参数值下,我们只需建立一维符号动力学,用两个符号来表示周期轨道即可;而在另一组典型参数值下,广义类洛伦兹系统与BSS相互关联,系统性质更加复杂,需要把吸引子分为内外两个部分并分别建立四个符号的符号动力学。用变分法定位周期轨道,对这几个系统周期轨道的研究直接证明了变分法在定位低维耗散混沌系统周期轨道的有效性和简便性。