自从Lorenz上世纪60年代在数值实验中偶然发现第一个混沌吸引子以来，近几十年混沌在物理学、生物学、化学、社会科学、工程等领域都得到了广泛的研究和发展。人们不仅从理论上研究混沌，揭示混沌的本质，刻画它的基本特征，了解它的动力学行为，而且从工程应用的角度研究混沌的控制和反控制。基于理论和应用这两方面的考虑，人们已构造出许多新的连续型混沌系统，如广义Lorenz系统、R(o)ssler系统、Chen系统等。这些构造出来的混沌系统都是属于三维二次多项式自治系统类。因为平面自治多项式系统不可能产生混沌，因此自治系统要产生混沌至少需要三维，而最简单的混沌系统是三维二次多项式自治系统。这样，三维多项式自治系统，特别是三维二次多项式自治系统，对混沌的研究具有特别重要的意义。　　 到目前为止，许多学者试图寻找三维二次多项式自治混沌系统的标准型和一般性理论。特别是，关于混沌的判定已经有许多重要的理论结果，例如，对离散型动力系统，有著名的Marotto定理，减弱条件下的返回扩张不动点理论，以及异宿扩张不动点理论等。对一般Banach空间和完备度量空间中的离散系统，有耦合扩张理论和返回扩张不动点理论，以及连接扩张不动点异宿环理论等。对连续的区间映射，有著名的Li-Yorke定理，即“周期3蕴含混沌”，以及非2次幂周期、紊乱、正的拓扑熵蕴含着Li-Yorke意义下的混沌等。对高维连续型动力系统的混沌判定，有著名的(S)ilnikov同(异)宿轨定理，Smale马蹄理论，以及判断马蹄存在的Melnikov方法等。尽管如此，如何对自治系统中的混沌进行合理分类，仍然没有系统结果，甚至相关研究也较少。然而，研究混沌系统的分类问题无论从理论研究的角度还是从工程应用的角度，都是十分重要的且有意义的。　　 本文研究连续型混沌系统，特别是研究三维二次多项式自治系统中混沌的分类问题。依据(S)ilnikov同宿轨(异宿轨)准则，我们把三维二次多项式自治系统中的混沌分为四大类：　　 (1)(S)ilnikov同宿轨型的混沌系统；　　 (2)(S)ilnikov异宿轨型的混沌系统；　　 (3)同宿异宿轨混合型的混沌系统；　　 (4)其他类型的混沌系统。　　 本文的主要内容包括以下几个部分：　　 (1)引言。简要介绍混沌发展史，混沌的基本概念和特征，以及本文的研究内容，特别介绍三维情形时的(S)ilnikov同宿轨(异宿轨)定理。这些定理是本文分类混沌的理论基础。此外，回顾关于连续系统中混沌分类的几个代数准则。　　 (2)平衡点的分类。因为非线性连续型混沌系统中吸引子的几何结构和系统平衡点的数目有着密切关系，所以为了对三维二次多项式自治系统中的混沌进行合理分类，我们必须首先分类这类系统中的平衡点。可以证明：三维二次多项式自治系统最多可以有16个平衡点。本文从简单到复杂地讨论了三维二次多项式自治系统具有较少数目平衡点(≤3)的代数条件。　　 (3)扩充的(S)ilnikov定理。由于传统意义下的(S)ilnikov定理只考虑鞍-焦类型的平衡点，这使得其应用时具有一定的局限性，因此我们考虑了该定理的推广形式，将传统意义下的(S)ilnikov定理推广到两种不同的临界情形，并给出了系统产生Smale马蹄意义下混沌的充分条件。此外，构造出符合推广定理条件的新的三维混沌系统，并数值地展示出相应的混沌吸引子。　　 (4)找同(异)宿轨的方法。在(S)ilnikov定理(包括临界情形的扩充定理)的应用中，关键是验证同宿或异宿轨线存在性，但由于没有有效的方法，这个条件通常很难判断。本文根据系统平衡点处Jacobian矩阵的特征值的类型，如鞍-焦型或一维退化型，提出了一种找同(异)宿轨的框架，即首先把待求的同(异)宿轨展开成某种级数形式，然后用待定系数法结合数值仿真来给出系统的同(异)宿轨线，并证明其收敛性。数值例子被用来展示这一过程。　　 (5)列举所有发现的(S)ilnikov型混沌系统。对于不同数目的平衡点和相应的(S)ilnikov同(异)宿轨，给出符合(S)ilnikov定理条件的三维二次多项式自治系统的候选例子。利用找同(异)宿轨的方法，说明这些候选例子中同(异)宿轨的存在条件，并应用(S)ilnikov同(异)宿轨定理，来验证其混沌的存在性。最后，归纳和总结出目前大家所熟知的某些连续型自治混沌系统，并按照(S)ilnikov同(异)宿轨定理对它们分类。　　 (6)总结与展望。对本博士论文的工作进行了全面的总结，并对今后的研究方向给予展望。