本文主要讨论动力系统的复杂性以及动力系统与组合数论之间的联系.本文的具体安排如下：在序言中,我们将简单回顾拓扑动力系统和遍历理论的起源和发展,以及本文研究内容的背景,特别着重介绍了动力系统中混沌理论的研究进程和动力系统与组合数论之间的联系.在第一章中,我们简单介绍本文所涉及到的拓扑动力系统和遍历理论的基本概念和结果.在第二章中,我们介绍动力系统研究的两个重要工具：Furstenberg族和Ellis半群.在第三章中,我们将引入混沌的概念,并探讨不同混沌概念之间的关系.混沌是对系统复杂性的一种描述.混沌可以很好地刻画系统的复杂性,并且根据刻画的角度不同,有许多关于混沌的定义,其中重要的有：Li-Yorke混沌,Devaney混沌,正拓扑熵,分布混沌等.一个自然的问题就是如何区分这些概念,并找出它们之间的关系.在这一章中,我们将结合最近的一些研究成果以及本文相关的结论,详细讨论各种混沌概念和它们之间的关系.在第四章中,我们将研究区间自映射的复杂性.特别地我们首次指出多元混沌之间的层次,证明了零拓扑的Li-Yorke混沌的区间自映射为2-元混沌的但不是3-元混沌的.我们还证明了如果一个区间自映射为拓扑null的,则它的极大pattern熵为多项式增长的,从而对于区间自映射肯定地回答了黄文和叶向东提出的一个猜测.我们还将讨论了区间自映射情形时的多种混沌性质以及它们之间的关系.其中,对于零拓扑熵的区间自映射,我们证明了proximal关系是一个等价关系,并且得到了f-非分离偶对的结构及其与Li-Yorke混沌的关系,特别地,我们证明了一个偶对为f-非分离的当且仅当它是一个序列熵对.此外,我们还给出了区间自映射具有正拓扑熵的一些新的等价条件.在第五章中,我们将用点传递性质对传递系统进行分类,指出一个拓扑动力系统是一个弱混合的E-系统(或者,弱混合的M-系统,HY-系统)当且仅当它为{D-集}-点传递的(相应地,{中心集}-点传递的,{弱thick集}-点传递的).具体来说：设(X,T)是一个拓扑动力系统和(?)是一个由非负整数子集构成的Furstenberg族,称点x∈X是一个(?)-传递点,如果对X中任意的非空开子集U,集合{n∈Z+:Tnx∈U)∈(?);称系统(X,T)为(?)-点传递的,如果它有一个(?)-传递点.我们还将证明弱混合系统为(?)ip-点传递的,同时构造了一个(?)ip-点传递但不是弱混合的例子.最后,我们把点传递属性应用到不交性和弱不交性的研究,证明了每个具有稠密小周期集的拓扑传递系统不交于所有完全极小系统,并且指出一个系统为△*((?)wf)-传递的当且仅当它弱不交于所有P-系统.在第六章中,我们将讨论动力系统在组合数论中的应用,推广了Furstenberg和Weiss关于一类齐次线性的丢番图方程可以在中心集中求解的结论.首先我们研究自然数集N的Stone-Cech紧化βN,建立了βN的代数学性质与拓扑动力学性质之间的一个对应,并指出之前关于拟中心集和D-集的动力学刻画都是我们结果的特例.此外,我们还将研究自然数子集的强迫性质,即一个点沿着N的子集的动力学性质.在同时考虑N和βN中加法和乘法的情况下,我们将指出：如果F是一个伪中心集(或者,D-集,C-集),则对任意的n∈N,那么nF和n-1F也为伪中心集(相应地,D-集,C-集).众所周知C-集最初是用组合数论的语言定义的,利用前面建立的对应和对J-集性质的研究,我们将给出C-集的一个动力学刻画,进而证明了一类齐次线性的丢番图方程可以在C-集中求解,这是Furstenberg和Weiss相关结果的推广