在动力系统研究中，分支与混沌是一个非常重要而且十分活跃的研究领域，具有广泛的实际应用，比如在物理、化学、工程、电子通讯、神经网络、控制论等学科中，都有它的应用.分支理论主要研究动力系统的相图结构在扰动下的变化情况，在有限维动力系统中，奇点分支、闭轨分支、同宿、异宿轨分支构成它的基本组成部分.值得注意的是，随着同宿轨或异宿轨分支的产生，系统经常会有混沌发生.知道有限维动力系统已经得到了广泛的研究，理论也比较完善，其中有用来判断同宿轨保持性的非常重要的方法:Melnikov方法，Lyapunov-Schmidt约化与变分法;以及判断混沌产生的方法:Smale马蹄与符号动力系统，Shadowing引理与符号动力系统.　　最近，人们开始更多地关注无穷维动力系统，并且对它的研究日趋渴望。主要由于自然界大多数现象都是由非线性偏微分方程来描述，比如，非线性波方程，Maxwell方程，Navier-Stokes方程等.在无穷维动力系统的研究中，混沌仍然是一个讨论的热点，引起来自数学、物理、工程以及其他应用学科的研究人员的广泛兴趣。数值实验表明，一般地，混沌与同宿轨有着紧密的联系。为了从数学的角度去研究无穷维系统中的混沌，对系统的同宿轨的研究就显得十分必要.注意到，有限维系统中研究同宿轨和混沌的方法，比如，Melnikov方法，Lyapunov-Schmidt约化，Smale马蹄，Shadowing引理等，都已成功地推广到无穷维动力系统。这将为研究无穷维系统的同宿轨和混沌提供十分有力的工具.在这篇论文中，将研究耦合薛定谔方程的同宿轨，通过同宿轨进一步考察系统的混沌.首先构造了未扰动的耦合修正薛定谔方程的同宿轨，紧接着，研究了扰动耦合薛定谔方程的同宿轨的保持性以及混沌。　　这篇文章共有三章。在第一章序言中，简要地回顾了有限维和无穷维系统的同宿分支问题和现有的有关结果，并对本文的研究动机、所研究的问题及结果作了概括.　　在第二章中，考虑如下的耦合修正薛定谔方程:ipt+pxx-1/2iα[(|p|2+|q|2)p]x+1/2(|p|2+|q|2-ω2)p=0，iqt+qxx-1/2iα[(|p|2+|q|2)q]x+1/2(|p|2+|q|2-ω2)q=0，　　具有周期边界条件:p(t,x+2π)=p(t,x)，q(t,x+2π)=q(t,x).对这个耦合系统，应用Dressing方法，构造出了同宿于不依赖空间变量的平面波的同宿轨。所得到的同宿轨恰好是耦合薛定谔方程同宿轨的推广形式.为了构造出这样的同宿轨，给出了耦合系统的Lax对，并且在此基础上，进行Floquet谱分析，给出对应的特征函数-Bloch函数。该耦合系统在Lax对意义下是可积的。值得注意的是，在Lax对中空间流对应的算子关于谱参数是二次的，然而在通常情况下，薛定谔方程Lax对中的算子关于谱参数是线性的.构造出这样的同宿轨以后，就可以通过解析或数值的方法研究它在扰动下的保持性，以及在扰动下系统的混沌。　　第三章考虑了受阻力与耗散扰动的耦合薛定谔方程:i(O)tq1=(O)xxq1+2(|q1|2-ω21)q1-iε(1+αq1+β1|q2|2q1-Γ1(B)q1),i(O)tq2=(O)xxq2+2(|q2|2-ω22)q2-iε(1+αq2+β2|q1|2q2-Γ2(B)q2),　　其中qi关于x是偶的、周期的，即qi(-x,t)=qi(x,t)，qi(x+2π,t)=qi(x,t),i=1,2,　　其中算子B是微分算子(O)xx的Fourier截断。研究了此扰动系统的同宿轨的保持性。注意到此系统关于空间变量是偶的、周期的，且未扰动系统是两个独立的薛定谔方程，于是根据单个薛定谔方程的B(a)cklund-Darboux变换，此耦合系统就有一族同宿轨。将研究其中某些同宿轨的保持性。单个薛定谔方程同宿轨的保持性已被广泛研究，得到了许多有趣且重要的结果，其中包括数值的和解析的.现在对耦合薛定谔方程讨论同样的问题.选取适当的坐标变换后，利用Lyapunov-Perron方法以及几何奇摄动理论，建立了系统的中心稳定、中心不稳定等不变流形，以及稳定、不稳定的纤维。由可积理论得到了Melnikov向量.然后，通过Melnikov分析和第二度量，证明了在一定条件下扰动系统同宿轨的保持性.此外，在通有的条件下扰动系统有混沌产生.