近年来,PT对称的概念在量子力学领域引起广泛关注。其原因是满足PT对称的系统不仅存在实的本征值或本证能量,也能保证物理量的可观测性。由于量子机制下的薛定谔方程和光学中的波方程在数学形式上类似,且光学中的PT对称可以通过复折射率分布即增益损耗来实现,因此PT对称的概念被自然的引入到光学中。光学中满足PT对称的波导虽然结构相对简单,但也显示了一些新奇性质。首先,PT对称波导中存在对称破缺点,也就是当折射率的虚部也就是增益损耗参数增加到某个临界值时,传播常数由实数变成复数;其次PT对称波导中系统的总功率是振荡的;第三被动PT对称系统中损耗可以诱导光学透明;第四光在PT对称系统中表现出非互异传输特性。而利用非互异光的传输,人们设计了光开光、单模激光放大器等,从而实现对光束的控制。进一步,研究者将PT对称的概念延伸到光孤子领域,成为非线性光学领域中又一研究热点。本论文中,我们主要研究了PT对称波导中的模式,包括孤子解、呼吸解、常数振幅解和周期解,并对其稳定性及动力学进行详细地研究。具体研究内容如下。1.我们采用Darboux变换的方法求解具有线性耦合和增益损耗效应的耦合非线性薛定谔方程组的矢量孤子解,包括矢量多孤子解和有限背景上的矢量孤子解。对于矢量孤子解,我们详细分析其稳定性。结果表明,在适当的参数范围内,同时对孤子振幅增加横向的随机扰动和对增益损耗增加纵向的随机扰动时,矢量孤子解是稳定的。随后,我们将对称且稳定的矢量孤子以相反符号排列形成孤子串,研究超孤子的对碰和追碰现象。对于有限背景上的矢量孤子解,包括Akhmediev呼吸解和Kuznetsov-Ma孤子解,我们研究了由线性调制的连续波所激发的非线性Talbot效应,结果表明通过选择合适的频率调节因子,前者可以在Talbot长度和半Talbot长度上实现Talbot重现,后者仅在Talbot长度上实现Talbot重现。最后,我们采用连续波背景上小的高斯扰动去激发产生Peregrine解,其分裂特性被展示,且我们利用该方法(平面波泵浦和频谱过滤器相结合的方法)设计光放大器去实现孤子的长距离传输。2.我们采用逆方法求解具有空间三阶色散效应和PT对称势函数的非线性薛定谔方程的常数振幅解。结果表明,当常数振幅解具有正确的相位分布时,截断的常数振幅解的衍射效应能够被强烈抑制。基于平面波展开的方法,分析了常数振幅解的调制不稳定性,结果表明,三阶色散效应明显的减弱常数振幅解的调制不稳定性。直接的数值模拟表明,当调制不稳定增长率足够小时,扰动的常数振幅解在演化的过程中展示出一种弱稳定现象。3.在研究周期势中周期解稳定性带结构问题之前,我们首先利用平方算子法给出了带有Scarff-II势函数的非线性薛定谔方程中的模式,并采用数值模拟的方法对基态模式的稳定性进行研究。进一步,我们分别考虑非线性薛定谔方程和带有空间调制三阶色散效应的非线性薛定谔方程中的周期势中周期解的稳定性带结构问题。结果表明,当三阶色散效应不存在时,即使周期解对小的随机扰动是不稳定的,但是由于周期势函数的存在,且对于周期解,其稳定性与频率有关,也就是说,对于不同频率的扰动,周期解的稳定性是不同的,因此可能会有稳定性带结构出现,导致在Floquet-Bloch本征模扰动的情况下,周期解是稳定的。同时,当周期解的振幅足够小时,本征值的虚部最大值几乎全部为零,此时周期解对所有的Floquet-Bloch本征模的扰动都是稳定的,且此时的周期解对小的随机扰动也是稳定的,即动力学稳定。当存在三阶色散效应时,数值模拟结果表明无论是周期解振幅的增加还是非线性系数的增加,都会导致周期解的稳定性带结构的长度逐渐减少,周期解的稳定性减弱。