孤子是一种非常典型的非线性现象,它不仅能够在自然界中容易被观察到,而且在实验室中也比较容易实现。孤子是玻色-爱因斯坦凝聚态与流体力学、非线性光学和粒子物理之间的纽带。玻色-爱因斯坦凝聚体中的亮孤子和暗孤子在理论和实验上已经被广泛研究。玻色-爱因斯坦凝聚态是一种新的物质状态,也被称为物质第五态。自从1924年在理论上预言并于1995年在实验上实现之后,就开始了许多理论和实验活动致力于研究超冷原子气体的动力学行为,而这些研究在很大程度上是由原子玻色-爱因斯坦凝聚态的平均场描述所激发的,在平均场近似下,可以用Gross-Pitaevskii方程描述超低温下稀薄BEC动力学行为。然而,三体相互作用BEC中孤子的相关研究还很少见。众所周知,三体相互作用对孤子的存在以及稳定性有一定影响。因此,本文研究三体相互作用下BEC中的暗孤子及其稳定性。第一章简要介绍了论文涉及到的主要物理背景。首先介绍了玻色-爱因斯坦凝聚体和自旋轨道耦合玻色-爱因斯坦凝聚体的相关研究进展,其次简要介绍了亮孤子,暗孤子,表面孤子的相关概念以及三体相互作用的相关理论基础和主要实验进展。最后基于以上背景介绍,我们提出了论文的主要出发点。第二章研究了三体相互作用下玻色-爱因斯坦凝聚体中亮孤子和暗孤子的存在及其稳定性分析,通过牛顿共轭梯度法在数值上得到了亮孤子、暗孤子（扭结状孤子和气泡状孤子）。运用多重尺度法对系统进行了理论分析,将GP方程化为一定态非线性薛定谔方程,从而得到亮孤子,扭结状孤子和气泡状孤子的表达式,分析表明孤子的振幅随着三体相互作用的增大而减小。研究发现,在BEC系统中,亮孤子只能存在于带隙中,而暗孤子不仅能存在于带隙中还能存在于能带中。扭结状孤子是奇对称,气泡状孤子是偶对称。亮孤子的振幅随着三体相互作用强度的增大而减小,这与多重尺度法分析的结果也吻合的较好。数值计算结果还表明,所有的气泡状孤子都是不稳定的,而扭结状孤子和亮孤子有稳定的也有不稳定的,其稳定性与三体相互作用和外势模数有关。第三章研究了两体和三体相互作用下由均匀介质界面和半无限雅可比椭圆正弦势支持的特殊外势下玻色-爱因斯坦凝聚体中表面亮孤子和表面暗孤子及其稳定性。用牛顿共轭梯度法在数值上找见了表面亮孤子和表面扭结孤子,表面亮孤子的特征是只能存在于能带中并且化学势小于零;表面扭结孤子所表现出的特征是不仅存在于带隙中还能存在于能带中并且化学势大于零。在半无限带隙,大于临界值时暗孤子才会被激发,暗孤子的振幅随化学势的增大单调递增。线性稳定性和非线性动力学演化研究了表面孤子的稳定性,其结果表明外势模数、化学势以及三体相互作用强度等物理参数都会影响表面孤子的稳定性。第四章研究了准一维自旋轨道耦合玻色-爱因斯坦凝聚体中的亮孤子及其稳定性分析。通过数值计算耦合GP方程:在有限失谐的情况下,宇称对称性有重要作用,第一族和第二族的亮孤子具有相反的宇称对称符号,并且该符号与拉比频率符号有关。当失谐非零时,亮孤子就不再具有宇称对称性。两族基本亮孤子的宇称对称性与能带结构相对线性布洛赫波的对称谱点有关,并且化学势会影响亮孤子的稳定性。最后,本文对相关工作的研究前景做了进一步展望。一方面,可以考虑研究含时间变量的孤子,以及二维甚至三维BEC中的孤子。对于表面孤子,可以将单纯的亮孤子和暗孤子扩展至孤子的组合,例如:亮-亮孤子组合（两个组分都是亮孤子）、亮-扭结状孤子组合（一个组分是亮孤子,另一个组分是扭结状孤子）和暗-暗孤子组合（两个组分都是暗孤子）等情况;另一方面,关于自旋轨道耦合玻色-爱因斯坦凝聚体中孤子的研究,可以进一步寻找影响孤子稳定性的因素,以及其它类型孤子的存在和稳定性。