原子蒸气中存在着丰富的非线性效应。其中最重要的是光克尔效应和四波混频。从非线性光学建立的早期到现在，它一直是非线性光学研究的一个热门。从1970年，D.Grischkowsky对激光单次穿过钾蒸气产生的自聚焦效应进行了研究开始，国际上很多小组，先后使用不同的原子，如铯，钡，钠等研究了原子热蒸气中的非线性效应。但是在穿过原子热蒸气的激光器的选择上，大家一直使用的都是脉冲激光器。直到2002年Bennink等人首次使用连续染料激光器单次穿过钠蒸气介质对斑图模式进行了研究，并通过克尔效应给出了很好的理论解释。　　我们的工作主要研究了具有高斯横向分布的连续激光束单次通过铷原子蒸后，在近共振附近铷原子蒸气中，由强的非线性克尔效应导致的激光分裂成细丝现象，并且这些细丝的衍射图样在远场通过相干迭加，可以形成具有规则结构的斑图模式。实验上研究了输入光功率，铷泡温度和抽运激光频率相对于85Rb原子D2线的不同失谐位置等因素对斑图模式的影响。由于铷原子的超精细能级分裂，在铷原子蒸气中同时存在与三阶非线性效应相关的四波混频现象，通过扫描探测光的频率同时观察到具有斯托克斯和反斯托克斯光子的喇曼增益现象。　　本论文主要分为以下几个部分:　　第一，介绍了激光束在原子热蒸气中传播的相关非线性理论。　　第二，对激光束在非线性介质中自聚焦的成丝模型做了介绍，并对自陷模型进行了理论推导。　　第三，对我们得到激光模式图样的实验装置做了详细的介绍。　　第四，介绍了我们的实验结果和对结果进行的分析研究。　　最后对全文做以总结。