本文首先综述了暗中空光束的产生及其应用，介绍了兰失谐光场中原子的激光冷却与囚禁及其在原子光学中的应用，并简述了实现玻色-爱因斯坦凝聚(BEC)的条件与稀释原子气体中BEC的实验进展及其应用前景。文章重点就中空光纤中模式识别，参数测试和LP01模输出中空光束的产生及其光束模型等进行了理论与实验研究，详细分析了中空光束中原子的激光冷却与囚禁及其碰撞损耗等机制，进行了中空光束冷却原子的动力学过程的Monte-Carlo研究和兰失谐中空光束在原子波导、漏斗、准直和重力光学原子囚禁中的应用研究，并探讨了在中空光束中实现光学囚禁BEC的可能性。本文集源于作者近年来在国内外业已发表的有关中空光束的产生与暗束原子光学的18篇论文，其主要研究工作简述如下： (1)本文提出了一种观测与识别微米尺寸中空光纤中模式结构及其光纤参数测试的远场显微成象技术。通过使用20倍的显微物镜，在距离物镜3.8m处的象屏上获得了一个放大约为460倍的中空光纤输出端面上模式花样的象。实验研究表明，该远场显微成象技术不仅可用于清楚地识别中空光纤中的模式花样，实验研究光纤模式与激发条件的关系，而且可用于测量中空光纤端面的几何尺寸和各种模式的耦合效率，其测试精度约为3％； (2)本文介绍一种新的产生暗中空光束的简单方法，即对中空光纤中LP01模输出光束的显微准直技术。在实验中，获得了一个暗斑尺寸为几十m的暗中空光束，相应的近场发散角约为6.5×10-5rad。最后简单讨论了暗中空光束在诸如中性原子的激光操控、准直、冷却和囚禁、原子透镜、原子漏斗和原子摄子等原子光学领域中的潜在应用，并提出了三种新颖的中空光束中原子的波导方案； (3)在菲涅尔近似下计算了微米尺寸中空光纤中LP01模输出光束的电场分布，并发现LP01模输出光束在自由空间的传播特性类似于TEM01Doughnut光束。本文提出一个简单的理论模型：一个修正的TEM01Doughnut光束，来模拟中空光纤中LP01模输出光束在自由空间的传播特性，并讨论了LP01模输出光束在原子波导、原子漏斗、原子冷却与囚禁中的潜在应用。研究表明：这一理论模型与菲涅尔衍射理论计算得到的数值结果基本一致，并可方便地用于计算LP01模输出光束中原子波导、漏斗和囚禁的光学势，偶极梯度力，光感应的加速度，自发辐射速率和量子隧道几率等； (4)在中空光纤原子波导思想的启发下，本文提出了一种新颖的中空激光束原子波导的方案。在此方案中，来自磁光陷阱的冷原子被装载进入兰失谐的暗中空光束，在重力作用下原子一边向下运动，一边在中空光束中来回反射，经历着横向的Sisyphus冷却。在纵向，被波导的原子经历着来自重力场的加热和向上传播的中空光束和再泵浦光束感应的自发冷却。作者估计了波导原子的横向平衡温度，最终的纵向速度和总的原子损耗。研究表明在这一原子波导方案中，原子的横向二维平衡温度可达1.2μK，最后的纵向速度可控制在0～4.41m/s，波导效率可达65％～95％； (5)采用弧向分布π位相板提出了一种产生聚焦中空光束的新方法，详细研究了这一聚焦中空光束在自由空间的传播特性及其在焦点附近的聚焦特性，并讨论了这一聚焦中空光束在原子光学中的潜在应用；其次，采用径向分布π位相板提出了一种产生局域中空光束的新方法，分别研究了这一局域中空光束的经向和弧向暗斑尺寸与相对孔径的关系，并采用Monte-Carlo模拟方法研究了局域中空光束中原子的Sisyphus冷却效应。研究发现一个温度约为6μK和密度为1012～1013atoms/cm3的超冷原子样品可以在作者的单束局域空心光束囚禁中获得，而且这一原子密度可以通过改变聚焦系统相对孔径来加以调控。 (6)根据中空光纤可产生暗中空光束的原理，提出了一种由微米中空光纤中的兰失谐消逝波光场和发散的中空光束串联而成的原子漏斗方案。来自磁光陷阱(MOT)的冷原子在中空光束中经历着有效的横向Sisyphus冷却。计算了波导原子在消逝波光场和中空光束中的光学势，分析了原子漏斗过程中的损耗。结果表明大约2.5μK的平衡温度和约为95％的漏斗效率可以获得，一个低速的强原子束可以在这一漏斗方案中产生。最后，简短地讨论了这一漏斗方案在原子光学中的潜在应用； (7)提出了一个简单的采用兰失谐平行中空光束的原子束准直器。当来自MOT的冷原子被装载于中空光束并沿着光束传播方向波导时，原子将经历着中空光束感应的横向Sisyphus冷却和准直。在纵向，由于吸收中空光束和再泵浦光束光子感应的加热，冷原子将经历一个很小的加速。分析了冷原子在这一原子束准直器中的冷却，加热和损耗机制。研究结果表明一个具有1.4μK横向平衡温度，2×1013atoms/(sr.cm2.s)亮度的超冷的强原子束即可从我们的准直器中输出。当这样的原子束通过一个具有Sisyphus冷却效应的中空光束原子透镜，并用计算机控制样品台的X，Y方向移动，即可实现一种新颖的计算机控制的原子刻蚀术； (8)基于消逝波重力激光囚禁的类似性，提出了一个新的由一束向上传播的兰失谐中空光束和重力场构成的重力光学原子囚禁方案。当冷原子从磁光陷阱(MOT)装载进入中空光束时，它们在重力作用下，在中空光束中来回反射，经历着中空光束感应的Sisyphus冷却和向下传播的再泵浦光束感应的几何冷却。计算了中空光束囚禁原子的光移动动势，分析了重力光学囚禁中的激光冷却与加热机制以及囚禁损耗。研究表明一个具有约1μK三维平衡温度的超冷原子样品将可在我们的重力光学囚禁中获得； (9)提出了一个由兰失谐的倒正棱锥(倒金字塔)形中空光束和重力场构成的重力光学偶极力原子囚禁，进行了中空光束冷却原子的动力学过程的Monte-Carlo研究。当来自MOT的冷原子被装载到倒正棱形中空光束并在中空光束内反射时，它们将经历着有效的Sisyphus冷却和几何冷却。研究表明一个具有3hk平衡动量的超冷原子样品可以在这一纯的光学囚禁中获得。本文分析了这一光学囚禁中原子的碰撞损耗和实际可达到的原子密度，发现一个光学囚禁的碱金属原子的BEC也许可在这一光学囚禁中实现。 (10)首先综述了近年来有关蒸发冷却133Cs原子样品的实验进展，分析了磁囚禁133Cs原子玻色—爱因斯坦凝聚(BEC)的困难，并在此基础上提出了一个全光型冷却与囚禁133Cs原子BEC的新方案。该方案主要由一个来自半导体激光(λ=0.852μm)的倒金字塔形中空光束重力光学囚禁(PHBGOT)和一个来自Ar+激光(λ=0.5013μm)的圆锥形中空光束重力光学囚禁(CHBGOT)组成。在PHBGOT中，冷原子经历了一个有效的中空光束强度梯度冷却和抽运光感应的几何冷却，原子温度将被从MOT温度(～60μK)冷却至几个光子反冲极限(～2μK)；而在Ar+中空光束囚禁(CHBGOT)中，冷原子将被Raman冷却或速度选择相干粒子数囚禁技术(VSCPT)进一步冷却至光子反冲极限以下，并被激光频率高于原子共振频率的(也即兰失谐的)Covering光束压缩。本文就PHB冷却的动力学过程进行了Monte-Carlo模拟，并计算了Ar+中空光束囚禁133Cs原子的光学势。研究结果表明实现一个全光学冷却与囚禁的133Cs原子BEC是可能的。