相干布居囚禁(Coherent Population Trapping,CPT)是一种量子干涉效应,在原子钟和原子磁强计的研制中有着重要应用。本文针对提高CPT原子钟的短期稳定度和CPT磁强计的灵敏度分别进行了实验研究。以下是本文的研究成果：1、将以左、右旋光为光源的方案(σ+σ+-σ-σ-)应用于芯片原子钟(Chip Scale Atomic Clock,CSAC)所用的微型原子气泡,研究了该方案在CSAC研制中的应用潜力。该方案提高了原子利用率,与传统方案相比所获CPT信号对比度改善3倍。2、对垂直线偏振方案(lin⊥lin)所用的正交偏振仪进行了改进。改进后的正交偏振仪体积减小,且提高了系统的机械稳定性,有望将其应用于CSAC的研制,来提高CSAC的短期稳定度。3、对己提出的平行线偏振方案(lin‖lin)做了进一步研究,探讨了该方案在提高CPT原子钟稳定度方面的可行性和应用潜力。研究结果揭示：虽然该方案可以提高CPT信号的对比度,但由于该方案需要将激光频率锁定在87Rb原子D1线激发态的Fe=1的吸收谱线上,而该谱线较小,因此当CPT信号幅度太大时将难以进行激光锁频,且CPT信号的噪声会明显增大。4、研究了偏振相互垂直的两束线偏振光与87Rb原子相互作用后,同时存在干涉效应和旋光效应的CPT谱线。实验中采用前面改进后的正交偏振仪得到了偏振方向相互垂直的多色线偏振光,通过改变一束光的光程而改变两光束的光程差,将光程差定在最佳值处,差分探测得到了高信噪比的CPT吸收谱线和色散谱线。利用该方案具有将CPT原子钟的短期稳定度提高3倍以上的潜力。5、提出了基于差分探测磁旋光信号的CPT磁强计方案(DMOR-CPT磁强计)。DMOR-CPT磁强计方案采用线偏振光,并用差分探测技术探测线偏振光与原子作用后的磁旋光信号。该方案可将灵敏度提高半个量级,同时其弱磁场探测能力也提高了一倍,而且其装置简单,有望实现小型CPT磁强计。