基于自旋瞬态相干效应的光谱学研究能够提供大量关于物质微观动力学的信息,是波谱学的重要分支,从1964年光子瞬态相干效应发现到现在已有50多年的历史。对于原子光磁共振中的瞬态演化动力学而言,现在的研究还较少,正在慢慢起步。随着基于光磁共振的原子测磁领域的蓬勃发展,对于光磁共振中的瞬态相干效应研究也有着较大的意义,显得日趋重要。在本论文研究过程中,首先,我们搭建了铷原子光磁共振的研究平台,实验中只有一束激光即作为泵浦光又作为探测光作用在一个镀膜的铷原子池上,再通过一个光电二极管探测与原子相互作用之后的光强。利用扫描射频场的频率,获得了透射光强随着射频场频率变化的曲线,即光磁共振信号。基于光磁共振测磁的原子磁力仪就可以通过共振峰对应的射频频率值来确定外磁场的大小。我们分析了在实验室温度20℃下,共振峰线宽随各种激光功率,射频功率等参数的变化,从而优化得到信噪比较好的光磁共振信号。其次,通过增加射频场频率扫描速率,我们在铷原子中观察到了光磁共振的瞬态演化过程。在较高射频场扫频速率的情况下,传统洛伦兹线型的光磁共振信号会变得不对称,且右侧会逐渐出现振荡的小峰。我们研究了不同光功率和射频功率对于振荡小峰的影响。再次,为了研究瞬态相干效应中振荡小峰的特性,我们在某时刻突然打开射频场来观察透射信号的变化,射频场频率设置为与拉莫尔进动频率一致。我们发现瞬态效应的信号为正弦振荡e-1阻尼衰减的形式。进一步,我们分析了振荡频率和衰减速率随着射频场强度、激光功率的演化规律,发现振荡频率主要受到射频场振幅的影响,与射频场振幅成正比;并且当激光功率较小的时候,射频场强度对衰减速率起主要作用,而当激光功率较大的时候,射频场强度对衰减速率基本不起作用。当射频场功率比较大的时候,瞬态相干效应的振荡频率和衰减速率基本不受激光功率的影响。最后,我们通过四能级密度矩阵方程,数值计算了各种情况下光磁共振中的瞬态相干效应,理论计算与实验结果非常吻合,进一步解释了这种瞬态现象的动力学演化原因。希望我们的实验和理论解释有助于人们对于瞬态相干效应的理解,并对基于光磁共振的原子测磁有所帮助。