在激光与等离子体相互作用中,由激光辐射所产生的有质动力会驱动起低频的离子声波,离子声波又与高频电磁波发生相互作用,导致入射激光场振幅受到调制,此时便发生了调制不稳定性。调制不稳定性的发展将导致成丝、场坍塌、包络孤子等一系列非线性过程,其广泛应用于激光核聚变、快点火等装置中,因此研究激光等离子体相互作用过程中的调制不稳定性具有十分重要的意义。本论文采用一种简便的方法研究了不同极化状态的强激光在不同组分的非磁化等离子体中的三维调制不稳定性。对于线极化的强激光,基于已有的线极化激光在非磁化电子等离子体低密度区和临界面附近的非线性色散关系,采用Karpman方程获得其电场包络所满足的三维非线性控制方程并进行调制不稳定性分析,其中考虑了由弱相对论效应引起电子质量变化的一级和二级非线性效应对不稳定性的影响,得出二级非线性效应对调制不稳定性的影响不大。对于(椭)圆极化的强激光,则采用洛伦兹技巧分别对椭圆极化激光在非磁化的电子-离子等离子体中和圆极化激光在非磁化的电子-质子-离子等离子体中的非线性色散关系进行推导,在此基础上,采用推广的Karpman方程获得电场包络所满足的三维非线性控制方程,从而进行调制不稳定性分析。分析获得了不稳定性发生的条件及时间增长率与扰动波数的函数关系,特别地,对激光初始电场振幅与各扰动振幅均共面这一特殊情况进行了详细的讨论,其中对不同等离子体区域和不同的激光强度下的时间增长率大小进行了比较,得出：在弱相对论限制下,增长率随电场强度增加而增加,且激光等离子体临界面处的调制不稳定时间增长率较其它位置更为显著。对于圆极化激光在电子-质子-离子等离子体中传播的情况,考虑了各带电粒子数所占比例对调制时间增长率的影响,结果表明：质子-电子数密度比的增加会使不稳定性的区域在垂直方向朝向更大波数扩展而在平行方向却不会发生改变,并且时间增长率随质子-电子数密度比的增加而增大直到离子数密度为零,这意味着质子的存在对调制不稳定性的发生具有激励的作用,而离子却具有抑制作用。