调制失稳(MI)是非线性系统中一种很普遍的现象，与孤子现象密切相关。调制失稳是光束传播在非线性介质中时由于非线性与衍射(或散射)的共同作用，来自噪声的振幅和相位扰动会使一个宽光束发生破裂进而演化成不连续的光丝或序列的现象。由于在调制失稳过程中出现的细丝实际上是理想的孤子列，因此可以将调制失稳看做亮孤子形成的一个预兆。　　 2007年，课题组首次从理论上由非线性波方程出发解释了调制失稳的发生，认为调制失稳所表现的细丝产生是非线性方程所固有的解，而非微扰被放大。基于此，本论文展开实验研究并取得了以下研究工作和结果：　　 (1)在实验中观察到SBN-空气界面由于调制失稳产生的二维图样。工作中的关键点是：用单激光束小角度入射到和c轴平行的SBN晶体表面，入射光和全反射光在近表面处形成干涉条纹。这提供了一种用单光束在晶体近表面实时制备图样或周期性结构的方法。　　 (2)理论研究表明平面光入射将导致同位相的细丝图样，周期性分布的结构光入射将导致反位相的图样。实验中用平面参考光和调制失稳图样相干涉，分析干涉图样并验证了调制失稳图样及其位相关系。