近年来，光空间孤子一直都是非线性光学研究的热点，孤子态可直观的理解为介质的非线性效应和光束衍射精确平衡的产物，灰孤子是一种特殊的暗孤子，其性质相对复杂并且有许多有待研究的特性。光子晶体是一种介电常数随空间呈周期性变化的材料。具有光子带隙结构的光子晶体可以调制光子的状态模式，它独特的物理性质使得光子晶体具有理论研究价值和广泛的应用前景，用全光学方法制作光子晶体与传统的制作光子晶体的方法比较相比较，具有简便和周期易于控制等优点。调制不稳定性是非线性介质中一种普遍的现象，被看成亮孤子出现的预兆。在此基础上，本论文《铌酸锂晶体中的调制不稳定性和灰孤子的研究》的主要研究内容和创新点如下： 1.首次从实验上观察了发生在光生伏打光折变LiNbO3:Fe晶体中的调制不稳定现象，从理论上定量的分析了MI与各个试验参量的关系，指出发生在光生伏打自散焦非线性介质中的调制不稳定现象起因于非局域响应的非线性。 2.从调制稳定的观点出发，建立了非线性灰孤子的演化方程。并定量地分析了灰孤子性质。认识到跨越灰孤子相位是控制灰孤子的关键参量。 3.我们用傅里叶透镜变换的方法制作了二维光阵列，并将其照射在光生伏打光折变LiNbO3:Fe晶体上，利用光伏饱和非线性成功写入两维波导阵列，并从实验上测量了二维波导阵列波导的性质。