本论文工作是围绕以下项目展开的：以任晓敏教授为首席科学家的国家重点基础研究发展计划(973计划)项目“新一代通信光电子集成器件及光纤的重要工艺创新与基础研究”(项目编号：2003CB314900)；国家高技术研究发展计划(863计划)项目“单结构与多结构集成式光子晶体光纤及器件”(项目编号：2003AA311010)；教育部科学技术重大研究项目“基于微结构光纤的新一代光通信器件及系统”(项目编号：104046)以及北京市教委共建项目(项目编号：XK100130437)。 微结构光纤(Microstructured Fiber：MF)，是沿轴向排列着多层气孔(或其它介质)的一种新型光纤，在光物理、生物医学、光化学等诸多领域都有广泛的应用。与普通光纤相比，微结构光纤堪称新一代的、对通信系统发展将起到重要影响的划时代产品。微结构光纤具有许多不同于普通光纤的优越特性，它对于DWDM系统中光器件的小型化、集成化具有重要意义。本论文着重研究了微结构光纤非线性特性的理论和实验工作，主要研究成果如下： 1．系统研究了微结构光纤的非线性系数与不同结构参量之间的关系。与人合作，利用时域有效差分法，对不同结构参量下微结构光纤的有效面积和非线性系数进行了详细的数值分析，得到了非线性系数随结构参量的变化规律。研究结果表明：填充比越大，模场越集中在纤芯部分，有效面积也就越小；对于一个固定的d／∧值，存在一个最优的∧使得非线性系数取得最大。 2．理论研究了超短光脉冲在微结构光纤中的非线性传输特性和超连续谱的产生，分析了在不同的色散区域，脉冲的传输和光谱的变化规律。数值模拟结果发现：超短脉冲在MF传输初期都只有群速度色散和自相位调制效应起主要作用；随着传输距离的增加，受激拉曼散射和高阶色散逐渐占据主导作用，脉冲频谱被极大展宽。