以物理中的光波导为背景，数学上，本文分别对无界变系数亥姆霍兹方程的模式求解问题及反散射问题的数值算法两类问题进行了研究。第一类问题，对于缓变光波导，本文推导得到了使用完美匹配层(perfectly matched layer，简称PML)边界的TM模式下传播常数满足的三角矩阵近似的色散方程;进一步地，对一般的光波导，本文得到了使用PML边界的TE和TM模式下全矩阵近似的高精度的色散方程。另外，本文给出了泄漏模和Berenger模的解析的渐近解公式，当求解这两种模在大模（|β|较大）时的高精度解时，它们可以作为使用牛顿迭代法高精度求解色散方程时的初始值。对于另一类问题，反介质的重建问题，本文给出了较好的数值反演算法。　　具体地说，对于无界的光波导，本文使用PML边界条件将无界问题有界化。由于讨论的是波导非均匀的情况，所以使用了微分转移矩阵来推导芯层的转移矩阵。本文首先推导了TM模式的微分转移矩阵，并对该微分转移矩阵进行积分，对积分后的形式进行矩阵指数运算。但是因为指数运算难以给出简单明确的表达式，所以对波导缓变的情况，本文使用上、下三角矩阵近似微分转移矩阵，最终推导得到了PML边界下TM模式的两个三角矩阵近似的色散关系，并对波导的大模情况，本文给出了泄漏模和Berenger模的解析的渐近解公式。因为在波导模式的分析中，相对于小模，高精度求解大模要困难得多，所以使用牛顿法求解泄漏模和Berenger模的高精度解时，它们的渐近解可以作为迭代初始值。在另一个研究工作中，为了进一步提高特征值的精度，本文不对微分转移矩阵进行任何近似，直接对其积分，并对积分后的形式进行矩阵变换，然后近似地进行矩阵指数的计算，最终结合PML边界条件，推导得到了特征模式（传播模、泄漏模、Berenger模）满足的全矩阵近似的高精度的解析的色散关系。这个色散关系对一般折射率连续变化且可导的波导都适用，不在局限于缓变波导的情况。而且，在一定的条件下，可以精确地计算矩阵指数，此时上面得到的高精度的色散关系变为精确的色散关系。　　对于波导中的反介质重建问题，基于已有的理论方法，本文给出了一种有效的反演数值算法。首先对于每一个固定的入射频率，使用数值搜索和牛顿迭代，得到了一系列高精度的特征值。其次使用多频信息，结合理论表达式的特点，建立了规模相对小的线性系统。最后通过分析奇异值的分布情况，主要使用奇异值分解，迭代正则化等技术对线性系统进行正则化反演求解。数值实验部分对复杂程度不同的杂质（含有低频到高频傅里叶模式的杂质）进行数值验证，结果表明本文提出了一个较好的反演数值算法。