在光学、声学、地震学等诸多应用领域内,经常需要快速精确地求解波的传播问题。波导沿着波传播方向的纵向尺度通常很大,横向的尺度远小于纵向但仍然远大于波的波长。标准的数值方法,如有限元法或有限差分法等,会产生一个规模很大的线性方程组,这将占用大量的内存,且计算效率不高。对于横向有界的波导结构,很多学者已经对波在变折射率光波导或变波数声波导中的传播计算进行了研究并提出了行之有效的数值方法。比如适用于缓变平板波导的光束传播法、用于计算近轴传播问题的算子方法、基于DtN(Dirichlet-to-Neumann)映射的步进方法。对于横向无界的波导,通过完美匹配层(PML),横向可以被截断为一个很小的区域。于是,传播问题的求解区域只有纵向的尺度比较大。对于这种结构,通过DtN映射,可以将原先的边值问题转化为初值问题,然后再用步进算法快速的求解这个初值问题,这就是算子步进方法(Operator marching method)。在算子步进方法中,每一次步进都需要进行一次与特征模相关的局部基变换。对于有界区域上的问题,由于横向算子是自伴的,特征模构成一组完备正交基,局部基变换可以很容易的完成。但是对于无界问题,由于PML的引入,原来的实系数Helmholtz方程变为一个复系数的偏微分方程,横向算子不再是自伴的。此时,特征模不再是正交的,这给局部基变换带来了困难。尽管用于处理损耗波导传播问题的共轭算子法在理论上可以用于局部基变换,但本文的研究表明,通过这种方法进行局部基变换将给传播计算带来难以接受的误差。通过对横向算子的深入研究,本文提出了一个新的局部基变换技术,并研究了它和共轭算子法之间的关系。理论推导表明,如果将横向算子在无穷网格上进行离散,新的基变换方法和共轭算子法是等价的。但是,数值模拟结果表明,新的局部基变换技术远远优于共轭算子法,精度和稳定性都得到了显著的提高。通过新的局部基变换,我们得到了Helmholtz方程在变折射率介质中的高精度解。除此之外,本文还研究了波在带有弯曲界面的无界波导中的传播计算。在这种波导结构中,要使用大步长的算子步进方法进行传播计算,首先要化简求解区域。本文采用局部正交坐标变换将弯曲界面拉平,然后用结合了新的局部基变换技术的算子步进方法进行传播计算。