表面等离子体波是一种沿着金属-介质界面传播的电磁波，它能够将光局域在金属表面进而突破衍射极限。表面等离子体波导能够将光信号局域在亚波长尺度内传播，一定能在实现高度集成的光学回路中起到不可取代的作用。普遍来说，表面等离子体波导在模式局域性和传播长度之间顾此失彼。其中，介质加载结构和复合结构能够保证较好的亚波长局域性，同时传播长度较大。本论文主要研究一种新型的介质加载和复合表面等离子体波导结构的几何参数对其传输特性的影响，进而达到结构最优化，并且对复合结构的表面等离子体波导在光器件方面的应用作了简要的分析。　　论文首先从麦克斯韦方程组出发进行理论推导，对表面等离子波的基本理论作了一简要的分析，介绍了表面等离子体波的概念和存在的条件以及相应特征。在此基础上通过有限元方法模拟分析了三层对称的MIM和IMI结构表面等离子体波导的传输特性。　　以传统的矩形介质加载表面等离子体波导为基础，我们研究了椭圆形介质加载结构和复合型介质加载结构，利用有限元算法分别对这两种结构的传输性质进行了研究，包括模场分布、有效折射率、传播长度、模式宽度和品质因数等。椭圆形介质加载结构的局域性和传播长度要明显优于传统的矩形结构，复合结构的尺寸比传统结构小3倍，同时其局域性也非常好。除此之外，我们将复合波导的思想应用与金属脊状波导，提出复合型脊状表面等离子体波导，其传输性质明显优于金属脊状结构。　　复合型表面等离子体波导结构在光学器件方面也表现出了良好的应用价值，我们详细研究了基于复合型介质加载结构和脊状结构的光波导定向耦合器，从物理意义上解释了光波耦合过程，并基于此理论研究耦合器的传输性质，表现出了良好的耦合特性。除此之外，基于复合结构的90°弯曲波导和S型弯曲波导具有较高的能量透过率和较小的弯曲损耗。