在数据流量快速增长的今天,光互连正逐渐取代电连接成为短距（服务器间、板间）甚至超短距（片间、片内）数据交换的主要连接方式。其中,片上密集无线光互连、涡旋光编码通信、涡旋光复用技术成为近年来通信以及大容量光互连领域的研究热点。片上密集无线光互连是一种背板型光互连,其能够充分发挥自由空间光互连的密度大和互连结构灵活的优势,从而在有限空间内提供更大的互连容量。涡旋光的轨道角动量（orbital angular momentum,OAM）态理论上来讲有无穷多个,作为新的编码对象、新的复用自由度能够在给定能量、给定空间链路下实现更大的信息传递量,是进一步提升光通信容量的理想技术。另一方面,微纳结构光调控的研究尤其是近几年超表面的研究为功能更强大光互连器件的开发提供了强有力的技术手段。本文以芯片级光互连中的光收发部件——硅基耦合器为主要研究对象,以有限元法、时域有限差分法模拟为主要研究手段,结合理论分析,基于金属、介质微纳结构的片上光调控特性设计各类紧凑、高信道容量耦合器件,目的是有效提高片上、片间光互连性能。主要研究工作及成果:设计一种垂直光发射、可开关的耦合器用于片上密集无线光互连。该耦合器实质上是一种驻波调控的金属浮雕光栅。与大多数使用TE波作为输入光束的研究不同,这种金属光栅耦合器由TM波激发。TM波在导芯边界上电场的径向分量能够激发金条带局域表面等离激元共振,极大增强光栅的光散射,从而为耦合器的小型化提供了可能。选择TM驻波激励能有效地克服单个TM波激励时辐射效率低和辐射方向偏斜的问题,更重要的是,通过调整驻波相对金条带的位置,可以调制辐射光的强度。对光辐射效率开关差的研究表明,局域表面等离激元共振是光栅耦合器具有近理想辐射效率开关差（理想开、关辐射效率为100%、0%）的重要条件。这种耦合器具有面积小、效率高、消光比大、垂直光发射等特点,可作为发射端用于片上无线光互连。基于此,设计了一种新的光互连系统。设计一种小尺寸的槽波导布拉格光栅用于面内光强度调控。该布拉格光栅由七个金纳米块组成,整个光栅长度仅约三个导模波长。调整纳米块的几何参数能够设计两类不同的波导模模式选择光栅。首先分析单个金纳米块与槽波导的同相模、反相模的相互作用,确定模式选择光栅设计原则。然后设计两类模式选择光栅,并对设计参数进行优化以提高消光比。结果表明,在中心工作波长1550 nm处,Ⅰ类光栅的反射和透射消光比都大于20.0 d B,Ⅱ类光栅的反射和透射消光比都大于13.4 d B。最后设计一种反光率、透光率调制光开关,其能够实现波导光反射率、透射率的连续调制。该槽波导布拉格光栅有望用于波导光通信或片上激光调Q。针对现有涡旋发射器或者结构庞杂或者带宽过窄问题,提出一种紧凑、非谐振、高能量效率的片上涡旋发射器设计方案。所设计的涡旋发射器能够将不同倾角入射的表面等离激元（surface plasmon polariton,SPP）转换成自由空间中不同拓扑荷的涡旋光。首先定义生成涡旋光的分段逼近方法——涡旋合成法的概念,将涡旋合成方法归类为分段相位方法（phase method,P法）和分段相位梯度方法（phase gradient method,PG法）。基于瑞利-索末菲衍射积分构建合成法涡旋生成的数学模型,阐述涡旋谱分析理论。分析表明,PG方法优于P方法。然后利用相梯度超表面的波矢操控设计一种基于PG方法的涡旋发射器。计算结果表明,在目标拓扑荷的取值为-6到6范围以内,器件的有效涡旋发射效率约47%。最后设计一种辅助用片上透镜,与涡旋发射器集成,可以实现将片上位置编码信息转换为自由空间拓扑荷编码信息。相反地,该装置也可用作接收端识别涡旋光。这种紧凑的涡旋调制/解调器有望应用于波分复用兼容的片间OAM光互连。金属纳米裂隙SPP弧透镜具有大范围涡旋拓扑荷识别的优势,然而这种裂隙结构的主要问题是能量效率非常低,针对该问题,提出用相梯度超表面（phase gradient metasurface,PGM）构建SPP弧透镜的方案。相比于纳米裂隙,PGM弧透镜工作效率提高了约14.5倍。首先建立SPP弧透镜数学模型,提出理想聚焦偏差方法用于分析弧透镜的聚焦性能。分析结果表明,四分之一弧SPP透镜在很大拓扑荷范围内都有准理想聚焦效果。然后基于金属-介质-金属（metal insulator metal,MIM）磁共振天线设计四分之一圆弧相梯度超表面透镜,并对弧透镜的自旋分选原理进行了分析,证明自旋分选机理与涡旋分选等同。最后通过会聚波与波导的耦合,模拟演示6个光纤涡旋模式的低串扰、宽带宽片上分选。该分选器可作为接收端用于波分复用兼容的片间光纤OAM光通信。