硅光子学是现代光学研究的一个重要分支。硅由于具有高折射率、在通讯波段透明、具有丰富的非线性特性以及与CMOS工艺兼容的优点,使得硅基器件成为集成光学的一个重要门类。在过去的二十年里,硅基调制器、探测器等器件相继研制成功,硅基发光的难题也出现了多种解决方案,硅光通讯模块间的光互联得以实现。这些进展标志着硅光子学的研究走向成熟,并逐渐转化成工业成果。近年来,将不同材料的器件结合在硅衬底上的混合集成方案吸引了众多研究人员的兴趣。硅基狭缝波导由于能够增强低折射率狭缝区域的光强度,利于实现光与低折射率部分物质的相互作用,常被应用于混合集成。利用硅基狭缝波导与具有超快非线性响应的非线性光学材料相结合,可以实现高速全光信号处理,响应时间只有皮秒量级。本论文的内容包括硅基狭缝波导的设计、制备和应用,突出狭缝波导在混合三阶非线性波导中的应用,主要完成了以下工作。(1)为了证实光在狭缝波导中的传输,我们利用电子束曝光和电感耦合等离子刻蚀等设备,制作了半径20微米的狭缝微环谐振腔,并测试得到传输谱线。狭缝微环谐振腔在1556nm处的消光比超过24dB,Q值达到7000,证明了该器件具有较小的侧壁损耗。(2)在实际的工艺制作过程中,我们发现缝宽较窄(小于1OOnm)的狭缝波导,刻蚀速率会降低,导致狭缝没有完全刻穿。为了证实这种未刻穿的狭缝波导的性能,我们模拟了脊型狭缝波导结构的光场特性,并提出了脊型狭缝波导可以用来提高气体探测的灵敏度。对于220nm SOI上制作的狭缝波导传感器,当未刻蚀的硅厚度为20nm时,获得的脊型缝波导的灵敏度为0.445,高于完全刻蚀的狭缝波导的灵敏度0.267。(3)为了探索狭缝波导的集成度,我们研究了两条狭缝波导之间的耦合强度。通过计算耦合长度,我们得到了结论:缝宽小于50nm的狭缝波导的耦合能力与300nm宽的条形波导相当,具有较好的光学隔离度。(4)为了提高混合狭缝波导的三阶非线性性能,抑制硅在通讯波段本征的双光子吸收,我们提出了覆盖层为矩形的狭缝波导结构。这种波导的双光子吸收品质因数可以达到4.4,显示出优良的非线性特性。同时,为了实现高效的四波混频,波导需要工作在反常色散区域,而已有文献难以获得反常色散的硅基垂直狭缝波导。为了减小垂直狭缝波导的正常色散,我们提出了多层硅混合垂直波导结构,经过优化,该结构的硅/硫化砷混合垂直波导在1450-1950nm跨度500nm的范围内,色散小于±300 ps/nm/km。