近年来,光子晶体单向边界模式的传输特性及其应用研究受到许多科研工作者的青睐。本文主要研究了基于量子霍尔效应下光子晶体中电磁波的单向边界模式。利用磁光光子晶体的波导非互易特性,提出了边界模式耦合模型,实现具有传输特性的单向空气波导。同时利用波导-腔相互作用,构建了可调控光子能量的环形器。另外,提出了一种全介质拓扑光子晶体结构,实现了稳定传输的单向螺旋边界态等。主要的研究内容如下:（1）在外加偏置磁场条件下,打破磁光光子晶体系统的时间反演对称性,实现二维磁光光子晶体的单向边界模式。基于边界模式耦合理论,依据单向边界模式的抗背向散射和对表面缺陷免疫等特性,提出了两种不同晶格结构的单向边界模式耦合模型。一种是用三角晶格二维磁光光子晶体构建的单向边界模式的耦合模型,可获得超大带宽、损耗小、单模传输的单向空气波导。该单向空气波导是通过在模型的上、下部分外加相反方向磁场,获得相同方向传输的群速度而得到的。研究了线缺陷波导宽度对上、下单向边界模式耦合效应的影响,计算了该模型沿波矢k_x方向投影的光子能带色散曲线。另外,采用S参数法研究单向空气波导的传输特性,计算单向空气的传输能量损耗、最佳工作带宽和工作频率,以及不同光器件相应的工作频率等参数。另一种是基于蜂窝状磁光光子晶体的边界模式耦合结构,可获得一种能量集中、损耗小、稳定性好、非互易性强和多模传输的单向空气波导。基于完全自导性边界模式进行耦合分析,表明这种结构的单向空气波导边界模式具有单向自导性,传输稳定好,损耗几乎为零。（2）基于波导-腔相互作用,提出用普通光子晶体和磁光光子晶体构建一种双单向边界旋转态腔与线缺陷波导耦合模型。采用有限元方法计算光子晶体的光子带隙、单向空气波导的色散曲线以及波导-腔体相互作用的色散曲线,系统地分析色散曲线之间的关系,通过仿真模拟观察波导-腔体共振现象,利用外加磁场方向可控制单向边界模式的传输方向,设计一种可实现光子能量动态存储与释放的复合结构。（3）基于类石墨烯C6v结构的拓扑光子晶体的拓扑性质,如拓扑相不变、拓扑对称性等,理论阐明了光子的赝时间反演对称性与电子系统中的类似。在不改变C_6v结构的对称性情况下,通过压缩或扩大类石墨烯晶格单胞的比例,实现第一布里渊区中心（38）点处二重简并Dirac锥打开,实现能带分离、模式反转。探究拓扑光子晶体结构参数,如晶格常数、材料介电常数、介质柱半径,形变比例等参数对狄拉克锥分离程度的影响,并提出一个在赝时间反转对称性系统下支持稳定传输的单向螺旋边界态的二维拓扑光子晶体结构。获得大带宽、受拓扑保护、抗缺陷和散射的稳定传输的单向螺旋边界态,其传播方向由光子的自旋轨道角动量控制。此外,验证了单向螺旋边界态在Z字形通道、缺陷、急弯等情况下的可调性与稳定性。