光波导中的光学谐振态分为导播模式、辐射模式和连续域内的束缚态(Bound States in the Continuum,BIC)。谐振态满足横向法布里佩罗谐振原理。其中,辐射模式的发散性来自波导内的本征态和背景辐射通道的耦合。连续域束缚态是辐射态中的奇异值,尽管在背景中存在着可以耦合的辐射通道,其能量依然束缚在波导内。连续域束缚态的这种特殊性质使其在谐振器、激光器和滤波器的设计中具有良好的应用前景。本文提出一种基于模式展开理论的数学方法来研究光子晶体波导中的谐振态和能带结构。该方法从理论上揭示了三种光学谐振态的形成机制,同时对色散关系和模场分布提供精确的数值计算。本文的研究结果表明,辐射波来自波导内的多个本征模式在边界上的能量耦合。当耦合分量之间产生相消干涉时,辐射波被抵消,模式的全部能量被束缚在波导内,形成BIC。在色散空间中,本文发现了处于原点和布里渊区边界处的BIC以及远离对称点的Friedrech-Wintgen BIC。通过调整背景的结构参数,该数学模型还预言了BIC湮灭现象。本文进一步研究了结构对称性对BIC的影响,以及空间-时间反演(PT)对称系统中的BIC和激光态。对于三维系统,本文研究了通信系统中最常用的光纤光栅结构,运用模式展开法找到了光纤光栅结构中的BIC。这些研究成果为连续域束缚态的应用起到了理论指导作用,对于设计更高性能的滤波器、传感器和激光器等设备有重要意义。