随着信息技术的不断发展,基于WDM技术的光纤通信已经成为支撑通信传输网络的主流方式。在基于WDM技术的光骨干网络中,其单播路由机制是关键技术之一。目前,大部分算法都是将该问题分解为两个子问题分别求解的,但是,这样可能将最优解排除在外。另外,这些算法都是假设物理层是无损的,然而在实际情况中,物理损伤的累积对光信号的影响是不可忽略的。对于光骨干网络中的多播应用,利用生成树的方法已被广泛研究。但是由于这些算法都达不到多播容量,所以有必要使用新的方法来提高多播容量。而网络编码的提出正好满足了这一要求。由于光网络本身的特点使得我们不能够直接使用无线网络或铜线网络中现有的网络编码方法,所以必须探索适合光网络的网络编码方法。为了给终端用户提供可靠的服务,需要建立相应的接入网。目前,接入网使用最为广泛的是无线接入网和局域网接入。本论文主要针对光骨干网络中单播路由、基于网络编码的多播通信以及接入网问题进行了研究,主要研究成果和创新点如下：(1)研究了多路径路由算法。通过定义路径与路径之间的距离、链路与路径之间的距离等概念,提出了一种基于路径与路径之间距离的多路径路由算法,该算法为后面光网络中路由和波长分配问题奠定了良好的基础。(2)研究了整数线性规划问题。利用随机取整算法处理整数线性规划松弛整数约束后得到分数解的情况,并从理论上证明了该算法能够以较高的概率提供接近最优解的次优解。(3)结合基于路径之间距离多路径算法和随机取整算法,提出了新的路由和波长分配算法,而且间接的考虑了物理层损伤。通过实验仿真证明了该算法的性能要优于分两步解决该问题的方法。(4)研究了基于网络编码的多播及其在光无线混合网络中的应用。在问题的描述中,综合考虑了光纤链路离散特点和无线用户的QoS要求,并使用了更一般化的凸目标函数,最后将该问题描述为混合整数非线性规划问题。(5)设计了两阶段在线分布式优化算法来求解上述问题,该方法将原始问题分为两个子问题：光网络中网络编码子问题；网关选择、用户指派和带宽分配子问题。对于第一个子问题,我们提出了一种新颖的对偶分解方法,该算法可以动态调整信源速率。对于第二个子问题,我们利用一般化的bender分解方法求解,该算法具有更少的迭代次数。由于整个两阶段优化算法的复杂度是多项式时间的,所以其对实际的多播应用是可行的。(6)提出了一种新颖的网桥转发协议,它以层次MAC地址为基础,能够使拥有不同优先权的帧使用不同的转发路径。该协议具有更低的转发复杂度和更少的存储开销。通过仿真表明该协议可以提高局域网的吞吐量,同时能够减小转发路径的长度。