未来5G接入网络中,密集部署无线小小区能提升移动网络的容量和覆盖率,可以满足用户对移动带宽的无限体验。这些小小区的高带宽依赖于高速回传网,面对越来越频繁的回传网构建,成本和可靠性已成为其急需考虑的两大性能指标。在本文中,采用时分和波分复用无源光网络(Time and Wavelength Division Multiplexed Passive Optical Network,TWDM-PON)的光接入技术,我们主要研究5G系统中回传网络的网络规划和成本优化设计。优化问题考虑了设备和部署成本,兼顾多个约束条件,包括每个光线路终端(OLT)能够接入的最大用户数和每个波长可接入的最大用户数。针对小基站(BS)大量离散随机分布的现状,提出了基于K-means聚类方法的网络规划和优化设计算法。同时,为了进一步降低深挖沟渠和铺设光纤的劳工成本,还提出了多级远程节点(RN)和光纤管道最大化共享策略。仿真结果表明,相比于传统的随机划分基站群的方式,本研究所提出的聚类方法可以大幅度地降低回传网络部署成本。另一方面,回传网络中任何一处故障或中断都将造成网络中断,大量数据丢失。因此,本文也展开了基于光纤-无线(Fiber-Wireless,FiWi)集成网络的生存性研究。提出了故障业务分流恢复机制,建立线性规划(Linear Programming,LP)模型,以保证用户最大可用带宽。研究结果表明,在不同故障下,相对于没有恢复机制方法的情形,本研究提出的恢复策略能有效地提高用户带宽的可用性。