预计到2030年,全球移动终端设备连接数将接近1千亿,同时全球平均移动数据业务流量将增长近20000倍。而传统基于射频(Radio Frequency,RF)的无线通信系统是干扰受限系统,面临频谱资源短缺、干扰环境复杂等挑战。可见光通信作为一种新兴的通信技术,不仅具有高带宽、高速率的特性。作为传统无线通信的补充,可见光通信可提供较高室内覆盖率,支持海量设备连接,因此具有广阔的应用前景,受到业界的高度关注。为满足通信的无缝覆盖要求,室内可见光网络包含多个可见光接入点(Access Point, AP),可能导致较强的小区间干扰和非均匀室内照明分布,进而降低网络系统性能。因此,本文以同质可见光网络为研究场景,主要研究协作传输技术,并解决上述两个问题。本文的主要工作内容及创新点如下:第一,针对协作传输场景下的室内照明分布不均问题,将其建模为一个照明与通信的联合优化问题,同时为解决该问题,提出一种基于和声算法的组合优化算法——和声退火算法。首先,本文引入优化因子向量,用于控制可见光发射器功率。其次,该优化问题以照明均匀度为优化目标,以用户通信质量为约束条件。此外,为求解该优化问题,本文基于和声算法,提出一种和声退火算法,该算法在每次搜索中可充分利用以前的优化信息,提高算法的优化效率,同时增强多方向搜索能力,以避免优化算法陷入局部最优解。最后,仿真结果表明本文提出的和声退火算法在收敛速度和优化性能方面都优于传统进化算法。第二,针对可见光小区间干扰问题,提出一种基于合作博弈理论的动态虚拟小区构造方法。相比已有光小区构造方案,本方法考虑了用户间业务差异性和中心网络流量负载因素,并动态的调节虚拟小区拓扑。此外,本文设计了一种新颖的联盟效用函数,并基于合作博弈理论中的合并和分裂准则,构造最优虚拟小区拓扑,从而提升网络性能。最后,仿真表明该方法相比以用户为中心的虚拟小区构造方法,系统容量提升12. 7%。