可见光通信(Visible Light Communication,VLC)是一种基于发光二极管(Light Emitting Diode,LED)高速响应原理的新型无线通信方式,具备照明与通信双重功能,有高速、无电磁干扰、环保等特点,因而被认为是具有应用前景的无线通信技术之一。在室内VLC系统发送端配置多组白光LED阵列,除了可以提高室内照明亮度外,还能够与多个用户接收端构成多用户多输入多输出系统,并利用空分复用技术提高系统通信速率。然而在多用户系统下行链路中,多用户干扰的存在会降低系统性能。因此,消除多用户干扰是VLC中待解决的问题之一。为消除多用户干扰,本文在光功率约束条件下,提出了基于最大均方误差最小化准则的多用户MIMO收发机优化算法,即在收发矩阵的联合优化下,最小化多用户中最大的均方误差值。然而,该优化目标函数是非凸函数,无法直接进行优化。为解决这一问题,通过矩阵变换将非凸函数转换为一系列凸的子函数,进而采用交替最小化方法迭代求解出最优值。考虑到实际系统中可能存在信道估计误差,使得系统性能下降,本文进一步设计了鲁棒型MIMO收发机用以对抗信道误差。仿真结果表明鲁棒型MIMO收发机在保证多用户通信资源分配公平的情况下,有效地消除了多用户干扰;与此同时,在信道信息非完备情况下仍然能够使系统保持较好的性能。此外,本文还提出多用户能效最大化算法,旨在消除多用户干扰和保障通信质量的基础上,有效降低系统功耗,提高能源利用率。由于该优化问题是非凸分数规划问题,本文利用Dinkelbach算法以及速率和均方误差之间的关系,将其转换为一系列参数化的凸问题,通过交替迭代最大化方法求解最优值。仿真结果表明该算法可以获得更高的系统能效。