随着对可见光通信研究的不断深入,众多研究机构已在可见光通信领域取得了突破性的研究成果,但是未见到研究者将白光LED和RGB LED相结合应用于可见光通信系统。因此,本文首次提出了一种新型光源应用于可见光通信系统。新型光源由白光LED和红绿蓝(RGB)LED组成,其中白光LED提供稳定照明,同时RGB LED以不同的组合方式实现数据传输功能。RGB LED有七种组合方式可实现通信功能,本文主要研究了 RGB LED在其中六种组合下,新型光源的成色质量和通信性能,并在显色指数、信噪比和误码率的约束下,研究RGB LED在不同组合方式下与白光LED的功率比可用范围。同时在新型光源的基础上,提出了两种新的调制方法。一种是基于联合色移键控调制和多脉冲位置调制的方法。深入研究了色移键调制和多脉冲位置调制的编码调制过程,并给出了特例详解。提出了将伪噪声应用于可见光通信系统以实现多脉冲位置调制的时隙组合方式识别。同时还分析了系统的信号传输、信道模型和噪声。本文是首次研究联合色移键控调制和多脉冲位置调制方法,并可将该联合调制方式拓展应用到其它调制方式中,为可见光通信系统调制方式提供了一种选择。另一种是基于新型光源的联合分步映射空间调制方法。该调制方法首次将空间调制和RGB LED的不同组合方式相结合,并分步实现映射过程以降低系统调制和解调的复杂度。根据新型光源的显色指数和可用功率比范围来选择RGB LED的不同组合方式,以适应不同场景的通信。利用新调制方法传输DCO-OFDM信号,并研究调制阶数、直流偏置和发射端布局对系统性能的影响。