近几年来,由于云计算等高速服务的飞速发展,短距离光接入网络带宽业务需求也日益提升。长距离光通信系统中常用的通信系统往往系统复杂度较高,如相干通信系统。相对而言,短距离光通信系统中更适合使用成本较低的强度调制-直接检测（IM-DD）技术。同时,为了保证系统的通信质量,需要在带宽受限的IM-DD通信系统中使用一定的数字信号处理技术来提高系统的稳定性和可靠性。本文基于短距离IM-DD通信系统,分别对提升单载波和多载波系统的数字信号处理技术进行了研究,主要开展工作如下:1、在IM-DD光纤无线混合正交频分复用（OFDM）系统中,提出了一种利用正交循环矩阵（OCT）预编码的帧级自适应前向纠错编码（FEC）方案,并采用里德所罗门（RS）纠错编码进行实验验证。在该方案中,不需要花费额外的比特信息去估计自适应信息,仅仅用插在每一个正交频分复用（OFDM）帧前的训练序列完成,而该序列同时又用于信道估计和符号同步。另外,公式推导了OCT预编码对于通信系统的提升效果。实验结果证明经过20公里标准单模光纤（SSMF）和8m自由空间传输后,当16QAM-OFDM的误码率低于10^-5时,相对于传统的子载波自适应RS编码,该方案可减少14.12%的RS编码开销。2.提出了一种112Gbit/s四阶脉冲幅度调制（PAM4）的传输方案,并在80公里SSMF的IMDD通信系统中进行实验验证。该方案可以达到7%的硬判决门限3.8×10^-3。在发射端使用了预训练的预补偿和基于非线性查找表的预补偿技术来解决光电调制器和检测器的带宽限制和非线性效应。在不使用这些数字信号处理技术的情况下,误码率约为2×10^-1经过信号处理恢复后,背靠背和80公里SSMF系统的误码率可以分别达到3.07×10^-5和1.50×10^-3。3、探究了恒模算法（CMA）、改进的恒模算法（MCMA）、级联多模算法（CMMA）和改进的级联多模算法（MCMMA）四种盲均衡算法,并将其运用于多载波OFDM系统中,且在20公里标准单模光纤和8m自由空间传输的16QAM-OFDM光纤无线混合通信系统中进行了实验验证。结果表明,经过传输,MCMMA对于16QAM-OFDM有着明显优于其他算法的效果。