蓝绿激光自确认为水下通信的“窗口”波段以来备受关注，并被广泛应用于对潜通信系统。本文以卫星对潜通信系统（简称星潜通信）为背景，研究了无线光通信系统中的信道编码和调制解调等关键技术。首先，对蓝绿激光星潜通信的无线光信道作了一些研究。包括大气信道和海水信道，分析了光在信道中的传输特性。大气分子对光的吸收相对于散射效应要小很多，甚至可忽略不计，而各种悬浮颗粒的散射效应可近似为Mie分布；海水对光的吸收严重，但对蓝绿激光波段衰减较小，其悬浮粒子对光的散射也可等效为Mie散射，海水对光总的衰减近似服从指数分布。之后建立了Monte Carlo模型来模拟光子传输过程，仿真得出了光在不同天气、不同海水环境下的光斑及脉冲时延扩展曲线。其次，选择Turbo码作为无线光通信系统中的信道编码技术并进行了深入研究。以常用的PCCC结构为例，简单地论述了Turbo码编码结构之后详细地推导了译码算法。随后，总结了近年来改进的译码算法，并以降低译码复杂度和提高译码性能为目的，对并行译码结构进行了改进，还与时频调制技术相结合提出了逆编码译码器，它与发送端的编码器存在互为反变换的关系，使得译码结构大大简化，并减少了时延。通过Matlab软件，不仅完成了Turbo码的设计，仿真了各种参数对Turbo码性能的影响，找到了适合于光通信的参数，而且仿真分析了逆编码译码器的性能参数，验证了它能够实现简单的译码功能。再者，深入研究了时频调制技术（TFSK）。TFSK因为具有良好的抗频率选择性衰落的特性被应用于蓝绿激光对潜通信中。然而，传统的TFSK解调需要精确的本地参考信号，这一条件限制了它的发展。本文将边带相关算法（SCA）应用于TFSK的解调过程，使得系统能够在负信噪比条件下也能检测出有用信号，并与Turbo编码结合构成T-TFSK系统。通过Matlab软件，对TFSK和T-TFSK系统分别进行了仿真，验证了Turbo码与TFSK的结合不仅可行而且有效，比其他系统有较明显的优势。