深空探测是人类探索了解外太空的主要手段,是人类主要航天活动之一。深空通信系统作为人类上行控制航天器、下行获取天体资料的唯一途径,是深空探测中的最主要组成部分之一。深空通信过程中,由于其超远传输距离、超复杂传输环境以及自身设备及能源严格受限的特性,对通信系统各部分功能尤其对信道纠错编码、调制等关键技术提出有别于常规通信的要求。为满足未来深空通信系统的发展需要,本文讨论了满足深空环境技术的低发送功率、高数据率、高增益、低实现复杂度等一系列要求的一类编码调制方式——LDPC编译码技术和FQPSK调制解调机制,分析各自的算法性能,并对其进行了可实现性论证,最后尝试进行了电路实现验证。本文首先对通信系统中几种信道编码作原理介绍,着重介绍LDPC码和一种半随机结构LDPC码的构造过程。之后针对最新提出的LDPC码序列译码算法作详细阐述,对其中的概率计算思想、内外存储器、节点结构、异步流水线等作详细分析,重现LDPC序列译码器结构,验证其译码性能。验证结果表明,序列译码器以较之传统LDPC译码器近0.25dB的性能损失作为代价,获得明显的实现增益,从而为其在深空通信中的实用性提供了有力佐证。之后介绍FQPSK调制和解调机制。针对调制原理,分析了从QPSK开始的演变过程,主要改进之处在于:映射前引入网格编码操作;定义16种基带波形作为映射输出。针对解调算法,主要分析了其中的一种——MAP解调算法,该解调算法引入了信道译码算法中的软信息处理和迭代运算两个思想。随后对FQPSK调制解调过程进行了FPGA级验证,验证平台为XILINX公司的Virtex-4芯片,开发软件为XILINX公司的ISE,描述语言为Verilog HDL。验证过程结合仿真性能得出:FQPSK调制算法和对应的MAP解调机制在满足电路承载条件下,以极高性能完成信息承载和恢复,证明这种包络特性极好、频谱效率极高的调制机制在深空环境中具有很好的实用性。除此之外,MAP解调可以在接受端和LDPC码的译码过程通过软信息有效衔接,从而使整个接收机性能实现更大幅提升。论文研究成果可为LDPC码和FQPSK在收发端的实际应用提供参考。