深空探测的主要目的是开发和利用空间资源、扩展人类的生存空间,为人类社会的长期可持续发展服务。它集中展示了一个国家的科技发展水平和综合国力,具有很强的军事、政治意义。我国也已开始了以月球探测为起点的深空探测研究。　　 深空通信系统的性能直接决定深空探测的成败。为应对深空通信面临的挑战,通过建立深空网、加大地球站和探测器天线口径、增加探测器射频功率、采用先进的调制技术、信道编译码技术、信源压缩技术、提高载波频率、降低接收系统噪声等措施,大大提高了信道的传信能力。上述几项措施最大可获取链路增益92.64dB,但对冥王星这种距离的目标进行探测时,信号传输路径损失尚有8.897～13.776dB未得到补偿。本文工作重点是研究如何通过信道编码和恒定包络调制来提高深空通信系统的通信能力,具体内容和研究成果如下:　　 1.由于Laurent分解(LD)在CPM信号次最佳接收中具有举足轻重的地位,本文首先补充证明了Laurent分解,揭示了调制数据与被调制脉冲之间的一一对应关系,使得Laurent分解结论的推导更为严格、合理,并为连续相位的QPSK调制(CPQPSK)信号简化接收机的设计奠定了基础。在补充证明中,提出了同类项的确认及同类项合并的方法。　　 2.提出了带宽效率比SOQPSK更高、抗噪声性能相同的CPQPSK及其全响应最佳接收机。通过比较传统QPSK中相邻两个QPSK符号对应的相位星座角度差,得出了QPSK的差分编码规则,进而得出QPSK的CPM表示式。通过选择非冲击函数作为频率脉冲,达到控制相位轨迹的目的,从而得到了CPQPSK。理论分析表明CPQPSK信号具有严格恒定包络。通过对全响应CPQPSK信号在任意符号间隔内IQ路基带信号的分析,得出了CPQPSK的基于XTCQM的发射机描述和对应的最佳接收机。仿真结果表明同参数下CPQPSK信号的带宽效率高于SOQPSK信号,全响应CPQPSK与SOQPSK信号的抗噪声性能相同。　　 3.提出了CPQPSK信号基于LD的简化接收机。对CPQPSK信号进行了LD,找出了主脉冲,并设计出了基于LD的全响应CPQPSK接收机,仿真结果表明信噪比在3dB以上时,仅用三个匹配滤波器的简化接收机可以达到XTCQM表示时用8个匹配滤波器的最佳接收机的性能。　　 4.提出了一种基于计算机搜索的LDPC码系统码化及其高效编码方法。基于计算机搜索的LDPC码系统码化的方法,不会改变LDPC码的性能,而且由于采用了最小加权和终止规则,降低了校验矩阵排序的盲目性和复杂度。对于系统码形式的LDPC码,采用基于删除信道的消息传递算法和用生成矩阵直接产生某些校验位相结合的方法,最大限度的利用了LDPC码校验矩阵的稀疏性和LDPC码译码器硬件平台,从而使编码复杂度与码长呈正比,而且具有并行编码的能力,并降低了硬件实现复杂度。系统LDPC码的信息位占据码字中连续的一段,且位置明确,有助于信息位的获取。　　 5.改进了LT码的译码算法,提高了译码实时性和有限接收包条件下的成功译码概率,降低了接收缓冲器的消耗。通过对接收缓冲器内未恢复数据包附加信息的简单运算,提高了译码成功概率,减少了译码等待时间。在深空信道上引入RS+CC级联码构建了不同删除概率的删除信道,并仿真了多个删除信道上级联系统的性能。　　 6.设计了q-LDPC码,利用q-LDPC码在深空信道上构造了另一类等效的删除信道,并在该信道上仿真了LT码的性能。仿真结果表明,在包删除概率小于0.1时,信息恢复的误比特率以概率1趋于0。　　 7.提出了B-LDPC编码的CPQPSK调制。重点研究了CPQPSK采用基于LD的次最佳接收,以及B-LDPC码用常规的消息传递算法进行译码时整个系统的性能。通过将软输出的维特比(SOVA)算法用于CPQPSK信号的解调,为LDPC码提供了软信息,从而使总体性能有了很大提升。仿真结果表明,采用深空通信标准中推荐的LDPC码,整个级联系统在误比特率在10-6时的编码增益为6.958dB。