LDPC（低密度校验）码是一种接近Shannon容量限的信道编码，基于图模型的迭代译码具有线性的复杂度，是当今编码领域最受瞩目的研究热点之一。LDPC码如何和通信系统中的其他技术如数据同步和信道均衡等有效结合，实现无同步码或导频传输下的可靠译码，对于提高系统的频谱效率和信道容量有着重要的意义。本文在总结和借鉴前人研究成果基础上，重点探讨了LDPC码在帧同步和SC-FDE系统中的应用，在以下几个方面进行了深入研究：首先对基于硬判决校验约束的LDPC码盲帧同步方案的性能进行了详细分析，已有的研究对FSER（帧同步错误率）的估计依赖于数值仿真或采用粗糙的离散概率密度近似计算，在码字的列重较大时FSER理论值和实际仿真结果有较大偏差，文中提出利用连续概率密度的高斯近似思想，从理论上推导出了FSER的计算公式，其仅依赖于码校验矩阵的行重和列重分布，仿真结果和理论值几乎完全重合。从理论上第一次证明了：在码率、码长和校验矩阵的行重相同时，列重不等的不规则LDPC码帧同步性能优于规则LDPC码；在总长度相等的情形下，多帧短码的帧同步性能要优于单帧长码；盲帧同步的错误平层仅依赖于码的校验矩阵的维数（行数和列数），随着码长增加而几乎不存在错误平层。现有的帧同步算法没有充分利用QC-LDPC码的准循环特点，文中提出一种利用码结构的快速算法，显著降低运算的复杂度，可同时适用于基于硬判决和软判决校验约束的帧同步。其次研究了基于软判决校验约束的LDPC码帧同步方案，利用联合概率密度函数最大化改进了Sun算法，并指出其等价于Imad提出的简化MAP（最大后验概率）算法，针对Imad简化算法，提出了利用加权校正在几乎不增加复杂度的情形下，可以在高SNR时改善帧同步效果。Imad给出的同步性能估计依赖于数值仿真和校验子近似独立的假设，且在码字的列重较大时估计值和实际仿真结果有较大偏差，文中提出利用高斯近似思想，从理论上推导出了最小和译码时基于校验约束的FSER计算公式，理论值和仿真值在低SNR下十分接近，而在高SNR下理论值成为一个较紧的仿真值的估计上界，并把估计推广到一般的卷积码和任意衰落信道。利用FSER估计的理论值，推导出了基于门限的帧同步算法的合适门限值和混合帧同步算法的性能估计，可以进一步降低帧同步算法在实用中的复杂度。针对基于译码的帧同步算法，提出把译码和互相关运算结合，在一次迭代时可以显著改善帧同步性能。针对相位偏转下的帧同步，提出了一种基于距离平方和最小的相位检测方案，并可以和基于二阶统计信息的相位检测器结合排除不正确的相位模糊度，指出利用编码帧同步方案可以同时消除BPSK传输中存在的π相位模糊和实现盲帧同步。最后研究了LDPC码在SC-FDE系统中的应用，指出在传统的解决方案中采用丢弃CP（循环前缀）的频域处理没有充分利用CP在时域上的重复特点，针对无ISI（码间干扰）传输的系统，提出利用CP实现部分信号分集接收，既可以增加系统容量，又可以降低误码率，并且补偿了由于插入CP引起的SNR损失，仿真表明在衰落信道下分集接收的译码获得的增益比AWGN信道更为显著。针对ISI传输的系统，提出把CP作为扩展的校验矩阵的一部分参与译码，经过适当变换的扩展校验矩阵可以优化变量节点的度分布和改善Tanner图上短圈的分布以利于译码，仿真表明在频率选择性信道下采用BCJR的TDE迭代均衡比线性FDE均衡的性能要好，插入CP引起的SNR损失也得到补偿。针对脉冲噪声下的编码SC-FDE系统，给出了采用EGC（等增益合并）的分集接收和LLR（对数似然比）直接相加的接收方案，仿真表明前者无法改善脉冲噪声引起的性能恶化，而后者可以取得和无CP系统一样的性能。