比特交织编码调制(Bit-Interleaved Coded-Modulation,BICM)作为一种能够实现高频谱利用率与高可靠传输性的技术,受到了广泛的关注。在过去的20年间,BICM技术的研究主要集中在信道编码,比特交织以及调制三大方面。其中,低密度奇偶校验(Low Density Parity-Check,LDPC)码作为应用最广泛的信道编码方案常被BICM系统所采用。然而,LDPC码存在着码率不可扩,编译码较复杂与错误地板等问题。作为LDPC码的子类,原模图LDPC(Protograph LDPC,PLDPC)码不仅克服了传统LDPC码所存在的缺点,且易于设计与应用。另外,通过PLDPC码衍生出来的空间耦合原模图LDPC(Spatially Coupled Protograph LDPC,SC-PLDPC)码同时具备了分组码和卷积码的特点,能够获得更优的迭代译码性能。除了信道编码方案以外,比特交织器与调制器的设计可进一步地优化BICM系统的性能。因此,本文基于PLDPC码编码的BICM系统,对比特交织方案与星座图设计展开了研究,并利用外部信息转移(Extrinsic Information Transfer,EXIT)算法对系统性能进行分析。本文的主要研究内容如下:(1)研究了LDPC码的基本原理与编译码算法,对PLDPC码与SC-PLDPC码的构造方法进行了归纳。分析了BICM系统在有无迭代反馈条件下的结构,并完成PLDPC码编码的BICM系统的模型搭建。此外,通过基于原模图的外部信息转移(Protograph EXIT,PEXIT)算法对系统性能进行了分析。(2)详细分析了现有的基于PLDPC-BICM系统的比特交织器设计。通过将BICM系统的不平等保护(Unequal Error Protection,UEP)机制与SC-PLDPC码的收敛特性相关联,提出了一种基于互信息分析的交织器设计方案,即空间位置匹配映射(Spatial Position Match Mapping,SPMM)方案。利用基于BICM系统的PEXIT算法对译码门限值进行了分析,并对系统的误码性能进行了仿真。理论分析与仿真结果表明,经过SPMM交织后的SC-PLDPC码的收敛性能得到了显著地改善。(3)基于PLDPC码编码的BICM系统,提出了一种自适应非规则星座映射设计(Protograph-based Adaptive Irregular Mapping Scheme,PAIM)方案。根据无反馈与理想反馈状态下的最小平方欧式距离调和均值,设计了与Gray映射进行混合的自适应星座映射。通过理论分析与误码率(Bit Error Rate,BER)仿真实验表明,该非规则映射方案有效地提高了PLDPC编码的BICM系统纠错性能。