随着无线通信系统宽带化需求的增加,多载波传输技术和多天线MIMO传输技术得到广泛研究和应用,以显著提供无线通信系统的传输速率、频谱效率、功率效率及传输的可靠性。迭代接收机是提高无线通信系统接收性能、逼近信道容量的有效方法,得到研究者们广泛的关注。本文研究宽带无线通信系统中的迭代接收技术。　　 首先,针对传统迭代检测译码接收机存在的复杂度高、时延大等问题,研究了迭代接收机的因子图分析及并发实现结构。以Turbo和LDPC编码MIMO-OFDM系统为例,通过接收机的因子图分析,给出了接收机各个软信息处理单元之间连接关系和软信息交换的基本原理,提出了因子图上新的软信息传递和交换方式,进而提出了双涡轮实现结构,并在复杂度和时延两个方面与传统串行结构进行了比较。在双涡轮实现结构中,检测器和译码器并发工作,且在检测器和译码器之间,以及译码器内部不同软信息处理单元之间均进行实时地软信息交换。通过计算机仿真,验证了所提出的双涡轮迭代接收实现结构低复杂度低处理延时的优点。　　 然后,研究了低复杂度软输入软输出检测理论方法,将待检测信号分成最大后验概率判决组和高斯干扰组,提出了典型软输入软输出检测器的统一模型,即线性预滤波后进行最大后验概率检测,推导了最优线性预滤波的充要条件,进而提出了低复杂度的基于匹配滤波的次优预滤波方法。将线性预滤波检测模型应用到MIMO多载波系统中,设计了低复杂度的频域检测器。将线性预滤波检测模型应用到MIMO单载波系统中,采用不同的准则处理时间域的干扰信号和空间域的干扰信号,提出了几种空时级联的时域检测方法,降低检测器的实现复杂度。此外,提出了软解调的查表实现方法,具有低实现复杂度及灵活实现不同调制方式解调的优点,并针对较为常用的格雷映射,提出了线性复杂度的软调制方式。通过计算机仿真,验证了所提低复杂度检测算法的有效性。　　 接着,研究了频域交织DFT扩展OFDM传输方法。从能量扩展变换的定义和基本原理,提出了频域交织DFT扩展OFDM发送方法,证明了频域交织DFT扩展OFDM发送端的预处理矩阵具有理想的时域扩展特性和频域扩展特性。针对该发送方法,提出了基于匹配滤波的硬判决迭代检测方法,并且通过性能分析说明了其在高信噪比下的性能能够逼近匹配滤波界,推导了适用于迭代检测译码接收机的软输入软输出最小均方误差(MMSE)检测,通过分析说明了在使用迭代接收机的情况下,所提出的频域交织DFT扩展OFDM传输方法能够获得比传统DFT扩展OFDM更好的差错性能。通过计算机仿真,验证了所提出传输方法的有效性。　　 最后,研究了CP-OQAM-OFDM系统及其在SC-FDMA系统中的应用。从传统的OQAM-OFDM系统出发,通过引入CP,提出了CP-OQAM-OFDM传输方法。在此基础上,推导了所提出CP-OQAM-OFDM传输方法在传统OFDM框架下的实现过程,并且推导了子带滤波器所需满足的精确恢复条件。将所提出CP-OQAM-OFDM传输方法应用于SC-FDMA系统中,设计了低发送信号包络波动的SC-FDMA发送方法,并且针对该发送方法,提出了适合迭代检测译码接收机的软输入软输出多用户联合广义线性MMSE检测,并且根据CP-OFDM-OFDM内在结构特点,推导了其低复杂度实现。通过计算机仿真,验证了所提出CP-OQAM-OFDM系统能够在基本不损失差错性能的条件下,大幅降低发送信号包络波动的的优点。