多输入多输出（MIMO）技术由于高频谱效率和传输容量的优势,在宽带无线通信中取得了广泛关注。然而,怎样设计低算法复杂度的信号处理技术,使得MIMO系统的实际传输速率接近其信道容量,还是一个需要深入研究的问题。本文中我们的工作是针对MIMO检测算法和收发机设计。主要内容如下:·通过研究排序的干扰抵消算法每一步的判决信噪比,针对准正交空时码结构提出了一种排序的组干扰抵消算法;对于使用高阶QAM调制的MIMO系统,提出了一种基于高斯近似的多级映射高斯近似算法,通过两比特两比特计算序列权重的方法,相比于传统的高斯近似算法,将复杂度从与调制阶数成指数关系下降到线性关系;提出了一种新的双向自适应高斯近似算法,通过从正向和反向并行的进行检测,判断误差传播是否产生,从而自适应的调整搜索径数,在抑制误差传播的同时,降低了算法复杂度。双向自适应检测算法能并行计算,运算时延低,且能在低算法复杂度情况下有效地抑制误差传播,取得很好的检测性能;提出了一种对于MIMO-OFDM系统的Turbo收发机技术,可以很好的抑制天线间干扰。通过使用预先指定的映射方式,迭代过程可以取得传输数据率、发射分集和系统性能间很好的折衷。在发送端,对于每一个发送天线使用预先指定的符号映射方式,在接收端,使用二阶检测技术,其中MMSE检测作为阶段一,而MAP检测作为阶段二,通过使用检测模块和软入软出（Soft-In-Soft-Out:SISO）信道译码模块形成迭代过程。对于每次迭代,检测模块和信道译码模块交换外信息。·对于MIMO系统检测,提出了一种可靠度评估准则,可以评估MIMO检测的输出可靠与否。首先,得到了可靠度评估的公式,然后提出了一种简化的可靠度评估准则,进而通过调整可靠度评估准则的门限得到了一种简化的可靠度评估准则,这种方案相比于可靠度判决准则会存在一些性能损失。接下来我们设计了一种由简单接收机、可靠度评估模块、复杂接收机组成的混合接收机,操作流程如下:1)简单接收机得到发送信号的初始估计,并由可靠度评估模块评估;2)如果初始估计被评定为可靠,则输出作为最终估计,否则再由复杂接收机得到最终估计。·对于Turbo码信息比特的对数软输出,提出了一种更为精确的近似,通过使用高斯混合分布（GMD）代替高斯分布,从而可以得到更为精确的基于外信息转移（EXIT）图的Turbo码BER估计。GMD的模型参数通过期望最大（EM）算法得到。仿真结果表明新的算法可以得到可靠的BER估计直至10^-5。·提出了一种基于统一置信传播（BP）检测的自适应MIMO系统。首先描述了由一系列分量检测器组成的BP检测器。基于BP检测器的统一结构,接着提出了一种依据信道情况自适应的多速率MIMO系统,可以取得最大系统吞吐量。使用统一的BP检测器,可以消除传统多模自适应MIMO系统接收端的多种接收机模块配置的复杂性。进一步的,BP检测器由于算法复杂度与空时编码块长度成线性关系,且能并行运算,具有低算法复杂度、低运算时延和不同数据率之间平滑切换的优势。通过使用平均检测后信噪比切换机制,所述MIMO系统能在空间相关信道下选取合适的传输模式。