多输入多输出(Multi-Input Multi-Output:MIMO)技术是未来无线通信系统的主导技术之一,并已经应用于新一代无线通信系统的标准。MIMO系统的接收机需要在一个高维信号空间上完成空时结合的信号处理技术,其设计变得更加复杂。序贯蒙特卡罗(Sequential Monte Cairo:SMC)方法是一类在贝叶斯定理的框架下获取统计问题结论的数学方法,已经广泛应用于统计信号处理领域。尤其是高维空间上的复杂计算可以通过SMC方法得到简化。因此,重点研究了SMC方法在MIMO通信系统接收机设计中的应用。　　 首先分析了经典SMC抽样方法的缺点,在其基础上针对通信系统模型的特点提出了两种改进方案:扩展抽样集合方案和确定性抽样方案。并以两种方案为基础,提出了LCMC(LOW Complexity MC)抽样和RSMC(Revised SMC)抽样,两种新的抽样方法。通过分析表明,改进的抽样方法和经典方法相比具有更高的样本效率。在平坦衰落信道条件下,将改进的抽样方法应用于多天线检测;并在信道条件精确已知的假设前提下研究新的检测算法的性能。仿真结果表明,新的检测算法不仅能够获取接近最优的误码率性能,而且具有更高的样本效率和更低的计算复杂度,因此更加适用于MIMO检测算法的序贯实现。　　 而在信道未知条件下,接收机需要获取多天线传输信道的实时信息。因此,进一步研究提出,通过迭代估计方法可以利用信号样本对信道初始估计值进行修正。从而,提出了一种新的基于样本的联合检测估计算法。联合算法采用分段处理的框架,将每个数据帧分成若干个时间间隙进行接收处理。在间隙内完成信道迭代修正,而初始值通过前一间隙的信号检测结果进行估计。同时,在每个间隙中,利用空时双重迭代抽样方法获取信号样本,并在间隙的末尾对间隙内的信号序列进行最优判决。在样本序贯抽取的过程中,可以采用两种方案利用信道的估计结果。仿真结果表明,新的联合算法能够逼近信道已知条件下的性能下限,同时每个样本序列独自使用信道估计结果的方案可以获得更优的系统性能。　　 将SMC方法应用于Turbo接收机的设计,提出了一种新的估计软信息的方法。通过研究发送比特概率的计算发现,这是一个在比特序列取值空间上对联合概率进行边缘化计算的过程。研究表明,选取一个替代集合,并在替代集合的基础上可以完成比特概率的近似计算。从而,Turbo接收机中软信息的估计可以归结为选取替代集合的过程。以此为基础,SMC检测和球形译码检测可以被归结为一类算法。同时,研究也提出,可以通过RSMC抽样获取比特样本集合作为替代集合。在平坦衰落信道条件下的仿真结果表明,基于RSMC样本集合计算得到的软信息,其估计精度高于SMC检测和球形译码检测。从而,一种新的基于RSMC方法的Turbo接收机被提出,其在较低复杂度下获取了逼近最优的误码率性能。　　 最后,提出一类联合接收机的实现方案。联合接收机的目标是直接求取信息比特的后验概率,其精确计算需要遍历信息序列的取值集合。而提出的一类近似实现方案,则是利用蒙特卡罗样本获取一个缩小的目标集合,并在最后提出了基于RSMC抽样的实现方法。其中,在频率选择性MIMO信道条件下,利用传输信号的空间和时间相关性,能够通过RSMC双层迭代抽样过程获取发送信号的样本。并通过发送端处理的逆映射,将信号样本转换为信息比特样本,组成缩小的目标集合。仿真结果表明,基于RSMC样本实现的联合接收机性能优于传统的分离式方案,并能接近最优性能。其计算复杂度和选取的样本数量呈线性比例。而且,联合接收机的实现方法适用于不同发送方案下的传输系统,具有一定的通用性。