多输入多输出（MIMO）技术可以成倍地提升通信系统的频谱利用率,在应对现今社会呈指数式增长的无线接入需求上发挥着重要作用。自MIMO技术问世以来,低复杂度高性能的信号检测算法一直是科研工作者和工程师们的研究热点。期望传播（EP）是一种专门解决后验概率估计的算法,在解决通信系统信号检测上有广泛的应用。本文的研究重点为基于期望传播的MIMO信号检测算法。期望传播算法是一种迭代更新的确定性概率近似算法,首先选取可因子化的近似分布,通过并行更新各因子项,在迭代过程中逐步收敛到最佳近似。将期望传播应用到MIMO检测中时,一种情况下可以使用贝叶斯公式直接计算发送符号的联合近似后验分布,而另一种情况下只需要计算符号分量的边缘近似后验分布,因此本文重新推导了两种基于期望传播的MIMO信号检测算法。为方便区分,将上述两种算法分别记为联合后验期望传播算法（Joint posterior probability Expectation Propagation,JEP）和边缘后验期望传播算法（Marginal posterior probability Expectation Propagation,MEP）。JEP算法在大系统条件下被证明是贝叶斯最优的,但是在实际应用中存在最优性无法取得从而限制性能的问题;另外MEP算法的迭代过程中存在大量除法运算是限制其实际应用的主要障碍。鉴于JEP和MEP算法存在的缺陷和问题,本文提出了如下三方面的创新:1.针对JEP算法收敛错误率高和实际MIMO系统下算法最优性无法取得的问题,改进的矩匹配方案充分利用了EP算法的自纠错能力,有效降低了算法的错误收敛率;另外,通过分析两项关键参数（初始方差和震荡因子）对JEP算法收敛速度和检测性能的影响,借助机器学习方法选择每次迭代的最佳参数。最后,仿真结果表明本文方法取得了更优异的检测性能和稳定性。2.为了消除矩阵逆运算带来的高计算复杂度,本文重新推导了近似联合后验概率期望传播算法（Approximated JEP,AJEP）。AJEP算法消除了迭代过程中的矩阵求逆,但是零值初始化时存在收敛速度慢甚至不收敛的问题。为了充分利用零值初始化方案的超低计算复杂度,采用基于机器学习的参数选择方案。仿真结果表明上述关键参数优化有效解决了AJEP算法的收敛问题,并且以更低的计算复杂度取得了超越MMSE检测器的误符号率性能。3.为了消除MEP算法中大量的除法运算,本文提出了一种基于数值近似的低复杂度边缘后验期望传播算法（Approximated MEP,AMEP）。AMEP使用被除数移位相加的近似除法方案和一种忽略极小值的先验信息近似更新方案。得益于EP算法的近似特性,采用上述两种近似计算方案的AMEP算法在MIMO系统收发比值较大的时候相比于MEP算法最大性能损失不到1dB,但是总体计算复杂度不到MEP算法的20%。