CDMA码分多址技术以其良好的性能在3G移动通信的三种标准中都得到应用。CDMA技术通过扩频码使众多用户在同一信道同时传输。CDMA系统的最大缺点是会产生多址干扰以及远近效应。针对这些缺点的众多信号处理技术得到广泛的研究。其中应用最广泛的两大类是：多用户检测技术和MIMO空时处理技术。多用户检测技术可以从众多的用户信号中检测判决出每个用户的有用信息，有效的抑制了多址干扰，提升了CDMA系统的性能。MIMO空时处理技术主要是利用多输入多输出即用多根接收和发射天线通过分集技术提高系统性能。空时编码技术也可以提高系统的性能，这些技术大大提高了CDMA系统的频谱利用率和系统的容量，但却不用增加系统的带宽以及发射功率。那么将多用户检测技术和MIMO空时处理技术运用于CDMA系统中，是否可以进一步提升系统的性能，使信号能够更加快速和可靠地传输。基于上述构想和目的，本论文展开了各项研究工作。论文在分析几种经典多用户检测算法优缺点的基础上，重点研究了具有良好性能的恒模算法。首先研究恒模算法的数学模型和基本原理，分析各种恒模算法。研究发现线性约束条件可以降低初始值的影响。在此基础上，再将拟牛顿算法(BFGS)应用于恒模算法，提出了一种BFGS线性约束恒模算法(BFGS-LCCMA)。此外，再将子空间方法应用于线性约束最小二乘恒模算法，提出一种基于子空间的线性约束恒模算法(SUB-LC-LSCMA)。最后将BFGS-LCCMA算法以及SUB-LC-LSCMA算法应用于MIMO-MC-CDMA下行系统中，比较几种恒模算法在MIMO-MC-CDMA系统中的性能。仿真结果表明，新提出的算法的收敛性能、跟踪性能和误码性能比传统的算法要好，有一定的应用价值。