自适应信号处理技术一直是当今信息时代的研究热点,特别是自适应滤波技术在无线通信系统中有着广泛的应用,其应用方向包括空间滤波、多用户检测、MIMO接收、信道均衡等。自适应滤波的设计通常基于传统的维纳滤波,或者基于我们所熟知的最小均方误差准则(MMSE)。最小均方误差可以通过低复杂度的最小均方算法(LMS)来设计和实现,并满足现代高速通信系统的实时计算要求。但在实际的无线通信系统中,一般更关心的是误比特率(BER)性能,而不是均方误差的大小。因此,基于最小化误比特率准则的算法具有重要研究价值。论文以最小化误比特率准则为基础,研究了不同通信系统模型下的自适应更新算法。论文的研究主要针对多用户检测问题,所涉及的系统模型包括DS-CDMA系统、多用户大规模MIMO系统以及无线传感器网络。这三种系统模型分别在第三代(3G)移动通信系统和正在研发的第五代(5G)移动通信系统中都有重要的作用。此外,论文研究了联合功率分配自适应算法和联合降秩自适应算法,并在高阶调制方式下运用了广义高斯Kernel密度估计。论文的结构如下：首先,论文介绍了目前基于最小化误比特率准则算法的研究背景和研究现状。针对论文中涉及的四个研究关键点分别详细地介绍了最小化误比特率准则、梯度方法、降秩技术以及Kernel密度估计的原理。此外,论文介绍了在上述三个不同通信系统模型中基于最小化误比特率准则的研究背景和现状。其次,论文针对采用放大转发(AF)机制的DS-CDMA协作中继系统模型,提出了一种迭代式联合功率分配和干扰消除算法。该自适应更新算法基于最小化误比特率准则,具备低复杂度和低功率的特性。另外,论文在采用随机梯度方法的基础上,导出基于最小化误比特率(MBER)准则的代价函数,用于联合更新权值向量和功率分配向量。再次,论文针对采用AF机制含有多中继节点的两跳无线传感器网络模型,提出了基于最小化误符号率准则的两种联合干扰消除和功率分配算法。最小化误符号率准则是最小化误比特率准则的变种形式,从另一个角度来验证所提算法的可靠性。论文所提出的第一种算法基于最小化误符号率准则,采用随机梯度方法；论文所提出的第二种算法,同样基于最小化误符号率准则,但是采用共轭梯度方法。这两种算法都使中继节点服从特定功率限制条件,再进行联合更新功率分配向量和权值向量。在无线传感器网络模型的融合中心(Fusion Center),论文设计功率码本,使系统中的目的节点通过有限反馈信道将功率分配向量的量化信息传送给中继节点。此外,论文对所提算法进行了复杂度和收敛性分析。最后,论文针对多用户大规模MIMO系统模型,提出了基于最小化误比特率准则的四种新型联合降秩自适应算法。这些算法是采用广义高斯Kernel密度估计的联合迭代优化算法。相比于高斯Kernel密度估计,广义高斯Kernel密度估计可以更好地检测具有不同轻重程度的尾分布。论文计算了广义高斯Kernel密度估计的最优窗宽,验证了与高斯Kernel密度估计的相关性。论文所提出的优化技术联合调整了子空间投影矩阵的权重和降秩滤波器。论文根据随机梯度和共轭梯度将算法分为两大类,又根据调制方式BPSK和16-QAM再区分。论文在瑞利衰落信道的模拟仿真下对所提出的自适应降秩算法进行评估。仿真结果表明,论文所提出的自适应算法性能明显优于其他对比算法性能。