本文研究了通信系统中记忆非线性功率放大器的预失真线性化技术。采用神经网络和支持向量机对预失真器进行黑箱建模,实现对记忆非线性功率放大器的线性化。首先综述了现代通信的发展趋势,阐明以记忆非线性为特点的功率放大器线性化技术研究既是现实的需求,又符合现代通信发展的方向。针对Wiener型结构的记忆非线性功率放大器,提出了分离预失真方法,分别对放大器的动态模块和非线性模块求逆,然后构成Hammerstein预失真器,实现对放大器的线性化。该方法由于将复杂系统的辨识问题转化为简单系统的辨识问题,有利于提高算法的速度和精度。若充分利用已有的简单系统的高效辨识算法,还可进一步提高分离方法的性能。采用直接学习结构对神经网络进行训练,较之传统的非直接学习结构,该方法中用于训练的输入样本统计特性更接近实际应用的输入信号,因而训练得到的神经网络预失真器在推广能力上更有优势,仿真结果验证了这一点。首次将支持向量机用于对预失真器进行“黑箱”建模。分析了局部核函数、全局核函数和组合核函数的特点,仿真比较了选取不同核函数情况下,支持向量机预失真器的性能,结果显示兼具内插和外推能力的组合核函数更适用于对预失真器建模,同神经网络预失真器的仿真对比显示,支持向量机预失真器的性能更优。Keerthi的改进SMO回归算法的偏置是由上、下阈值取中得到,因此偏置的准确程度取决于优化结束后的上、下阈值是否满足优化条件。分析了上、下阈值可能不满足优化条件的原因,从回归问题的原问题出发,导出了求取偏置的优化问题,通过分析偏置的变化范围,证明了该优化问题为一个一维凸函数的优化问题,采用黄金分割算法来解该优化问题,使支持向量机预失真器的性能更优。针对回归问题,提出了SVM的管道压缩的模型,首先利用大ε不敏感函数下的回归函数来预测小ε不敏感函数下的支持向量,然后再采用同支持向量相对应的样本作为训练样本,使得问题的规模降低,达到提高支持向量机预失真器建模速度的目的。文章的最后,概括了我们对于记忆非线性功率放大器的预失真技术所做的工作,并展望了下一步的研究方向和重点。