随着宽带移动通信的迅猛发展，通信系统所需要解决的问题也变得越来越多，其中干扰问题是其中最重要的问题之一。宽带无线通信系统的干扰信号主要来源于两个方面:一是由于同频组网而引起的小区间干扰;二是由小区内的多用户空分复用所引起的的小区内用户间干扰。为了解决以上问题，引入了协同MIMO(MultipleInput Multiple Output)传输技术。基站之间协同发送和接收数据可以显著提高系统性能，尤其对小区边缘用户性能提升更为明显。因此协同MIMO技术已经被第四代蜂窝移动通信系统广泛采用。在实际系统中存在诸多的非理想因素，比如:信道误差、收发机损伤等，而在传统的协同MIMO中并没有考虑充分这些因素。　　本文主要以无线通信系统的协同MIMO技术中协同波束成形技术为研究对象，针对实际系统中的非理想因素，提出了几种优化算法;主要工作如下:　　1、针对三种常见的非理想因素及建模方法:收发机损伤、基于球形约束信道误差和基于概率约束的信道误差，分别研究了三种鲁棒性协同波束成形算法，并将他们的性能与不考虑各自非理想因素的算法进行了对比分析，仿真结果表明:在多小区多用户协同MIMO波束设计中，考虑收发机损伤或者考虑信道误差，将显著提高系统性能。　　2、针对同时考虑收发机损伤和基于球形约束的信道误差两个有鲁棒性约束的协同MIMO优化问题，提出了求解算法。由于该问题是非凸的非确定性多项式(NP，Non-deterministic Polynomial)问题且两个优化问题同时考虑了两种非理想因素，这两个非理想因素的相互“耦合”，增加了求解的难度。针对以上难点，本文利用拉格朗日对偶法和矩阵理论中的两个定理以及引入“过渡变量”的方法提出了优化算法，将这两个问题转换为可以高效求解的凸优化问题，最后将所提算法同已有的算法进行了充分的对比。仿真结果表明:同时考虑收发机损伤和基于球形约束的信道误差可以显著提高系统鲁棒性。　　3、针对同时考虑收发机损伤和基于概率约束的信道误差的协同MIMO优化问题，进一步提出了鲁棒性算法。本文利用随机过程理论中的一个基本定理提出了相应的算法，逐步释放该优化问题中的非凸约束，并通过引入“过渡变量”的方法消除耦合项的影响，最终将问题转换为凸优化问题，并利用凸优化工具包高效的求得最优解。最后的数值还将他与已有的算法进行了性能对比，仿真结果表明:同时考虑收发机损伤和基于概率约束的信道误差比单独考虑这两个因素或者不考虑这些因素有更多的性能增益。