多天线系统中，波束成形技术可以有效抑制多址干扰，是下一代宽带无线MIMO通信系统物理层关键技术之一，也是当前无线通信领域的研究热点。本文以无线MIMO系统中的波束成形技术作为主要研究点，在分析MIMO系统架构、信道环境特点和实际应用场景基础上，重点针对多用户MIMO下行链路系统、蜂窝网络MIMO下行链路系统和中继网络系统的波束成形技术开展了深入的研究。在这些系统环境下，论文系统研究和推导了波束成形设计问题的上下行链路对偶性，为MIMO系统中无线链路传输波束成形技术提供理论支持和解决方案。主要工作可概括为以下四个方面：（1）针对多用户MIMO系统下行链路收发波束成形和功率分配联合设计问题，本文在发射功率最小化和SINR平衡两种准则下，提出一种基于固定点迭代的交互迭代策略。该策略将上下行链路对偶性和凸优化方法有机结合，通过固定点迭代方式，回避了复杂的特征向量求解，从而极大的降低了算法复杂度，且随着多用户MIMO系统的规模扩大，其计算量优势愈加明显。数值仿真结果表明，所提策略具有更好的收敛性，在相同计算精度下，所提算法能获得更优性能。（2）针对非理想CSI情况下的多用户MIMO下行链路鲁棒波束成形设计问题，基于NBE信道模型，本文在功率最小化和SINR平衡两种准则下，建立并证明了Worst-Case SINR上下行链路对偶性，分别提出基于特征矢量和线性方程组求解的迭代策略。这两种策略利用Worst-Case SINR对偶性，将复杂的发射波束成形问题转化为接收波束成形；通过特征矢量和线性方程组求解，回避了凸优化算法中的内点迭代，显著降低了算法复杂度。数值仿真结果验证了上述算法在非理想CSI下的鲁棒性。（3）针对蜂窝网下行链路波束成形问题，本文首先将多用户MIMO系统中的上下行对偶性推广到蜂窝网MIMO系统中，提出了一种基于上下行对偶性的交互迭代策略。其次，针对蜂窝网移动系统中小尺度衰落的影响和单个基站功率约束的情况，利用CSI二阶统计量，建立并证明了单个基站功率约束情况下的上下行链路对偶性，提出一种内外迭代算法，有效实现了单基站功率约束下总发送功率最小化设计。仿真结果表明，没有基站功率约束的波束成形设计可能超过基站最大发射功率，从而缺乏实用意义。（4）面向中继网络单向通信和双向通信系统，针对单向中继系统SNR最大化波束成形设计，本文推导了SNR最大化问题与功率最小化问题互为反问题的结论，提出一种基于对切搜索的求解算法；针对双向中继系统SNR平衡波束成形设计，推导了SNR平衡问题与单向中继SNR最大化问题的等效性，提出一种基于构建虚拟单向中继的求解策略。数值仿真结果验证了理论推导的相关结论。