为应对人们对无线通信爆炸式的增长,多输入多输出技术(MIMO)通过在源节点和目的节点安置多天线进而实现收发端之间的分集和复用增益,有效地提高频谱利用率。但是受移动设备体积、成本和电池寿命的限制,在收发端安置多天线是不可行的,在这样的背景下协作通信产生并得到长足发展。在协作通信中,用户可以作为分布式的中继节点形成从源节点到目的节点的多重路径,这些分布式节点实际上便形成了一个虚拟的MIMO系统。协作通信同样可以实现分集和复用增益,并且克服了传统MIMO的弊端。然而协作通信中各节点加权向量的赋值是一个至关重要的问题,在实际应用中需要我们尽量在提高系统性能的同时降低计算复杂度,以满足通信实时性的需求。协作通信发展到今天已有多种实现策略,包括放大转发、解码转发、压缩转发等,其中放大转发由于仅需要放大中继所接收的噪声信号并且向目的节点转发,而不用对信号本身进行预测,故其与其他策略相比实现简单、性能较优。放大转发方式备受研究者关注,在多种不同的信道状态信息情况下被研究,同样它也是本文研究将采用的协作策略。已有的中继协作通信网络模型中,比如多源多中继协作网络、多跳多中继协作网络等,包含不止一个波束成形加权向量,其波束成形优化问题属于多变量优化问题,直接解决较为困难。已有的波束成形设计方法或者计算复杂度过高,或者性能不够优越。本文以中继协作网络波束成形为主线,重点研究了两类网络模型,提出了多种性能更为出色的波束成形设计方法,实现了多变量问题的联合优化。论文的主要研究内容及贡献点如下：我们研究了三跳中继协作通信模型,由于信道衰落的影响,源节点与目的节点之间只能依次通过两个中继节点簇通信而不存在其他通信链路。两个中继节点簇在放大转发策略下其实形成了虚拟的MIMO系统。本文将研究两种不同的分布式波束成形方法。该设计方法都是多变量非凸的优化问题,我们将通过联合运用迭代法和凸优化确定最佳的中继节点波束成形权值向量。仿真结果表明,我们的波束成形方法与现有方法相比可以提高能量效率并且获得更高的SNR。考虑多源多中继协作通信网络模型,该模型的波束成形优化问题包含中继加权向量和基站端最优化均衡向量两个优化变量。与已有的方法不同,我们通过运用遗传算法,将多变量问题转化成单一变量的优化问题,进而可以容易的解决。该方法在概率上可以实现全局最优,性能得到提升但计算复杂度有所增加。同样对于上述多源多中继协作通信网络模型,通过发掘了两个优化向量之间的数学关系,将其中均衡向量表示成中继加权向量的闭式解形式,通过schur补等数学转换将原多变量的联合优化问题转化为单一变量的半正定规划问题,进而用内点法有效解决。该方法可以实现全局最优,并且计算复杂度与之前的方法相比大为降低。此外,本文又尝试提出了改进的波束成形设计方法,在计算复杂度上又有所改善。