近年来，无线传感器网络受到了广泛的关注。传感器节点通过无线通信传输和交换数据，但是传感器节点有限的处理能力限制了无线传感器网络的应用，需要通过中继节点相互协作和分布式信息处理技术来实现远距离通信。由于大多数中继一般采用半双工模式，因此双向中继协议能够在两个时隙内完成信息的交换，克服了单向中继协议造成的频谱效率损失；并且双向中继与传统的多输入多输出（MIMO）即多天线技术相结合，将获得更好的链路性能。因此，可以在无线传感器网络中应用双向中继协作提高系统的传输性能。本文主要研究双向多天线多中继系统采用放大转发协议（Amplify-and-Forward, AF）时的优化问题。首先简单介绍了无线传感器网络、MIMO技术以及协作中继技术，包括无线传感器网络的特点与应用，MIMO的系统模型与系统容量，中继技术的协作方式、转发方式与双向中继的引入，以及优化理论的一些基本知识和几种本文所采用的常见算法。接着针对双向多天线多中继系统的优化算法进行了深入研究，以系统总均方误差最小化为目标，在发射功率约束条件下推导出三种优化算法；通过计算目标函数关于中继预编码矩阵和信源预编码矩阵的梯度，应用已有的沿梯度下降的迭代算法得到了优化问题的局部最优解；然后考虑优化问题关于块对角中继预编码矩阵的优化变量结构，采用对角化优化处理，将此矩阵形式的优化问题转化为标量形式，根据优化理论严格证明了对角化之后的优化问题是一个凸优化问题；在此基础上提出了两种优化算法，一种是基于几何代数平均不等式的低复杂度次优算法，得到了优化问题的次优解，另一种根据优化理论中具有全局收敛性的内罚函数法提出了最优算法，得到了优化问题的全局最优解，并且对这两种优化算法和梯度下降迭代算法进行了仿真比较，证明了其性能优越性。研究表明，通过仔细设计无线传感器网络中节点协作通信的优化处理，能显著提高系统性能。