随着通信技术产业的迅猛发展,人们对超高速无线多媒体应用的需求日益强烈。现有工作在10GHz以下微波频段,仅能支持兆比特每秒级信息传输速率的无线通信技术已难以满足人们对无线多媒体业务服务质量的要求。此外,微波频段带宽已被现存大量通信业务消耗殆尽,频谱资源异常匮乏,同频干扰问题严重。目前尚未得到充分开发和利用的30-300GHz毫米波频段的频谱资源相当充裕,该波段势必成为下一代超高速无线空中接口的理想载波频段。特别地,具有多达5-7 GHz连续免许可带宽的60GHz频段以其得天独厚的带宽优势得到了学术界和工业界的广泛关注。然而,60GHz无线电波处于大气吸收“窗口”之一且穿透固态物体的能力差。在通信质量保持不变的情况下,会严重限制系统的传输距离；在传输距离保持不变的情况下,易造成通信质量恶化,甚至信息传输中断。然而,基于多跳传输方式的协作中继技术被公认为是一种能够有效补偿无线电波传输损耗的先进技术。因此,只有融合协作中继技术,60GHz毫米波无线通信系统才能充分发挥带宽优势,实现超高速传输。值得注意的是,60GHz毫米波无线通信系统面向的新应用场景以及对设备硬件成本代价提出的新挑战,造成现有微波通信系统协作中继技术不再适用。因此,作为协作中继系统核心的中继站点选择、中继功率分配以及中继波束赋形技术成为亟待解决的重要难题。因此,本论文在充分调研60GHz毫米波无线通信系统新特性的基础上,围绕采用放大转发和解码转发方式、站点配置单天线和多天线阵列的协作中继系统,研究了中继站点选择、中继功率分配和中继波束赋形矢量设计等问题。本文的主要研究工作及创新性成果如下：(1)为增强60GHz毫米波无线局域网/无线个域网(Wireless Local Area Networks/Wireless Personal Area Networks, WLANs/WPANs)中直接传输和协作中继传输并存应用场景的通信质量,提出一种单中继站点选择算法。该算法通过设计的波束训练信息上报机制判定并区分直接传输和协作中继传输,采用Kuhn-Munkres算法为非视线(Non-Line-of-Sight, NLoS)源站点-目的站点链路从处于视线(Line-of-Sight, LoS)路径上的候选中继中选出系统信道容量最大化的最优中继站点并进行数据放大转发。针对不同遮挡概率和目标数据速率门限,通过理论推导和仿真试验两种方式评价该算法信道容量和中断概率性能。仿真结果表明,该算法能够有效排除NLoS路径上的候选中继站点,降低系统中断概率,扩大全网信道容量。(2)为满足60GHz毫米波WLANs/WPANs组播业务用户体验指标,提出最小化组播组中最大源站点-中继站点功耗之和的方案,并为该方案实现中继选择和功率分配的联合优化设计。该算法通过设计的组播波束训练协议反馈的信道特征等传输参数区分并判定LoS和NLoS路径,以组播组中最大源站点-中继站点功耗之和最小化为目标函数,在组播组中所有通信链路中断概率以及所有源站点-中继站点链路发射功率之和满足限制条件的前提下,建立联合中继选择和功率分配问题的数学模型,采用松弛技术、库恩-塔克条件以及拉格朗日乘子法,为NLoS链路实现最优中继站点选择的同时最小化源站点-中继站点发射功率之和,并给出最优解的封闭表达式。通过仿真试验对不同参数配置下的网络性能进行了对比分析,研究信噪比门限变化对网络功耗和中断概率的影响。仿真结果表明,提出算法能够有效保障组播组中用户服务的公平性,并大大改善系统能耗和中断概率表现。(3)为克服IEEE 802.11ad (Had)和IEEE 802.15.3c (15.3c)标准中波束训练过程时延大的缺点,提出一种基于随机逼近优化算法的联合收发波束切换方法。该方法基于两阶段搜索模式,由最优扇区索引迭代搜索最优精细波束索引,在既定码本范围内寻找全局最优解。根据既定波束码本与信号到达方向之间存在的一一对应关系,通过设置有效初值的方式提升迭代性能；采用直接最优波束搜索的方式减少搜索次数,改善搜索效率。仿真结果表明,该算法较11ad和15.3c标准中的波束训练协议能有效减小波束搜索时延,降低算法复杂度,减少系统功耗,提升波束训练精度的自适应性和系统的稳健性。(4)为实现60GHz毫米波WLANs/WPANs多用户通信系统天线阵列增益和硬件成本之间的折中,提出一种适用于协作中继系统、低功耗、低硬件成本代价的联合收发模拟数字混合波束赋形协议。该协议基于小型移动用户站点和大型固定中继站点之间非对称的收发机结构,采用迭代方式进行波束训练。在获得用户站点波束旋转矢量以及中继站点混合波束赋形矢量中模拟分量之后,中继站点通过数字基带接收权重矢量加权得到模拟数字混合波束赋形矢量。该协议通过在线决策的方式增强算法的自适应性。仿真结果表明,该算法收敛速度快,收发波束能够实现全网覆盖,并能有效改善系统频谱效率。