60GHz毫米波通信系统以其丰富的免授权频谱资源、良好的国际通用性、高速率、宽带宽等优势,在超高速、无线短距离通信研究领域中受到广泛关注与应用。另外,60GHz毫米波系统易于集成的特点使得波束成形技术广泛应用,以改善传输质量并提升系统容量。本论文的研究点来源于国家自然科学基金(No.6127118)。本文在对60GHz毫米波通信原理与国际相关标准进行深入分析的基础上,将研究重点确定为60GHz通信系统上行链路中混合波束成形技术。智能天线波束成形分为固定码本波束切换与自适应波束切换两类,考虑到算法的复杂度因素,60GHz毫米波通信系统采用固定码本波束切换。但是,由于固定码本波束切换精度受限,且具有较大的旁瓣增益,因此,本文针对60GHz通信系统上行链路提出混合波束成形技术,在发送端采用固定码本波束切换,在接收端采用自适应波束成形,实现了复杂度与接收性能之间的平衡。论文中提出了适用于不同场景的两种混合波束成形算法：基于波达角估计的混合波束成形算法与基于逐步细化波束搜索的快速混合波束成形算法；搭建Matlab仿真系统平台对所提方案进行性能仿真,验证了混合波束成形算法对提升传输性能的有效性。论文的创新研究工作如下：(1)基于波达角估计的混合波束成形算法：接收端首先利用二级波束训练机制搜索得到最优波束,从而估计期望信号与干扰信号的波达角,然后采用零陷波束成形算法获得权值矢量的初值,进一步引入改进型最小均方算法(LMS)算法,通过自适应迭代获得最优波束。(2)基于逐步细化波束搜索的快速混合波束成形算法：接收端首先利用逐步细化波束搜索(SWR)算法,高效搜索得到最优波束,从而获得权值矢量初值,进一步引入改进型递归最小二乘(RLS)算法,快速迭代自适应获得最优波束。