随着信息社会的不断发展,移动设备的数据交换出现了爆炸式增长,这对移动通信的数据传输能力提出了很高的要求,第五代移动通信（5G）因此应运而生。同时,具有大量频谱资源的毫米波频段也受到了5G通信的青睐。作为无线通信发射和接收信号的装置,天线对整个通信系统的重要性不言而喻,其自身性能也影响通信系统的整体性能。为了满足5G毫米波通信对天线层的性能需求,本文主要从点对点通信、点对多点通信等两方面出发对适用于5G通信的毫米波天线关键技术进行了研究,还对5G毫米波通信容量及质量提升方面做了探索性研究。主要的研究内容如下:1.对于5G点对点通信场景中的宽带通信应用,提出了一种具有阻抗带宽增强的宽带毫米波平面喇叭天线。通过多层介质基板层叠的方式获得了平面喇叭的构造并利用分层介质技术极大地扩展了阻抗带宽,同时获得了稳定的辐射增益。进一步结合微带线耦合馈电方式实现了具有三角形晶格排布的阵列设计,获得了高增益和低副瓣电平等辐射特性。实验结果表明,该天线能够覆盖常见的5G毫米波频段,相对阻抗带宽大于58.5%（21.9 GHz至40 GHz以上）。2.对于5G点对点通信场景中的带内全双工应用,提出了一种具有高端口隔离度的高增益双线极化阵列天线。该天线基于漏波天线设计,通过提出的具有开放阻带抑制能力及适用于差分馈电的漏波天线单元构建了双极化天线阵列。为了实现高端口隔离及法向方向上的固定辐射波束,进一步设计了具有两路正交差分信号输出的馈电网络。最终该天线在法向方向上实现了固定波束辐射并实现了51 d B（27.5 GHz至29.5 GHz）以上的端口隔离度。3.对于5G点对点通信场景中的时分或频分双工应用,提出了一种具有低剖面高增益的双圆极化阵列天线。该天线同样基于漏波天线设计,并采用了上述漏波天线单元。为了实现固定波束,该天线采用基于中心激励的差分馈电方式。进一步通过提出的耦合器设计为其提供圆极化激励,并通过设计的双顺序旋转馈电网络实现了双圆极化辐射。该天线最终实现了27.2 d Bic的峰值增益且仅具有0.15λ0的剖面高度。4.对于5G点对多点通信场景（多用户通信）,提出了一种由平行板龙伯透镜和SIW开口波导馈电构成的多波束天线。其中透镜部分由多层宽度不一的环形介质构成,通过改变介质宽度实现等效折射率的改变从而完成龙伯透镜的设计。为了减小波束角度间隔,提出了一种SIW开口波导结构用于该透镜的馈电。最终该天线实现了11个独立波束,波束间隔仅为9°,能够覆盖-45°至+45°的角度空间。5.对于多用户通信场景,还提出了一种具有9个独立波束,波束间隔为15°,能够覆盖-60°至+60°角度空间的平行板龙伯透镜多波束天线。该天线仅由上下两层金属构件及单块圆形介质基板构成,通过改变平行板波导高度来改变空气和介质的体积比例以实现符合龙伯透镜设计的等效折射率变化。集成设计的WR-28标准矩形波导用作天线的馈电。测试结果表明该天线的端口隔离度均在18 d B以上。6.对于5G毫米波通信容量及质量提升方面,提出了一种具有轴比带宽增强的圆极化可重构天线作为解决方案。通过分析传统环形缝隙天线的工作机理,提出一种基于电阻加载的轴比带宽增强技术,能够提升大约30%的轴比带宽。进一步通过二极管开关实现了极化可切换功能,并在辐射层和馈电层分别提出改进措施以缓解二极管寄生效应造成的天线性能下降。最后在微波频段验证了提出的设计。