在卫星通信、太空探索和雷达探测等领域中,为了应对通信距离远、空间环境相对复杂等问题,天线需要足够高的增益和方向性。反射阵天线是一种新型的高增益天线,不仅能够实现特定的波束指向,而且结构简单,避免了复杂的馈电网络的设计,具有广阔的应用前景。与此同时,在未来无线通信系统中,如何最大化的利用有限的频谱资源成为需要解决的主要问题。轨道角动量(Orbital angular momentum,简称OAM)因其独特的模式正交性,可以在相同的频率条件下同时得到多个携带不同模式的OAM电磁波信号,受到国内外学者的广泛关注。在平面反射阵天线中可以通过控制反射平面上各个单元的尺寸或者将单元旋转不同角度,实现不同的相位分布设计,有效快捷的产生多种模态的OAM电磁波。本文重点围绕反射阵天线,研究了新型的反射阵天线和轨道角动量反射阵天线的设计方法,其主要研究工作总结如下:(1)研究了基于石墨烯的太赫兹反射阵天线。首先,根据石墨烯在高频小尺寸环境下比金属材料具有更好的性能和可靠性的特点,利用石墨烯代替金属材料,并结合旋转单元法,设计了一种基于石墨烯的太赫兹圆极化反射阵天线。其次,利用频率选择表面(frequency selective surface,简称FSS)的频率选择特性,采用FSS代替金属地板,利用石墨烯作为辐射贴片以降低高低频单元之间的耦合作用,设计了一种双频石墨烯圆极化反射阵天线。(2)研究了可重构反射阵天线。首先,根据石墨烯的表面电导率会随化学势变化的物理特性,采用石墨烯FSS代替金属地板,通过调节石墨烯的表面电导率,控制单元的反透射性能和相位变化,设计了一种反射/透射阵可重构天线。其次,同样采用FSS代替金属地板,并通过添加多个PIN二极管,控制二极管的通断状态,实现透射性能到反射性能的切换,设计了一种反射/透射动态可重构天线。(3)研究了轨道角动量天线。首先,结合轨道角动量天线和透射阵天线的设计方法,通过改变透射单元的尺寸控制透射相位,设计了一种可以产生多种轨道角动量模态的OAM透射阵天线。其次,结合轨道角动量和圆极化特性,通过优化单元参数扩展天线带宽,利用旋转单元法补偿所需相位,设计了一种产生OAM电磁波的宽带圆极化反射阵天线。最后,采用FSS代替金属地板,利用石墨烯作为辐射贴片,设计了双频石墨烯单元,通过调节石墨烯的表面电导率控制单元的反射性能和透射性能,使反射阵天线在两个频点下均可产生OAM电磁波。