近年来,随着移动通信用户数量的急剧增长,频率资源日益紧张,现代无线通信系统迫切需要低成本、高增益、同时具有自动波束跟踪能力的新型天线。方向回溯天线基于相位共轭技术实现自动波束跟踪,且不需预先知道来波方向,也不需要复杂的数字信号处理,具有快速跟踪和高性价比的特点,在通信和雷达领域具有广泛的应用前景。本论文系统总结了国内外方向回溯天线阵及其系统的研究现状和方法,详细分析和讨论了各种不同实现方式的优缺点,从理论上系统的对方向回溯天线及其系统的相关问题分别进行了研究和阐述。方向回溯天线阵在大多数文献中仅仅是一般定性的概念描述,因此文章首先从一般天线阵模型出发,严格的推导了实现方向回溯功能的实现条件——相位共轭条件,并首次提出了广义相位共轭条件和广义相位共轭波；理论上证明了相位共轭波的可存在性和方向回溯天线阵所具有的独特特点。对实现方向回溯功能的三种主要方法及其优缺点了进行了讨论,理论推导了方向回溯天线阵单站和双站RCS的表达式,并研究了方向回溯阵的阵列噪声特性。VanAtta阵是第一个具有方向回溯功能的天线阵。针对国内外文献都是定性分析这一情况,首次对VanAtta阵做了详细的理论研究,给出了无源VanAtta线阵、有源VanAtta线阵、无源VanAtta平面阵的回溯场的数学表达式,并研究了天线单元反射及其环形器隔离度对功率放大器增益的限制。对VanAtta天线阵的散射场特性进行了分析,研究了连接传输线对天线阵的散射总场的影响,系统仿真验证了其自动波束跟踪特性。结合高空通信平台应用,给出了一种非交叉连接的平面VanAtta阵列布局,并讨论了传输线长度及损耗与阵列RCS和尺寸的关系。对基于混频技术的方向回溯阵,从广义相位共轭条件出发,给出了相位共轭阵具有方向回溯性的理论基础,对其散射场特性进行理论研究,给出了考虑互耦和射频泄漏情况下的回溯场表达式。首次提出了泄漏系数的概念,并讨论了射频泄漏系数对中频信号幅度、相位和波束指向误差的影响。方向回溯天线阵一般需要高隔离度双极化天线,文中采用矩量法分析设计了一种H型口径耦合馈电的高增益、宽频带双极化微带天线。同时,以串联分布加载谢昆诺夫积分方程为出发点,实现了任意电流分布的一般连续阻抗加载分布；并在Wu-King基础上实现了一种高效阻抗加载分布,修正了Wu-King的比例因子计算公式,给出了最佳加载理论设计曲线。理论和仿真表明这种加载分布的宽带和高效率特性。在方向回溯通信系统中,采用不同的体系结构其实现的功能和性能有所不同,衡量方向回溯特性的一个最重要的指标就是波束指向误差。本论文首先综述了现有的各种方向回溯系统体系结构,研究了波束指向误差与阵列大小、单元天线、射频泄漏,收发频偏,多普勒频移等关系,为系统设计提供了理论依据。在此基础上,提出并设计了一种工作于C波段的方向回溯通信系统,理论仿真给出了系统特性。最后结合当前研究热点——缺陷地面结构(DGS),研究了哑铃形DGS结构作为滤波器在方向回溯系统中的应用。首先改进了DGS单元LCR等效电路的参数提取方法,提高了参数提取精度；并在此方法基础上,首次提出了哑铃形DGS的综合和电路快速分析方法,给出了详细的综合和分析过程及理论依据；同时对被广泛应用的周期性DGS结构,文中首次提出了一种周期性哑铃形DGS结构的参数提取方法,电磁仿真和实测结果证明了综合和参数提取方法的正确性。最后对开口谐振环带通滤波器,提出了一种改进设计方法,提高了带外特性和传输零点深度,与周期性DGS相结合可实现接近3个倍频程的30dB阻带,有效的抑制了高次谐波。