我国的空间科学与技术经过50多年的发展,在建立国防体系、发展空间应用、保障经济发展、服务社会民生方面做出了重要的贡献。空间探测技术的发展是推动空间科学发展的重要手段,也是保障空间活动正常进行的重要前提。开展空间探测、利用空间环境是人类从必然世界走向自由世界的重要步骤之一。临近空间是航空和航天的过渡区域。长期以来,由于临近空间的应用需求较少,同时存在探测困难和资料匮乏的因素,因此,对临近空间的探测研究十分薄弱。近年来,随着临近空间高超音速飞行器等平台的研发和应用,临近空间探测已成为空间探测研究的一个新兴领域,对发展高技术应用和国防安全具有重要的价值和意义。临近空间探测依赖于空间科学仪器和临近空间飞行器,其搭载的天线系统实现了数据通信、主被动探测、导航、定位等功能,因此,保证天线系统的正常工作是保证临近空间飞行任务顺利完成的重要前提。然而,临近空间存在复杂的等离子体,其密度和分布时刻在发生变化,临近空间中复杂等离子体环境会严重影响天线的性能。本文围绕高超音速飞行器高频天线所处的等离子体鞘套环境和宽带低频天线所处的动态等离子体环境,研究等离子体与天线相互作用机制,建立天线与等离子体耦合模型,使用数值方法计算了复杂动态等离子体环境中天线性能变化,基于新工艺、新材料、新结构对应用于复杂等离子体环境中的临近空间机载天线进行了设计并验证了其性能。本文主要研究内容如下:首先,从机理上对非磁化及不同磁化方向的等离子体中不同材料、结构和设计的天线和等离子体相互作用关系及机制进行了建模和理论推导。使用有限元方法进行了数值仿真研究,仿真了高超音速飞行器器载太赫兹频段相控阵天线在不同飞行速度对应的等离子体鞘套中的天线工作参数及其性能;针对钝头锥体飞行器等离子体鞘套对天线辐射方向的偏移,提出了基于太赫兹相控阵天线的自适应方向性补偿的有效方法。其次,从工程角度出发,使用有限元方法对钝头锥体飞行器和尖头锥体飞行器对应的等离子体鞘套中天线工作性能进行了数值仿真,研究了高超音速飞行器外形对飞行器器载天线性能的影响,基于保证天线性能角度对飞行器外形设计提出了工程化实用建议。针对临近空间高超音速飞行器再入等离子体鞘套环境设计了三种不同频段、材料、结构和应用的工程实用天线,分别是L频段低温共烧陶瓷贴片导航天线、L频段复合材料四臂螺旋导航天线以及Ku频段基于YIG-空气-金属结构的单向波导漏波扫描通信天线,比较了其在中性大气和在等离子体鞘套中的性能差异。最后,针对卫星轨道时变等离子体空间环境设计了基于铍铜合金材料及编织结构的500米星载有源甚低频宽带偶极子天线及自适应匹配网络。使用有限元法仿真了天线在动态等离子体中的各工作参数变化情况,基于仿真结果提出了一种基于宽带甚低频天线的局部空间等离子体密度感知方法并对方法的性能进行了验证。