众所周知,天线是一种将传输线上传播的导行波变换成在自由空间中传播的电磁波（或者进行逆转换）的器件。在一百多年的发展中,天线被逐渐应用于通讯、探测、传感等领域。从音频和视频传输到雷达探测,天线的工作频段也由长波不断向微波甚至红外和可见光扩展。近年来,人们特别关注红外和光频天线的研制。随着超构材料的发展以及微纳加工技术的进步,在亚波长尺度下设计和制备红外和光频纳米天线成为可能。目前,光频天线在单向辐射与场增强、生物探测、全息成像、通信与传感等方面正展现诱人的应用前景。在这样的研究背景下,本文系统研究光频纳米天线中电磁模式的耦合与探测,具体内容包括以下部分。第一,我们研究了介质光频纳米天线中电磁模式的耦合,实现了双Fano共振效应。我们首先在长波近似下解析地考察了单个硅纳米圆柱的光散射性质,证实该系统中可以激发电共振与磁共振等模式;然后我们利用电磁偶极耦合理论解析地分析了硅纳米圆柱双体之间的电磁耦合作用,证实了该双体系统可以存在电-电偶极耦合、电-磁耦合、磁-磁耦合等相互作用模式。接着,我们利用有限时域差分方法研究了不同直径硅纳米圆柱双体的光散射。研究发现,硅纳米圆柱双体结构可以实现单个的磁共振模式与单个的电共振模式之间的强烈耦合。进而,我们利用双体结构中来自一个纳米圆柱的电偶极子与来自另一个纳米圆柱的磁偶极子强烈相互作用,实现了双Fano共振效应。进一步的研究发现,入射光的偏振方向以及两纳米圆柱的间距可以对Fano共振的强度与峰位进行有效的调控,从而通过结构尺寸的设计,利用双Fano效应,实现了宽带的光散射。在实验上,我们利用电子束曝光、反应离子体刻蚀等方法,制备出相应的硅纳米圆柱阵列,并利用微区光谱仪进行了反射谱的测量,得到了该样品中光散射的一些信息。该研究为人们提供了研制低损耗光频天线的物理途径,可应用于滤波、太阳能电池、生物传感等领域。第二,我们研究了金属光频天线中阴极荧光的电磁模式,展示了三种金属光频纳米天线中电子束激发局域等离激元进而出现光辐射的物理现象,并且利用阴极荧光技术探测出电子束激发产生的电磁模式中存在电偶极、磁偶极、电四极等模式分布。具体地,我们利用有限时域差分方法,研究了三种金属光频纳米天线结构（分别为“U”、“II”、“H”形）在电子束照射下,激发出不同的电磁模式以及相应的散射光谱,给出了三种结构由电子束激发的电磁模式的近场分布。研究发现,该三种纳米天线结构中都出现了电偶极、磁偶极、电四极、磁四极等模式的激发,分别来源于不同局域等离激元的空间激发。在实验上,我们利用电子束曝光的方法制备出相应的三种光频纳米金（gold）天线样品。通过点激发、线扫描、面扫描等阴极荧光手段对电子束在不同位置处激发的电磁模式进行了探测与分析。研究发现,在三种纳米金（gold）天线结构中阴极荧光实验图像与数值模拟结果基本对应。接着,我们以U形纳米金（gold）天线为例,测量获得其主要激发模式所对应光谱,展示了当电子束入射到在天线结构的不同位置时激发出不同的局域等离激元,从而激发模式及其光辐射强度都发生改变。该研究可应用于发展小型化的高分辨成像与光谱分析技术。综上所述,我们研究了介质和金属纳米光频天线中电磁模式的激发和耦合,利用介质纳米天线中电磁模式的耦合实现了双Fano共振效应,同时基于阴极荧光技术,在金属光频天线中展示了电子束激发的局域等离激元模式及其辐射效应。这些研究加深了人们对光频天线系统中电磁模式激发和辐射规律的认识,可应用于研制高性能的太阳能电池、高灵敏生物传感、高分辨成像与光谱分析技术等。