光子自旋霍尔效应（photonic spin Hall effect,PSHE）作为电子自旋霍尔效应的类比,是指当光在具有折射率梯度的介质中传播时,反射光或透射光在与入射面垂直的方向上产生偏移,从而导致左右旋偏振光具有发生横向分离的一种现象。近十多年,光子自旋霍尔效应在迅速发展的微纳光场调控、拓扑光子学和量子光学等许多前沿光学领域中显示了重要理论意义并取得重要应用。同时这一效应本身的观察和测量也取得重要进展,最具代表性的有弱测量、玻璃棒反射的分裂放大和超表面中的强自旋霍尔效应等。利用光子自旋轨道相互作用以及表面等离激元光场的几何相位,多圈半圆金属纳米缝通过纳米尺度光点聚焦,并打破圆偏振光场空间对称性,使自旋分裂效应更为明显,成为自旋霍尔效应测量的重要方法之一。以非圆对称的闭合曲线纳米缝打破圆偏振光场的对称性,并自旋分离的方法观察光子自旋霍尔效应是值得研究的重要课题,并对自旋霍尔效应的应用具有重要意义。超表面的研究是光子自旋霍尔效应和自旋轨道相互作用应用的代表性领域之一。超表面是由亚波长尺度的纳米结构单元排列组成的各向异性非均匀平面二维超材料,通过对纳米结构单元的设计可以任意调制光的相位、偏振和振幅,对微纳光场操控显示出独特的能力。其中利用超表面对涡旋光束的操控能力,操控左右旋圆偏振涡旋光产生矢量光束是微纳光子学中的重要领域,并且在许多方面如粒子操控、光学加密、经典和量子通信及其器件集成中有重要应用前景。在目前聚焦多通道矢量光束的产生中,以纯几何相位超表面进行多通道聚焦和矢量涡旋控制,会引起矢量光束的非独立操控,且发散的双曲相位会形成噪声背景;而利用面积分割的空间复用和共振相位聚焦操控,则造成矢量光束质量的降低。因此,探索以传输相位聚焦和非空间分割嵌套的超表面,产生双通道的矢量光束是有重要意义的课题。为此,本论文首先用打破圆对称但具有中心旋转对称的椭圆形金属纳米缝,并引入偏振分离的方法,研究了透射光场中的自旋霍尔效应。采用了将透射光场分离为入射自旋分量和转换自旋分量,观察和分析了透射光场中PSHE现象以及光场中特征光斑的偏移情况;发现主轴两侧椭圆狭缝相反的斜率提供了几何相位梯度,使光场的特征光斑发生相反方向的位移,从而使光斑对之间的位移加倍,同时缝元转换自旋分量的自旋角动量变化产生的与光场位移相应的外禀轨道角动量,满足角动量守恒定律;对椭圆缝光场的特征光斑位移进行了理论分析、时域有限差分计算和实验验证测量。在此基础上,本文利用半椭圆纳米缝,在携带轨道角动量的涡旋光束照明下,进一步研究了PSHE和光子轨道霍尔效应的同时产生及其机理,发现透射自旋和转换自旋分量场特征光斑分别发生与轨道和自旋轨道相关偏移,偏移的方向和大小受照明光的拓扑荷以及自旋角动量的控制,并对光场分布和特征光斑偏移与PB相位、自旋-轨道角动量转换与结构的几何形状之间的关系进行了分析。然后,本论文基于排列于椭圆曲线上的两套纳米缝嵌套形成的复用超表面,设计了用于产生独立控制的双通道聚焦矢量光束。针对一个通道光束的纳米缝由到焦点的光程分别为波长的整数倍和半波长奇数倍、初始取向角相互垂直的两组纳米缝组成,利用纳米缝之间的相长干涉和相消干涉实现在焦点处转换自旋分量的聚焦和直透自旋分量的消除,并通过独立设置每套纳米缝的取向角参数,实现线偏振光照明下在两个个通道中产生的矢量光束的阶数和偏振态分布的独立控制。我们利用时域有限差分（FDTD）方法,对设计的超表面产生的聚焦矢量光束进行了模拟和优化,并进行了实验验证。本论文提出的超表面避免了面积分割空间复用引起的纳米结构排列不对称,克服了通道间矢量光束的非独立控制,避免了发散的双曲相位引起的背景噪声。实验证明所设计的超表面能够产生质量满意的双通道矢量光束。本论文的具体内容安排如下:1.第一章绪论部分概述了与本论文内容相关领域的研究背景和研究进展。首先介绍了表面等离激元的基本概念、性质以及应用;然后介绍了光的自旋-轨道相互作用和几何相位;介绍了光自旋霍尔效应的概念、光束偏移、近期研究现状及轨道霍尔效应的概念;介绍了光的偏振态、偏振态和偏振器件的矩阵表示、斯托克斯参量和矢量光束。2.第二章用一个封闭的椭圆金属曲线纳米缝替代通常截断的曲线纳米缝,研究了光场中的光自旋霍尔效应现象。利用非圆对称的椭圆缝产生的光场中的特征光斑,并通过引入一个分离出射光场的直透分量和转换分量的方法,清楚地观察和测量了转换场中的光斑偏移所表现出的光自旋霍尔效应。对缝元和整个椭圆缝产生的光场进行了理论计算和时域有限差分（finite-difference time domain,FDTD）仿真,得到了特征光斑位移和椭圆参数下产生的光自旋霍尔效应的演化规律。通过实验验证得到了与模拟一致的结果。3.第三章用带有IOAM的涡旋光照明半椭圆金属纳米缝,将对PSHE的研究推广到包含光子轨道霍尔效应的情况。首先利用等离激元的激发原理和惠更斯-菲涅尔原理对纳米缝的激发光场进行了理论推导和分析,然后理论积分计算和FDTD模拟得到了纳米缝产生的透射光场,借助偏振分离方法,利用几何相位、自旋-轨道转换分析了对涡旋光照明下半椭圆纳米缝产生的光场中发生的自旋霍尔效应和轨道霍尔效应,并对直透分量场和转换分量光场中的特征光斑偏移和光场分布特点进行了分析和讨论,利用半椭圆的纳米缝使得光场中发生的PSHE和POHE以及它们对光场分布的影响更容易观测。4.第四章利用一种由排列于椭圆曲线的两套纳米缝嵌套形成的复用超表面,产生了可独立控制的双通道聚焦VBs。每套纳米缝都由到焦点的光程分别均为波长的整数倍和半波长奇数倍的两组初始取向相互垂直的纳米缝组成,利用纳米缝之间的相长干涉和相消干涉实现了在焦点处转换自旋分量的聚焦和直透自旋分量的消除,并通过独立设置每套纳米缝的取向角参数,实现了线偏振光照明下在两个通道中产生的VBs的阶数和偏振态分布的独立控制。利用FDTD方法,对设计的超表面产生的聚焦VBs进行了模拟和优化,并进行了实验验证。本文的研究不仅对于与光的自旋霍尔效应及其应用的相关研究具有重要意义,而且对于多通道VBs的产生和拓宽超表面的应用范围以及实现VB发生器的器件小型化都具有重要意义。