石墨烯的横空出世为人们打开了一扇全新的二维材料世界的大门,石墨烯具有一系列优良的电子性质,如有效质量为零的准粒子,可以实现无耗散的输运,这种性质如果能够应用在集成电路上可以极大地增加其运算速度。但由于近乎零能隙的存在,使得石墨烯无法在半导体器件中得到直接应用。因此寻找与石墨烯具有类似性质的二维半导体材料具有很大的潜在应用价值。石墨烯的优异电子性质很大程度上源于其特殊的蜂窝状构型,因此研究其他具有蜂窝状结构的二维半导体的性质是一个重要的方向。同时,石墨烯的出现除了引发了二维材料的热潮以外,人们还从石墨烯出发预言并在实验上发现了一种全新的材料体系拓扑绝缘体,其中二维拓扑绝缘体或者称为量子自旋霍尔绝缘体由于具有受到拓扑保护免于背散射的影响的导电通道,在其边界能形成两条自旋相反的电子流,这两条电子流是无耗散的。如果能够应用在半导体器件上,那么将有可能解决器件的热耗散问题。并且由于引入了自旋分辨,有可能可以携带更多的信息,这将进一步提升器件的性能。基于以上的论述,在本论文中,我们主要以分子束外延技术以及扫描隧道显微镜技术为主要手段,研究了硅基衬底上外延生长的蜂窝状半导体Sn2Bi的氢化,一种新型二维拓扑绝缘体Ta2Pd3Te5的结构和电子态表征以及二维过渡金属氧化物Mo O3的生长和结构表征。本论文的主要研究内容如下:1.对二维材料的氢化研究是一种调控其能带结构及其他物理性质的的一种重要手段。生长在Si（111）表面的具有近自由二维空穴色散能带的二维蜂窝状半导体Sn2Bi可能在器件方面具有广阔的应用前景。其氢化研究对其模型验证及结构和电子性质的调控在理论上有很多,但实验方面还没有相关进展。基于此,我们利用扫描隧道显微镜（STM）及扫描隧道谱（STS）并结合密度泛函理论计算（DFT）对在Si（111）上利用分子束外延（MBE）生长的Sn2Bi体系进行了不同氢吸附量的研究。STM研究表明少量氢原子吸附是单个位点的随机吸附,结合模型和DFT计算发现氢吸附位点在中心位的锡原子和与其相邻的锡原子之间的桥位上,在STM图像中表现为具有三个方向的“蝶形”特征。而饱和氢吸附后,氢吸附位点与少量氢吸附时的吸附位点相同,在STM图像中呈现出沿着三个不同方向的沟槽状特征表明相邻两个氢吸附位点间存在一定的相互作用,通过形成沟槽状结构来实现平衡。在饱和氢化后该体系的能隙大小显著提升,这与DFT计算的结果也相一致,并且原来的Sn2Bi能带结构中由于中心位锡原子与氢原子成键后破坏了其对称性,导致导带底部的平带消失,与结构模型互相印证。此外,吸附的氢原子在高温下可以完全脱附,恢复干净的表面,表明了该氢化过程的可逆性。2.二维拓扑绝缘体在自旋电子学器件领域具有广阔的应用前景,目前存在的具有量子自旋霍尔效应的材料绝大部分是一些单层的二维拓扑绝缘体,在实际应用上存在很大的限制。单层Ta2Pd3Te5材料被预言是一种二维拓扑绝缘体,并且由于其层间作用力非常弱,其单晶表面也有可能存在量子自旋霍尔效应。我们利用XRD和STM对解理的Ta2Pd3Te5单晶进行结构表征,与理论预言的结构一致,单晶质量非常高。在针尖和样品之间施加电压脉冲可以使得样品表层发生断裂,说明其层间作用力非常弱。输运,角分辨光电子能谱（ARPES）以及STS测量结果发现在远离台阶边缘的台面上Ta2Pd3Te5单晶是窄带隙半导体。DFT结果表明Ta2Pd3Te5在费米面附近存在一个反转的能带,具有拓扑非平庸的能带结构。对台阶边缘的STS测量发现在台阶边缘处局域态密度具有显著增强,并且在不同的台阶类型和截止原子以及化学环境的下均存在,这为拓扑边缘态的存在提供了强有力的证据。3.利用MBE方法在不同的金属衬底及graphene/Si C上生长二维的三氧化钼。利用STM对在Cu（111）衬底上生长的三氧化钼薄膜进行结构表征,我们观察到在先沉积后退火的方法中,不同退火温度可以得到不同的结构。对其中两种高质量的有序结构的X射线光电子能谱分析表明三氧化钼在高温退火后可能被还原为不同价态的钼氧化合物,并有可能将衬底表面氧化为氧化亚铜。结构模型分析表明可能存在两种模型,一种是氧化钼的大分子模型构成的有序结构,另一种是氧化亚铜的模型,这两种模型均有一定的合理性。