近三十多年来将数学中拓扑的概念引入物理学后,科学家们提出了一种全新的材料-拓扑量子材料。拓扑量子材料拥有独特的能带结构,会展现出对样品细节不敏感的拓扑性质。自单层石墨烯预言存在量子自旋霍尔效应后,不同的拓扑量子材料被陆续地预言以及证实。包括拓扑绝缘体、拓扑超导以及拓扑半金属等。这些材料具有丰富的物性特征以及新奇的电磁输运现象,对发展低能耗自旋电子学器件、拓扑量子计算具有重大意义。扫描隧道显微镜是一种可以在实空间探测材料局域态密度的表面分析技术,其优点在于适应多种环境、能量和空间分辨率高、能同时探测占据态和非占据态的信息、结合准粒子干涉技术可以间接得到倒空间的信息,因此扫描隧道显微镜技术一直是表面科学领域的一把尖刀。在本论文中,我们基于扫描隧道显微镜技术研究了WTe2中预言的拓扑特性以及NbSe2中的Shiba态,得到的主要结果如下:1.为了证明单层1T’-WTe2具有量子自旋霍尔效应（也被称为二维拓扑绝缘体）,我们在解离的WTe2单晶样品的边界附近进行了研究。实验上直接探测到了WTe2边界处存在鲁棒性的一维边界态,其拓扑性质不依赖于边界的细节,只与体能带中拓扑非平庸的电子结构有关。第一性原理计算也表明单层1T’-WTe2具中的边界态具有拓扑起源。实验结合理论证明单层1T’-WTe2拥有拓扑非平庸的边界态。我们的结果对进一步研究WTe2材料特性以及拓扑物理具有重大的意义。2.为了证明第二类外尔半金属WTe2中存在拓扑非平庸的费米弧表面态,我们运用扫描隧道显微镜结合准粒子干涉技术对体材料的WTe2进行表面电子结构的探测。实验上获得了电子在WTe2两种表面的散射信号。结合第一性原理计算,我们认为探测的信号来自于平庸表面态的散射。同时在理论预言的能量和动量范围内,实验也发现了可能存在的拓扑非平庸的费米弧信号。我们的结果为证明WTe2中存在的第二类外尔半金属相提供了不可或缺的证据。3.为了获得容易调控的长程Shiba态,我们在层状超导材料2H-NbSe2表面通过分子束外延低温沉积了磁性原子Fe。实验发现单个Fe原子上具有三重对称性的短程Shiba态。表明吸附在表面的磁性杂质可能受到层间相互作用的影响,所处环境并不是真正的二维体系,因此Shiba态在空间的延展更接近于三维体系中的衰减关系。此外,实验上还发现不同尺寸的Fe团簇展现的Shiba态也不相同以及Shiba态受杂质吸附构型的影响。我们的实验结果可以为进一步研究超导中Shiba态的杂化提供帮助。