自量子霍尔效应发现以来,拓扑的概念被引入到了凝聚态物理领域。拓扑序的研究丰富了凝聚态物理理论,指引人们发现了许多新奇的量子态。拓扑绝缘体就是在这一过程中被人们发现和熟知的:在强的自旋轨道耦合作用下,一些体态是绝缘体的物质表面存在着无能隙的、受时间反演对称性保护的、自旋动量耦合的、不受非磁性杂质背散射影响的狄拉克电子态。拓扑表面态与其它材料形成的异质结会产生许多新奇的物理现象,如拓扑绝缘体和超导体界面处的Majorana费米子,磁性拓扑绝缘体中的量子反常霍尔效应等,这些为解决基础物理学的一些难题提供了新的途径。拓扑绝缘体本身的奇特性质也使其在未来量子计算、自旋电子学等领域有着广阔的实际应用前景。然而要想将拓扑绝缘体投入到实际应用当中,还有许多问题亟待解决。如何调控拓扑绝缘体表面的结构以及如何确定拓扑绝缘体表面的稳定性将显得非常重要。而2004年石墨烯的发现,进一步扩展了凝聚态物理的研究范围,之后涌现出了一大批具有奇特性质的二维层状材料,如二维金属硫化物,1T-TiSe2,在这种材料中不仅具有电荷密度波（CDW）,同时还能通过掺杂加压等方式获得超导电性,而CDW和超导的转变机理以及之间的关系都是目前亟待解决的关键问题。在本论文中,利用分子束外延系统（MBE）和扫描隧道显微镜（STM）,我们系统研究了拓扑绝缘体Bi2Te3表面与水分子之间的相互作用。另外,通过调控薄膜生长参数,可以获得具有应变调制的拓扑绝缘体表面,可以详细研究应变对拓扑表面态的影响。最后还系统研究了1T-TiSe2的表面电子性质。论文主要取得了以下的研究成果:1.利用分子束外延系统获得高质量的拓扑绝缘体Bi2Te3薄膜,用自溶剂熔融金属法制备出高质量的Bi2Te3单晶样品。利用STM的原子分辨成像,我们从实空间研究了拓扑绝缘体Bi2Te3与水的相互作用过程:水分子会与拓扑绝缘体发生反应,但是反应只发生在第一层,当第一层拓扑绝缘体薄膜被完全反应之后,反应生成物（Bi以及OH-）阻止了水分子与下一层拓扑绝缘体的进一步反应。通过dI/dV的测量,证明了水分子蒸镀到样品表面是一种电子型掺杂,。进一步深入研究,通过低温蒸镀水分子的实验,结合之前的表面原子分辨图像、表面的扫描隧道谱（scanning tunneling spectroscopy-STS）,以及 x-ray photoemission spectroscopy（XPS）数据,可以确定水分子与表面的反应生成物为Bi以及OH-。作为对比,我们还用STM研究了氧气分子与Bi2Te3表面的相互作用,发现氧气分子不与Bi2Te3发生反应。因此,研究结果表明Bi2Te3会与水发生一定的反应。2.通过MBE系统和STM,我们研究了 Bi2Te3样品表面形貌与薄膜生长速度、生长层数以及衬底的选择之间的关系,发现在Si（1 1 1）-7×7衬底上,控制Bi2Te3的生长速度为0.5层/分钟,且薄膜厚度为～10层时,能成功得到表面具有点状缺陷的拓扑绝缘体Bi2Te3薄膜。通过STM形貌分析和几何相位软件（GPA）的分析可以发现在这些点状缺陷附近,存在着复杂的应变场分布。而通过dI/dV的测量可以发现,应变区域能谱显示出一个类能隙的形状。将Pb原子蒸镀在样品表面,通过STS分析,发现Pb原子对表面局域电子性质具有一定的调制。3.利用STM和STS,我们系统研究了 1T-TiSe2表面的电荷密度波的不均匀性以及电荷密度波能隙的不均匀性,发现样品表面存在着正常的CDW区域以及被抑制的CDW区域。除此之外,我们还在1T-TiSe2表面发现赝能隙的存在,通过研究其对温度和磁场的响应,进一步表明了其是赝能隙。通过往1T-TiSe2表面蒸镀K原子,1T-TiSe2表面赝能隙逐渐能演变为含有相干峰的能隙结构,这一相干峰结构在～3T磁场下消失。通过分析1T-TiSe2表面的缺陷分布及性质,以及K原子蒸镀的作用,1T-TiSe2表面的电荷密度波以及能隙的不均匀性可能和Ti原子插层导致的局域能带改变有关,而1T-TiSe2中赝能隙结构则是由Ti原子的插层以及K原子蒸镀所提供的电荷掺杂导致。