对于拓扑态的研究是当前凝聚态领域的一大热点,由于体系强的自旋轨道耦合能带发生反转,且受时间反演对称保护,在边缘/表面处形成无能隙的表面态能带结构,而体内仍旧表现出绝缘性质。第二代强三维拓扑绝缘体Bi2Se3、Bi2Te3、Sb2Te3都具有单一的Dirac锥型表面态,这种简单的表面态结构具备的巨大优势也极大地吸引了人们的关注。其中Bi2Te3和Bi2Se3的Dirac点要么深埋在体价带中,要么靠近体价带,不易分辨,而Sb2Te3避免了这些问题,Dirac点处于处于脱离体能带的位置,因此也是我们研究拓扑表面态结构极佳的体系。但高质量Sb2Te3薄膜的生长相对较困难,对其超薄层结构的实验研究也相对较少。我们采用分子束外延技术生长出高质量的薄层Sb2Te3薄膜,并利用扫描隧道显微镜对其极限厚度下打开的能隙进行表征研究。论文得到的实验结果如下:1.通过生长参量调控发现在石墨烯衬底上以两步法（衬底温度分别为180℃+220～230℃）可以生长出高质量的薄层Sb2Te3薄膜,其具有的宽台阶为我们后续的朗道量子化研究打下了基础。2.我们通过扫描隧道谱得出薄层Sb2Te3薄膜能隙与膜厚成指数衰减关系。同时在先前研究的基础上进一步加大磁场发现4 QL Sb2Te3薄膜原先零级峰位置出现了分隔较大的双峰图像,这在某种程度上验证了4 QL并非最低相变点,依旧存在一个约20 me V的能隙。结合理论结果通过简单的曲线拟合得出1-4 QL Sb2Te3薄膜在NIs（普通绝缘态）和QSHs（量子自旋霍尔态）间两种可能的振荡相变规律。3.在STO衬底上生长出存在较多不同晶格取向的畴,且层间畴密度不相同的Sb2Te3薄膜,以此得到层间扭角结构。在此基础上通过结合STM图中的莫尔条纹周期和能隙大小分析层间扭角对能隙的调控规律,发现二三层间的大角度扭曲会导致能隙增大。