拓扑绝缘体作为一种新的物态，在凝聚态物理，材料科学等方向引起了人们的广泛关注。与普通绝缘体截然不同之处是，拓扑绝缘体拥有拓扑保护且无能隙的边界或表面态，这些边界或表面态不受非磁性杂质和微扰的影响。拓扑绝缘体的拓扑性由Z2不变量来描述。近几年的研究表明拓扑绝缘体会表现出一些奇异的现象，并被认为在自旋电子学以及量子计算机等方向具有很多潜在的应用。本文通过拓扑能带理论，并结合核多项式方法、第一性原理计算，研究了二维、三维拓扑绝缘体的拓扑性质。具体的研究内容和结果包括:　　1.利用紧束缚近似方法，首次指出α-graphyne品格可以支持拓扑相的存在。通过计算Z2拓扑不变量以及边界态来确定拓扑绝缘体。同时，给出了不同填充因子下α-graphyne的相图，该相图是自旋轨道耦合相互作用和最近邻耦合作用的函数。发现对于不同的填充因子仅存在两种拓扑相:普通能带绝缘体和拓扑绝缘体，而没有金属相的存在。随后分析和讨论了α-graphyne各种拓扑相边界态的特征。　　2.目前对于石墨烯中安德森无序引起的局域化是否满足单参量标度理论的问题一直争论不休，因而研究无序对同样具有狄拉克结构的graphyne族晶格局域化的影响将是十分有意义的。利用紧束缚方法以及变系数核多项式方法，分析了安德森无序对β-graphyne薄片局域化性质的影响。为了区分局域态和扩展态，比较了局域态密度的两个特征量:标准态密度ρty以及平均态密度ρmc。发现不同于石墨烯薄片，β-graphyne态密度的一个鲜明特征是具有很多范霍夫奇点。另外,随着无序强度的增加，从能谱的两侧边界开始，ρty逐渐被抑制并在无序强度γ＞12t时消失，这意味着存在临界无序强度，对于整个能谱是局域化的。同时仅用一个有限尺寸的系统来研究局域化性质是不充分的，需要考虑归一化的标准态密度。通过计算归一化标准态密度，可以得到临界无序强度。发现临界无序强度随着β一graphyne薄片尺寸的增加而减少，当系统无限大时临界无序强度趋近于0。随后给出了归一化的标准态密度在能量-无序平面的等高线，从等高线图中可以得到迁移率边界以及里夫希茨边界。最后，为了直观的理解扩展态和局域态的内部结构，给出了能带中心(E=0)处的局域态密度。当无序强度增加到γ=12t，团簇被限制为很多独立的岛，这预示着这些状态已经完全局域化，相应的系统由金属转变为绝缘体，即发生了安德森转变。　　3.利用紧束缚模型证明了考虑Rashba自旋轨道耦合作用时正方-八边形晶格也会支持拓扑绝缘体的存在。利用整数场方法计算Z2拓扑不变量并给出了不同本征自旋轨道耦合强度和填充因子下的相图。发现即使不考虑本征自旋轨道耦合作用，在1/4和3/4填充因子下也会有拓扑绝缘体的存在。而当本征自旋轨道耦合强度合适时(λso=0.4t)，不管Rashba自旋轨道耦合作用以及在位势能的强度多么小，在1/4和3/4填充因子下都会出现拓扑绝缘体。同时当填充因子为1/2时，只要0＜λR，λc＜1，也会出现拓扑绝缘体。分析和讨论了正方-八边形品格的边界态性质。并且通过计算态密度分布以及自旋算符在边界态下的平均值以了解边界态的模式。　　4.通过将二维正方-八边形晶格进行三维推广，可以得到超立方烷型品格。通过紧束缚方法以及拓扑能带理论，研究超立方烷型晶格在考虑自旋轨道耦合作用时拓扑性质的变化。通过计算Z2拓扑数，发现超立方烷型晶格能支持强拓扑绝缘体的存在，同时给出了不同填充因子下的相图。发现Z2拓扑数为(1;000)以及(1;111)的强拓扑绝缘体能在1/8填充因子下实现，而在1/8，1/4和1/2填充因子下可得到半金属，在半金属中导带仅在布里渊区中的几个孤立点和价带接触。随后分析和讨论了这些拓扑绝缘体以及表面态的特征。而作为拓扑相的一个重要特征，也求解了1(1)1表面的自旋极化，并且发现自旋极化只位于费米面的平面内，没有分量垂直于平面。同时，对于上狄拉克锥和下狄拉克锥，表面态有相反的赝自旋螺旋性。特别的，下狄拉克锥会随着化学势接近价带的顶端而发生自旋极化的畸变。　　5.基于第一性原理计算，研究了X8(X=C，Si, Ge，Sn，Pb)晶格结构以及在静压应变下的拓扑性质。在这些晶格中除了Pb8大部分是动力学稳定的，具有负的结合能且声子谱中没有虚频。由于X8(X=C,Si, Ge，Sn)仅包含轻元素，其自旋轨道耦合强度非常的弱，导致自旋轨道耦合作用对X8(X=C，Si，Ge，Sn)能带结构的影响很小，不会产生拓扑非平庸态。但是除了自旋轨道作用之外，广泛存在于材料表面和界面的应变对半导体或半金属电子性质也有着非常重要的影响，因而讨论了静压应变的影响。发现对于C8和Si8静压应变不能引起拓扑平庸态和非平庸态之间的量子相交。而对于Ge8和Sn8，拉伸应变能在改变能带拓扑性方面扮演着特殊的角色，即产生Z2不变量为(1;111)的拓扑非平庸态。虽然拓扑相变发生在费米能级以上，但是可以通过施加静电门电压来调节费米能级，更为重要的是，的研究表明由轻元素构成的单质也有潜力实现三维拓扑绝缘体。