拓扑性近藤绝缘体如SmB6和YbB6等是最近几年来发现的一类新型拓扑绝缘体。与一般的能带性拓扑绝缘体不同,拓扑性近藤绝缘体是一种强关联体系,它的拓扑特性由电子关联引起,因此是研究电子关联对拓扑体系的影响的理想体系。目前,利用各类理论工具对其拓扑性已经得到了初步的理解。SmB6是一种混合价态体系,Smv+离子的价态v处于2和3之间。最近两年来实验发现在加压下SmB6发生磁性相变,并且Sm离子的价态v在其磁性相变附近会发生剧烈的变化,从混合价态增加为接近3价,称为价态转变,这提供了研究拓扑性近藤绝缘体中电子关联对拓扑特性、价态转变影响的很好理论-实验对比平台,并能提升对关联型拓扑绝缘体中的丰富相变过程的理解。本文将对拓扑性近藤绝缘体的价态转变和相关的磁性相变、拓扑相变展开理论研究。第一章中将首先介绍本文工作中需要用到的重要理论方法—紧束缚近似,利用它的二次量子化表示,结合对角化方法可以方便地求解能带色散关系,然后介绍近藤绝缘体的理论模型及隶玻色子计算方法,这将在后续章节中应用。第二章将引入拓扑性近藤绝缘体的理论模型—含自旋-轨道耦合的Anderson晶格模型,并利用隶玻色子方法求解其能带色散、拓扑特性和表面态。第三章将在Anderson晶格模型的基础上引入附加的d-f电子之间的库仑排斥项,从而建立价态转变的理论模型,并利用第二章的理论方法求解在模型参数变化时价态的演化过程,得到顺磁相的价态转变和相图。第四章将计算反铁磁相变,及在反铁磁相变点附近价态的演化过程,得到包括反铁磁相变和价态转变在内的相图。第五章将总结和讨论本文的主要结果。本文的主要研究发现如下:(1)当d-f电子的库仑关联强度Udf超越一个临界值时,随着f电子能级的升高,顺磁态将发生从价态接近饱和的近藤态到价态较低的混合价键态的一级价态转变,并且视参数条件不同,此顺磁价态转变可非常接近拓扑相变,或者与拓扑相变汇合。(2)在顺磁价态转变附近,升高温度将导致从混合价键态到近藤态的热力学价态转变,也是一级相变。(3)Udf较弱时,随着f电子能级的升高,将发生反铁磁相变,为二级相变。但当Udf增大后,反铁磁相变将从二次相变变为一级相变,同时伴随着价态转变。本文的研究成果可以定性解释SmB6在加压下发生的价态转变过程,并且发现的磁性相变、拓扑相变、价态转变三种相变的相互关系可提升对关联型拓扑绝缘体中丰富相变过程的理解。