2004年,英国曼彻斯特大学的K.S.Novoselov和A.K.Geim等人通过机械剥离方法成功制备出单原子层厚度的石墨烯（graphene）,由此打开了二维（2D）材料研究的大门。此后,大量的新型2D材料相继被发现并展现出独特的物理和化学性质。在2D材料家族中,单质2D材料因为组成成分简单且具有多种多样的电子、磁性、机械和光学等特性,并在催化、光电器件、自旋电子器件、高性能电极和纳米复合材料等领域都有重要的应用价值,所以正吸引着人们越来越多的研究兴趣。目前,已经有大量关于ⅢA到ⅤA族元素形成的单质2D材料的研究。由于ⅥA族元素不能形成层状材料而被认为难以形成稳定2D结构,所以关于ⅥA族单质2D材料的研究起步较晚,其结构数量和物性方面都有待进一步发掘和研究。本文采用基于密度泛函理论的第一性原理计算方法,系统性地预测和研究了 ⅥA族元素硒（Se）,碲（Te）和钋（Po）形成的稳定单质2D材料的结构、物性以及形成机制。同时,本文也对基于硒烯（α-Se）的四种2D异质结的结构、电子和光学性质进行了系统研究。本文的内容和结果如下:1.利用基于粒子群优化算法的结构搜索和基于密度泛函理论的第一性原理计算相结合的方法,预测出了 31种由类金属元素Te形成的新型2D材料,并通过声子色散计算和第一性原理分子动力学模拟（AIMD）验证了它们结构的动力学和热力学稳定性。根据这些碲烯结构所包含的Te原子层数和内聚能将它们进行了分类和命名。这些新型碲烯具有丰富的电子性质,包括金属和半导体性质,以及拓扑和超导性质。从能量上来看,具有三个原子层厚度的碲烯结构拥有较大的内聚能是相对比较稳定的,而且多数表现出半导体特征。具有单原子层厚度的碲烯结构的内聚能相对较小,且都是金属。在这些新型2D Te结构中,B-α、B-β、B-γ和B-η相是拓扑绝缘体,B-β、B-ε和T-κ相是超导转变温度（Tc）大概为8 K的超导体。有趣的是,B-β相既是拓扑绝缘体又是超导体。与其他2D材料相比,碲烯不仅具有丰富的结构,而且具有更有趣的电子性质,这主要来源于Te的类金属性质和较强的自旋轨道耦合相互作用。此研究不仅丰富了碲烯的结构也为探索2D体系中的拓扑超导性质提供了一个很好的候选材料。2.通过基于密度泛函理论的第一性原理计算,进一步预测了 10种新型2D Se的同素异形体。这些新型硒烯结构的动力学和热力学稳定性分别通过声子谱计算和AIMD得到了验证。系统研究了这些新型2D Se同素异形体的电子性质。同时,计算结果表明具有半导体性质的新型硒烯结构具有较高的载流子迁移率。除此之外,半导体型2D Se结构的带隙随双轴向应变的变化情况也得到了探究。光学性质研究表明新型硒烯在可见光区具有很好的光吸收性能。此研究丰富了2D Se材料的结构和性质,为硒烯研究领域的发展奠定了一定的基础。3.采用基于密度泛函理论的第一性原理计算方法,证明了 Po也可以形成稳定的具有类1T-MoS2结构的2D材料—钋烯。能带结构计算表明,钋烯具有良好的半导体性质,其单层的带隙大约为0.9 eV。钋烯的半导体性质可以很好地保持到四层的厚度,这时的带隙约为0.1 eV。还发现从体相β-Po的[001]方向所截取的具有幻数原子层厚度的Po薄膜可以通过自发相变形成钋烯。这种自发相变的物理机制是:Po薄膜中的强量子尺寸效应驱动的Peierls畸变导致了这种相变的发生。此外,提出了一种在实验上可以通过外延生长技术生长出钋烯的合适衬底。此工作不仅使从ⅢA到ⅥA族单质2D材料的“拼图”更加完整,而且还提出了一种新的2D材料形成机制。4.通过构建异质结可以有效地丰富和调控2D材料的物理性质。利用第一性原理计算系统地研究了四种基于α-Se的2D异质结α-Se/Ca（OH）2、α-Se/GaSe、α-Se/h-BN和α-Se/MoS2的结构、电子和光学性质。研究结果表明,通过改变层间距、双轴向应变大小和外电场大小都能够有效地调节这四种异质结的电子性质。而外电场对这四种异质结电子性质的调控作用更为显著,能够使它们的电子性质变得更加丰富。光学研究结果表明,α-Se以及基于α-Se的四种异质结都具有本征的双曲特性。而且与构成异质结的孤立单层相比,这四种异质结在紫外光区和可见光区的光吸收都显著增强。此研究填补了硒烯基2D异质结研究方面的空白。