当今,飞速发展的信息技术产业对中央处理器芯片性能和集成度的提升不断提出新的挑战,延续“摩尔定律”面临前所未有的压力。为了在互补金属氧化物半导体（CMOS）技术下继续“摩尔定律”,纳米半导体晶体管的尺寸正不断接近材料的物理极限,其中越发显著的量子效应严重影响器件的工作性能;因此,近年来针对半导体材料和器件中量子特性的研究成为学术界和工业界关注的焦点。这些研究一方面努力克服传统的晶体管逻辑元件中量子效应带来的负面影响,另一方面不断尝试利用半导体材料中新奇的量子特性,探求传统CMOS技术之外的逻辑计算发展路线,从而衍生出基于电荷自旋、能谷自由度以及量子叠加原理的解决方案。因此,针对以上这些技术路线中的新型纳米半导体逻辑元器件,本论文在其量子特性及设计应用方面展开了建模仿真和实验研究,主要研究工作和创新点归纳如下:1.针对纳米尺度下遭遇显著量子隧穿和量子约束效应的新一代场效应管,完成了建模仿真及分析研究。（1）自主开发了实空间非平衡格林函数量子输运仿真工具,细致地研究了7 nm沟道长度下超薄体MOSFET中的量子约束和量子隧穿效应;分析了器件的电容-电压特性,并在其基础上研究了器件的CMOS基准性能表现,表征了寄生效应对短沟道器件的影响;清晰地揭示了空穴输运的物理机制,深入探究了沟道材料、几何尺寸、晶向配置、应力应变和晶格散射对短沟道器件整体性能的影响,为器件的设计优化提供理论指导;（2）建立了模空间降阶后的非平衡格林函数量子输运仿真方法,针对亚5 nm技术节点下的堆叠纳米片环栅MOSFET,研究了纳米片宽度和晶向配置的混合量子效应;创新性地通过统计学方法,表征了纳米片宽度的工艺偏差对堆叠纳米片FET阵列整体性能的影响;通过与同技术节点下的FinFET架构比较,分析了纳米片晶向配置、堆叠数量、沟道宽度和间距的优化方案;（3）考虑到量子约束和晶向配置的重要影响,构建了目前首个准确且较为全面的纳米片FET空穴迁移率理论模型,其中清晰地揭示了声子、带电杂质和粗糙表面散射机制的物理图像;分别考虑不同器件配置、单轴应力、杂质浓度、界面粗糙度、工作温度等参数的影响,从理论上评估了硅和锗纳米片FET的低场空穴迁移率特性及变化规律。2.针对基于二维材料自旋和能谷等量子特性的自旋场效应管和量子点,完成了建模仿真及分析研究。（1）建立了基于动力学自旋Bloch方程的自旋输运仿真框架,研究了二维材料中的自旋驰豫和退相干;在此基础上,开展了目前首个二维半导体自旋FET相对于其MOSFET的性能基准评测,为实现二维材料自旋逻辑电路的材料、工艺和器件工程提供了实用的设计指导和实施标准;（2）对二维半导体材料中的自旋和能谷电子学进行了密度泛函理论（DFT）研究;在其基础上,首次建立了精确到第三近邻相互作用的二维半导体量子点紧束缚模型,开发了基于薛定谔-泊松自洽求解的量子点仿真工具;针对不同二维半导体的静电学量子点,准确地仿真了低温下自洽的量子点分立能级结构,深入地研究了量子点形态、尺寸、缺陷原子和磁场调控效应,为其中量子比特的设计优化提供高效的仿真平台和理论指导。3.针对新一代纳米片晶体管架构和二维材料自旋晶体管设计方案,成功地实验制备了结构完整且性能良好的石墨烯/WS2/石墨烯横向异质结FET,并对其进行了系统的理化性质表征与电学性能测量;完成了将二维材料应用于新型纳米逻辑元器件的实践,验证了采用二维材料实现纳米片沟道FET和自旋FET的可行性。