随着微电子技术和微系统的发展,材料在纳米尺度下的力学特性引起了人们的极大关注。对微电子、微机械加工等方面的研究表明,当材料尺寸减少到纳米尺度时,材料的力学性能和力学行为往往表现出与宏观条件下完全不同的特性,例如超高的强度、硬度、延展性、耐磨性以及低温超塑性等。因此,对纳米材料的力学性能进行深入探究具有重要而现实的意义。由于传统的建立在连续介质理论基础上的分析方法不再适用于微观尺度下材料变形的研究,纳米压痕技术作为一种相对简单有效地评估薄膜材料力学性能的方法,被广大科研工作者所采用,近年来在理论或实验上的研究也取得不少进展。然而纳米压痕试验受到诸多因素的影响,例如材料表面粗糙度、衬底效应、晶界效应、压头几何形状、晶格各项异性等,而且分子动力学等微观尺度的方法由于自由度过多导致计算量太大,无法在普通的计算机上实现较大模型的模拟。于是结合连续介质尺度和原子尺度的多尺度方法,利用计算机数值模拟将纳米压痕的研究推向了一个新的广阔领域。准连续介质方法(Quasi-continuum Method, QC)是多尺度方法的一种,它耦合了连续介质尺度和原子尺度,在变形梯度变化比较小的区域采用有限元方法进行粗化描述,而在缺陷密度较高、变形梯度变化较剧烈的区域用分子动力学来描述。这样就可以在不失精确的情况下减少问题的自由度和计算量,以实现较大尺寸试件的原子尺度模拟。鉴于表面凹型缺陷的重要研究意义,本文采用准连续介质(QC)方法对带有表面凹型缺陷的薄膜材料进行纳米压痕数值模拟,探讨材料表面初始凹型缺陷对纳米压痕过程的影响,深入研究纳米压痕过程中材料的微观破坏过程和弹塑性转变机制,本文的主要研究内容如下：(1)基于表面凹型缺陷的位错形核延迟效应的多尺度模拟。文中计算了表面凹型缺陷与压头相邻边界之间的八种不同距离,并与无缺陷情况进行对比。研究表明,表面凹型缺陷能引起[110]全位错的发射,并对下一次的位错形核将造成2%-22%程度的延迟效果。这种全位错的形核与发射取决于加载表面处的第一大和第二大应变集中区的应变竞争机制。此外,这种表面凹型缺陷引起的位错延迟效应的影响临界距离为三倍的压头接触半径,这和相关的实验结果非常一致。(2)表面凹型缺陷的距离效应对纳米硬度的影响。本文模拟了在单晶铝的纳米压痕中,薄膜材料表面凹型缺陷的距离效应对纳米硬度的影响。计算了表面凹型缺陷与压头相邻边界之间多种不同的距离。结果表明,随着表面凹型缺陷与压头之间的距离增大,薄膜材料的纳米硬度以波浪式的形式增大,并携带以三个原子为周期的变化规律。这个周期规律和面心金属在{111}密排面上的三种堆垛方式密切相关。当表面凹型缺陷与压头相邻边界之间的距离大于16个原子间距时,凹型缺陷对薄膜材料的纳米硬度就几乎不产生影响。此外,本文还计及表面凹型缺陷,修正了金属铝薄膜材料发射第一对位错的临界载荷的理论公式,这个对带有表面缺陷的纳米硬度的研究具有重要的指导作用。(3)本文利用QC多尺度方法探究了纳米压痕过程中,表面凹型缺陷对薄膜材料屈服载荷的尺寸效应。计算了表面凹型缺陷的多种不同的宽度和深度,并提出了尺寸系数,用以表征缺陷尺寸对薄膜材料屈服载荷的影响。结果表明,随着表面凹型缺陷的宽度增加,薄膜材料的屈服载荷在初期变化非常缓慢,直到其尺寸系数增大约为一个单位的时候,屈服载荷突然大幅度下降,继而又非常缓慢下降,当其尺寸系数增大约为两个单位的时候,其屈服载荷与对应的台阶模型所得的屈服载荷值非常接近；随着表面凹型缺陷的深度增加,薄膜材料的屈服载荷在初期变化非常缓慢,直到其尺寸系数增大约为半个单位的时候,屈服载荷突然大幅度下降,继而又非常缓慢下降,当其尺寸系数增大约为一个单位的时候,其屈服载荷与对应的台阶模型所得的屈服载荷值非常接近；薄膜材料屈服载荷的变化规律由Peierls应力证明其合理性,并与相应实验值符合。另外,表面凹型缺陷的深度因素对薄膜材料的屈服载荷的影响更大。本文的研究结果对纳米材料的实际应用具有一定的指导意义。