随着纳米科技的蓬勃发展，纳米级材料在电子信息、生物工程、医学、医药、航空航天、国防等高新尖端领域得到了市场化的应用。因此人们越来越多的关注材料在纳米尺度下的特性。当构件的尺寸减小到纳米尺度时，材料的力学性能由于“尺寸效应”的影响无法通过外推法得出，许多材料将呈现出特异的性质。传统的材料测试方法已经不再适用，一种崭新的材料测试技术——纳米压痕技术应运而生。目前纳米压痕技术已经成为一种测量薄膜材料性能的标准技术，该方法在研究微小体积材料的微观塑性变形过程中也起一个非常重要的作用。通过纳米压痕试验所得压力－压深曲线和经验公式可以算得材料的弹性模量、硬度和刚度等。 准连续介质法是一种将连续介质方法和原子模拟相耦合的多尺度模拟方法。 该方法巧妙地将分子静力学与有限元法相结合，在变形梯度较小的规则区域采用代表性原子作为计算点，以此为节点形成有限元网格，其周围其他原子的位置通过插值得到。与其他纳米力学计算方法相比，准连续介质法具有计算精度高，计算规模大等优点。本文结合准连续介质法，研究了薄膜材料的纳米压痕初始塑性变形过程。 首先，采用准连续介质方法模拟了大规模原子的单晶铜薄膜在纳米压痕下发生初始塑性变形的行为，获得了：(1)载荷－位移响应，在载荷位移曲线上除了反映晶体弹性性质的直线外还有数次的载荷突然下降过程。(2)位错形核现象，与载荷－位移曲线上的载荷突然下降相对应的在受压的晶体上发现了位错形核现象，说明载荷的下降是因为位错形核引起的。(3)位错的发射机制，用Peierls-Nabarro位错模型以及能量法分析了位错的发射机制。(4)几何必需位错密度，用一个简单的模型计算了几何必须位错密度。 其次，在计算得到的载荷－压深曲线基础上，根据Oliver-Pharr 法计算了薄膜材料的接触刚度、纳米硬度和弹性模量，并与相关文献的试验结果进行了比较。 研究表明，接触刚度－位移曲线呈线性关系，在纳米硬度测量中存在尺寸效应而在弹性模量测量中不存在尺寸效应。计算获得的单晶铝和单晶铜的纳米硬度值和弹性模量与试验结果非常吻合，表明使用该方法预测薄膜材料的纳米硬度和弹性模量是可行的。 最后，分析了单晶铝纳米压痕试验中不同宽度的刚性矩形压头所引起的初始阶段塑性变形的特点，获得了载荷－压深曲线、应变能－位移曲线和硬度－压深变化曲线。从位错理论的角度分析了压头尺寸对纳米压痕测试结果的影响。研究发现：随着压头宽度的不断增大压头下方位错形核所需要的载荷和压深程度增大； 在塑性变形的初始阶段，相同的压深情况下，随着压头宽度的不断增加位错的形核速度不断下降，位错的发射速度变慢，压头下方的位错密度减小；随着压头宽度的增加，形成第一对位错需要的应变能和压入深度增加，应变能的变化速率递增，纳米硬度值反而会减小，呈现出明显的尺寸效应。