纳米科技是二十世纪八十年代末兴起并逐步发展壮大且至今方兴未艾的高技术交叉学科。其中，以原子力显微镜(AFM)为代表的扫描探针显微术(SPM)，在推动纳米科技发展方面起了重要作用。SPM的主要应用领域为生物学、微电子学、医学、物理学、材料科学及光学，它已成为纳米研究人员不可缺少的观察和研究工具。本文在系统分析扫描探针显微系统的技术特点和应用前景的基础上，对原子间作用力的规律、显微系统的核心——微悬臂梁的机械性能、显微系统工作时的噪声进行了数学模拟，并用二维、三维或四维的坐标图加以表征，以达到直观分析它们的特点和规律的作用，并对扫描探针显微系统性能的改善起到引导作用。本论文的工作主要包括：1．分析了针尖—样品间作用力的规律，且对微观分子或原子接近时的原子间或分子间作用力的特点作了探讨。2．对原子力及分子力的作用规律进行数学分析，并据此对作用规律作了进一步的讨论。3．分析了微悬臂梁的机械性能，并作出静力学受力分析及动力学运动规律分析，对相关的材料力学参数进行了数学分析，对它们之间的错综复杂的联系进行了深入研究。4．对上述研究结果进行数学初步建模与图形仿真，并根据仿真结果对微悬臂梁的力学性能加以进一步探索。5．对微悬臂梁在系统工作时的共振频率的大小及其变化规律加以研究，进行数学推导，并加以图形仿真。6．对AFM系统在工作状态下产生的噪声的大小及其漂移规律加以研究，并用数学分析得到表征其变化趋势的表达式。