本文首先研究了原子力显微镜的工作原理、成像过程、仪器结构和工作模式。并对探针的膨胀作用、扫描图像的滤波去噪等测量时存在的问题进行了分析。介绍了采用原子力显微镜测量半导体刻线边缘粗糙度的方法。 本文提出了一种基于图像处理确定线边缘的算法，利用Matlab开发了相应软件并计算出表征线边缘粗糙度的幅值参数。用所提出的算法对测量数据进行了处理，分析了影响测量结果的各种主要因素。并对使用普通探针、Ultrasharp探针和碳纳米管探针对同一样本进行的测量结果进行了分析和比较。 本文在分形与尺度概念的基础上提出了对具有自仿射性的线边缘粗糙度的描述方法，利用高度相关函数确定出包括粗糙度指数α、相关长度ξ和均方根粗糙度σ值的特征参数。用这种方法处理了使用碳纳米管探针的实验数据并分析了影响因素。结果表明，这种方法可以比较完整的描述线边缘粗糙度。