由于高精密制造技术的飞速发展，微小器件的尺寸不断被突破，达到微米级甚至是纳米级。因此精密定位测量技术也必须不断提升。目前工业上大量应用的有He－Ne激光干涉仪高精度位移测量系统。但是其价格昂贵、操作复杂，同时其测量精度受环境影响非常大。对于车间中机床用测量系统，基于光栅干涉测量具有一些特别的优点，因此国际上有一些生产和研究衍射光栅干涉测量系统的厂家和研究机构，其成果也层出不穷，但是在国内，目前对该技术的研究仍处在起步阶段，工厂和车间仍是靠购买国外的测量系统来满足需求，价格昂贵，维修周期长；或者仅对系统后期处理电路进行研究。所以研究一整套高精度机床用光栅干涉测量系统具有深远意义。同时该种测量系统同样适用于高精度的测量设备中，如纳米级坐标测量机等等。因此，本文针对高精度光栅干涉位移测量系统和关键技术进行理论和实验研究。主要研究的内容和取得成果如下：1、提出一种基于激光二极管的高精度衍射光栅位移传感器系统，该系统利用激光二极管作为光源，降低了成本同时提高了使用寿命，利用光栅栅距作为测量基准，减少环境对测量结果的影响。2、分析了光栅测量元件的特性，包括衍射光束的衍射次数和衍射级数分析，重点对光栅的衍射效率进行计算，其中包括光栅形貌（如光栅栅形和表面粗糙度等）对衍射效率的影响。利用标量和矢量衍射理论，分别对低线数和高线数衍射光栅的衍射效率计算，主要针对矩形和梯形光栅的衍射效率进行数值计算，包括考虑实际情况中光栅存在一定表面粗糙度衍射效率的计算，通过模拟，讨论参数光栅槽形和槽深对衍射效率的影响。为光栅的刻制提供了依据。3、对本设计方案的误差源进行分析，误差源包括自身的干扰和外部的扰动。自身干扰包括主要是光路结构误差和电路误差，光路结构误差包括光栅引入的误差和光源引入的误差等，电路误差主要是光电转换误差和计数细分误差。外部的扰动包括环境的误差和光栅导轨直线度误差。鉴于本系统的结构和电路处理方法，降低了对自身干扰和外部干扰的敏感度，对其中影响较大的导轨的直线度误差重点进行了分析和计算，并对其中一项影响最大的光栅俯仰误差，采用了修正的方法，从而大大提高了系统的精度，经过修正后，系统的最大定位误差由±80nm降到±30nm。4、对光栅干涉测量系统的信号高精度处理方法进行研究,其中包括电路的设计，高精度弦波计数细分方法，采用方波信号过零触发上升沿计数和辨向方法，细分采用高精度的弦波信号反正切方法，降低了对两路信号幅值完全相同的要求。针对电路部分，还专门设计了一种光栅光电信号测试装置用来测试电路的可靠性和实用性。5、最后做了一系列验证试验，包括位移测量实验，小步距和长行程实验，稳定度实验和高频噪声测试实验，验证了该系统满足测量要求。本文取得的主要创新点为：1、设计了一套高精度衍射光栅干涉位移传感器系统，主要适用于高档数控机床，其定位精度可以达到±20nm。2、分析了测量元件——衍射光栅的特性，主要包括光栅形貌对光栅的衍射效率影响，针对高线数和低线数光栅分别采用了标量和矢量的衍射理论进行了衍射效率计算，为光栅的刻制和工艺要求提供了依据。3、对影响光栅干涉位移传感器系统的主要误差源进行了分析和计算，得到光栅导轨的俯仰误差对测量机的精度影响较大，针对此项误差，采用了实验验证并对此项误差进行了修正，修正后系统的定位误差降低了±50nm。4、研究了光栅干涉测量系统的信号高精度处理方法,实现光栅信号的高精度细分和辨向。