随着光电技术的迅猛发展,光电跟踪系统在军事和民用领域得到广泛的应用。要实现光电跟踪系统对目标的高性能跟踪,高性能的伺服控制技术以及对目标的实时、稳定跟踪性能是必须解决的关键问题。针对上述问题,采用理论与实验相结合的策略对高性能的伺服控制以及目标的实时、稳定跟踪技术展开深入研究。首先,介绍了系统的工作原理与电视跟踪原理,对伺服转台系统的机理展开分析,建立伺服转台系统的线性机理模型,在对非线性机理进行深入分析的基础之上,建立了基于LuGre模型的系统非线性方程。此外,阐述了影响系统跟踪精度的主要因素和系统跟踪性能的要求。其次,对伺服转台系统采用基于摩擦补偿的控制策略展开研究。根据建立的系统非线性方程,利用遗传算法实现LuGre模型静态参数的辨识,再选用非线性最小二乘法实现LuGre模型动态参数的辨识。针对伺服转台控制系统中非线性摩擦模型参数的变化以及其他干扰问题,提出一种自适应积分反步滑模控制的摩擦补偿方法,并使闭环系统的渐进稳定性得到了保证,仿真实验证明了该策略的有效性和稳定性。在此基础上,针对滑模控制不可避免的会出现抖震现象降低系统的控制性能问题,提出了一种鲁棒自适应积分反步控制的摩擦补偿策略,并用Lyapunov理论证明了该策略的渐进稳定性,仿真对比实验证明了该策略比前者有更好的鲁棒性,并且有效的提高了系统的控制精度。再次,针对目标跟踪过程中的实时性和稳定性要求,提出了改进的KCF（kernelized correlation filter）算法。该方法融合了自适应搜索窗口阈值法、KCF方法和Kalman滤波方法。自适应搜索窗口阈值算法能够根据图像中目标的尺寸自适应选择阈值来提高KCF算法的跟踪性能。目标跟踪过程中,当前一帧与当前帧的位置变化大于距离阈值时,采用Kalman滤波方法对目标位置展开预测跟踪,进而提升目标跟踪算法的跟踪性能。通过该方法与KCF方法以及一些先进的跟踪方法展开对比研究,验证了该方法的有效性和跟踪性能。最后,根据光电跟踪系统的软、硬件条件,通过对上述目标跟踪方法进行分析,提出了适用于本系统工控机处理性能的目标跟踪策略。将基于摩擦补偿的控制策略和目标跟踪策略相结合形成系统目标跟踪策略并进行实际的摩擦补偿控制试验和目标阶跃跟踪试验,实验结果证明了该策略的有效性和稳定性。