运动目标检测是光学成像系统的关键技术，也是当前计算机视觉领域的研究热点。近年来，大量用于成像运动目标检测的方法相继提出，许多新理论、新思想被引入到目标检测中来，有力推动了这一技术的发展。但是，许多制约目标检测性能的关键问题仍然没有得到很好解决，因此，有必要对这一技术做进一步的深入研究。论文针对复杂背景下的运动目标检测技术展开研究，分别建立了适用于静态背景和动态背景的目标检测方法。其中，前一方法采用分数维数表征图像区域的运动属性，并基于此检测运动目标；后一方法采用统计分形模型描述图像灰度场的时域变化，并基于此估计光流场进而检测运动目标。全文主要工作总结如下：1)提出了基于三帧联合散点图（3F-JSD）的运动目标检测技术，解决了背景的遮挡与显露、光照变化、噪声干扰等目标检测中的传统难点问题。该方法把图像区域的运动状态与其对应的3F-JSD的分数维数特征对应起来，通过对3F-JSD分类提取含目标区域，并通过对3F-JSD的分割提取运动目标。实验结果表明，这种方法可以准确提取静态背景下的运动目标。2)提出了基于分形布朗运动模型的光流基本方程（BE-FBM），解决了自然场景光流场的准确估计问题。论文从理论和实验两个方面论证了自然图像灰度场的空域分布符合分形布朗面（FBS）模型，而后在此基础上提出采用分形布朗运动（FBM）模型描述自然图像灰度场的时域分布，最后基于FBM模型推导了新的基本方程BE-FBM。实验结果表明，BE-FBM比基于灰度恒定假设的传统基本方程（BE-HIC）更适用于自然场景的光流场估计。3)提出了基于加权最小二乘中值（LWMS）的局部光流方法，解决了物体边角区域的光流场估计问题。LWMS方法首先采用得分机制，对局部窗口内的像素进行初次筛选；而后根据初次筛选结果估计初始光流，并启动邻域校正机制，对初始光流进行校正；继而根据校正后的初始光流值计算邻域窗口内每一像素的光流“残差”，并据此对像素进行二次筛选；最后根据二次筛选结果估计最终光流值。像素筛选和邻域校正使得LWMS方法能在物体边角区域给出高精度的光流估计。4)提出了基于失配检测、光流扩散、角点匹配等多技术融合（MTF）的全局光流方法，解决了大位移条件下失配场景区域和小结构物体的光流场估计问题。MTF方法首先采用基本方程约束、失配约束、有向平滑约束和匹配光流约束构造代价函数，而后在多尺度框架下采用Lorentz方法求解光流场。其中，匹配光流约束下的多尺度方法有效解决了小结构物体的光流场估计问题；失配约束和有向平滑约束的采用有效解决了失配区域的光流场估计问题。5)采用多尺度归一化分割（M-NCut）方法，实现了对光流场的准确分割。M-NCut方法包括顶点合并和顶点分割两部分。在顶点合并步骤，该方法把光流场中的每一光流值作为图的一个顶点，而后根据顶点的相似度逐级对顶点进行合并。当显著顶点出现时，顶点合并过程暂停，转入顶点分割过程。在顶点分割过程，显著顶点的状态矢量被逐级传递到原始光流场，从而得到光流场的一个分割。顶点合并和顶点分割过程循环往复，直到完成整个光流场的分割为止。6)给出了基于光流场的运动目标检测（MOD-OFF）的技术流程，实现了动态背景下的运动目标检测。采用具有广泛代表性的动态背景图像序列对MOD-OFF方法的性能进行测试，结果表明，该方法在各类图像中都能提取到完整的目标，其性能远优于其他方法。同时，光变、噪声实验结果表明，该方法具有较高的鲁棒性。