许多研究表明神经网络模型容易受到对抗样本的攻击,对抗样本是对输入数据施加了人眼不可见的轻微扰动使得神经网络模型以高置信度返回错误的结果。带有神经网络组件的自动驾驶系统（ADS）的安全性容易遭受对抗样本的威胁,但是这种能使得神经网络模型出错的对抗样本却不一定会给整个ADS带来安全问题。我们把能够对包含智能组件的智能系统造成安全威胁的对抗样本,称为“安全攸关对抗样本”。因此,一种能够识别这些安全攸关对抗样本的方法,将有助于提高ADS的安全性。本文提出了一种基于模型检测的自动驾驶领域安全攸关对抗样本识别方法。使用时间自动机网络模型对自动驾驶场景、智能车辆感知与决策行为以及对抗样本攻击行为进行刻画。使用TCTL（Timed CTL）刻画ADS需要满足的安全性质,并使用模型检测工具UPPAAL对这些安全性质进行验证,以判断进行攻击的对抗样本是否是安全攸关对抗样本。模型检测的结果可以揭示导致ADS进入不安全状态的对抗攻击时机,从而指导防御机制的部署以应对此类攻击。本文使用了主流的对抗攻击算法,针对目标检测模型使用了TOG（一组对抗目标梯度攻击算法）和UDOS（Universal Dense Object Suppression）算法,它们能使目标检测器在大多数图片中无法找到目标。本文在智能驾驶仿真平台CARLA中搭建了一些自动驾驶场景,从场景中采集原始样本,然后挑选由模型检测技术得到的攻击时机,使用上述对抗攻击算法生成原始样本的对抗样本,并在CARLA仿真平台中验证这些对抗样本确实能够导致安全问题,从而佐证了本文提出的方法的有效性。最后在智能驾驶仿真平台CARLA中将对抗样本与原始样本替换模拟对抗攻击的结果,结果证明了本文提出的方法有效性,安全攸关的对抗样本确实能够使得自动驾驶车辆发生安全事故。主要的工作包括:1.提出了安全攸关对抗样本（SCAEs）的形式化定义。把传统的对抗样本和概念扩大到整个智能系统的安全层面上,更加有利于分析和评估对抗样本对系统安全的影响。2.提出了一种基于模型检测的安全攸关对抗样本识别方法,从给定的自主驾驶场景中找出SCAEs。对于特定的对抗样本生成算法,该方法可以得到攻击的目标和对抗攻击的关键时间区间,该方法可以计算出能够使目标系统违反指定安全性质的关键攻击时机（时间区间）。3.使用模型检测工具UPPAAL和仿真平台CARLA,在智能驾驶典型模拟实验场景中对本文提出的SCAE识别方法进行了应用验证。从仿真结果可以得出结论,使用模型检测器找到的SCAEs一定会导致自动驾驶车辆发生安全事故。