缺陷的产生是光刻工艺中不可避免的,主要包括光刻材料的物理特性和工艺因素引入的各种缺陷,以及随着特征尺寸不断缩小而使实设计与制造不完全匹配引入的成像缺陷等,在一定程度制约着芯片制造业的发展。目前随着集成电路进入亚纳米技术节点,可识别的最小缺陷越来越精细,这给光学和电子束缺陷检测系统带来了挑战。缺陷是芯片良率的主要影响因素之一,本研究涉及的缺陷包括固体残留、坍塌、水渍污染。这些缺陷特征跨度大,对设备的识别算法具有较高要求。并随着工艺控制越来越关键,缺陷的识别和定位工作显得尤为重要。在缺陷样本量少、电子束测量分批次、特征差异大的严峻条件下,本研究通过可行性分析和调研,在对原始神经网络进行针对性修改后,对比验证了改进的神经网络在本课题识别任务的优势,最终构建了适合本课题识别任务的、基于迁移学习与预训练的微调神经网络,并研究了采用不同优化器对缺陷训练效果的影响,进而实现优化器的择优。本研究使用两种微调的VGG神经网络模型,实现了缺陷的自主识别和分类,识别准确率分别为95.0%和91.1%,同时分析了两种网络结构的复杂度对识别精度的影响。本研究还建立了缺陷的可视化显示和定位算法模型,通过使用可视化神经网络的中间激活方法,展示网络逐层提取缺陷图像的深层次特征的过程,进而实现了对缺陷特征识别过程的分析。并采用梯度加权类激活映射技术生成缺陷的热力图,通过热力图与原始图像的图像融合实现了对缺陷的定位,以便可视化评估模型的分类效果,进而实现模型的调试与完善。本文还将缺陷图像的识别与可视化方法成功地拓展到集成电路版图的自动识别领域。通过对6种光刻工艺特殊图形进行神经网络的迁移学习,识别准确率高达97.7%。本文充分地验证了迁移学习在集成电路光刻缺陷识别领域的工程应用价值,并提升了缺陷显示的友好程度。尽管用于训练的样本不在同一批次、数量有限且特征跨度很大,但经过针对性的调参与改善后,部署的模型展示了良好的缺陷预测与定位能力。