人脸识别系统具有便捷、可交互、非侵入性等优点,被广泛应用于日常生活,但它容易受低成本的欺诈攻击如视频重放、相片攻击等的威胁。因此,人脸欺诈/反欺骗检测是保障人脸识别系统安全的必要前提。现有人脸欺诈检测算法虽然库内性能大多优良,但由于目标域和源域的数据分布差异,跨库泛化性能明显下降。此外,现有人脸识别系统较少考虑新型对抗攻击,这种安全隐患将影响人脸识别系统的可靠性。为此,本文从提高人脸欺诈检测算法泛化性和对抗攻击开展研究,主要工作如下:1、针对现有人脸欺诈检测算法在二分类时存在辅助信息不足和不同目标域性能下降的问题,提出一种基于3D点云监督和置信度修正的人脸欺诈检测算法。主要贡献包括:第一,提取深度特征与采样的位置信息拼接,利用3D点云重建与监督,建立深度特征和位置的像素级匹配关系,并以此预测3D点云;第二,设计置信度预测网络预测像素级置信度图,对预测3D点云进行修正,以适配不同目标域;第三、设计浅层深度特征提取网络并进一步轻量化。实验结果表明,该算法在保证库内性能的同时,跨库泛化性明显提高,同时模型显著缩小,计算复杂度大幅降低,适合实际部署。2、针对现有人脸对抗攻击算法普遍存在样本生成速度慢、计算复杂高、人脸适配难的问题,提出一种基于单类样本生成和关键点适配的数字域人脸对抗攻击算法。以生成眼镜形状对抗扰动为例,主要贡献包括:第一,设计生成器网络实现基于单类样本生成对抗扰动;第二,根据人脸关键点构建眼镜掩膜,可随人脸自适应确定对抗扰动的形状、大小及位置;第三,设计对抗损失函数,通过惩罚正确判断和鼓励攻击来构建数字域对抗样本。实验结果表明,该算法能在数字域以高成功率攻破人脸识别系统VGGFace10,最后在实验基础上构建了一个人脸对抗攻击数据库。3、在上述第2点实现数字域对抗攻击的基础上,针对物理域复现难和攻击成功率低的问题,提出一种基于打印分数损失和模拟增强的物理域人脸对抗攻击算法。该算法通过打印机打印并佩戴攻击简便地实现物理域复现,并通过设计打印分数损失函数减小打印色差,通过模拟攻击过程和光照变化数据增强减小环境差异,以提高攻击成功率。实验结果表明,该算法可在物理域攻破VGGFace10,且打印分数损失和模拟增强有助于提高攻击成功率。