论文部分内容阅读
随着社会信息化程度的不断提高,人脸识别技术已突破了理论研究阶段开始广泛应用于各行各业。从公安系统对罪犯的身份识别,到一般公司对员工的自动考勤系统,人脸识别技术的应用需求日益增长,已成为众多生物特征识别技术中最具发展前景的技术之一。非负矩阵分解(Non-negative Matrix Factorization,NMF)是一种经典的子空间降维算法,因其具有较好的可解释性而广泛应用于人脸识别领域。然而基于传统非负矩阵分解算法的人脸识别往往采用的是批量学习的方式,当人脸数据规模持续增加时,会出现数据学习速度落后于更新速度的现象。因此,为满足人脸识别在线学习的要求,利用增量学习的方法持续从新增训练样本中不断学习新的知识来更新原有的训练模型就显得尤为重要。本文针对小样本人脸数据库的增量学习问题,研究并改进了几种增量式学习的算法模型,取得了以下几方面研究工作:1.介绍了非负矩阵分解的研究背景、算法模型及优化求解方法,并进一步介绍了基于NMF算法的几种主流增量学习模型,包括增量式非负矩阵分解(Incremental Non-negative Matrix Factorization,INMF)算法、增量式图正则非负矩阵分解(Incremental Graph Regulated Non-negative Matrix Factorization,IGNMF)算法和增量式正交投影非负矩阵分解(Incremental Orthogonal Projective Non-negative Matrix Factorization,IOPNMF)算法等,并对上述几种算法进行了比较和分析。2.针对传统增量式非负矩阵分解算法存在的因子矩阵稀疏性不高、人脸基图像的局部表达性一般等问题,提出了一种稀疏约束下增量式非负矩阵分解(Incremental Non-negative Matrix Factorization with Sparseness Constraints,INMFSC)的人脸识别算法。该方法通过对传统的增量式非负矩阵分解算法的目标函数施加稀疏约束,分别对分解后的基矩阵和系数矩阵进行稀疏权重系数的赋值,并采用乘性迭代的方法实现改进目标函数的求解。通过在ORL和CBCL人脸数据库上的实验表明了该算法提高了因子矩阵的稀疏性,同时大大提高了优化求解的速度,并且相较于传统算法的人脸基图像具有更好的局部表达性。3.针对基于无监督增量学习的传统增量式非负矩阵分解算法在降维子空间中聚类准确率和归一化互信息值较低的问题,提出了一种增量式受限非负矩阵分解(Incremental Constrained Non-negative Matrix Factorization,ICNMF)的人脸识别算法。该算法在基于半监督学习的受限非负矩阵分解(Constrained Non-negative Matrix Factorization,CNMF)算法的基础上,利用分块矩阵的思想实现了一种半监督增量学习模式,不仅继承了传统增量式非负矩阵分解算法的优势,同时能够根据新增样本携带标签信息与否分别进行因子矩阵的增量更新。通过在ORL、Yale和PIE_pose27三个不同规模人脸数据库上的实验,证明了该算法在聚类方面具有较高的准确度和归一化互信息值。4.针对传统增量式非负矩阵分解算法识别率不高、收敛速度一般等问题,提出了一种增量式鉴别非负矩阵分解(Incremental Discriminant Non-negative Matrix Factorization,IDNMF)的人脸识别算法。增量式非负矩阵分解算法是一种基于子空间降维技术的无监督增量学习方法,缺少标签信息的利用对于人脸识别的效果及算法收敛性能均会有一定程度的负面影响。基于此,文本在以往无监督学习模式下的增量式非负矩阵分解算法基础上,利用初始训练样本数据和新增训练样本的类别信息,将同类别训练样本对应的系数向量均值作为初始迭代值,并在类内欧氏距离最小的约束下建立目标泛函,从而获得更具鉴别性的特征并使优化求解时所需迭代次数明显减少。通过在ORL和PIE人脸数据库上的实验验证了该算法收敛速度快、分类精度高,且较批量式算法有更高的效率优势。5.在增量式鉴别非负矩阵分解的基础上,针对标签信息的利用进一步进行了优化和改进,提出了一种基于Fisher判别分析的增量式非负矩阵分解(Incremental Non-negative Matrix Factorization Based on Fisher Discriminant Analysis,FINMF)人脸识别算法。为进一步提高标签信息在增量式非负矩阵分解算法中的作用,本文将Fisher判别分析思想引入增量式非负矩阵分解中,提出了一种基于Fisher判别分析的增量式非负矩阵分解算法。首先,利用初始样本训练的先验信息,通过指示矩阵对新增系数矩阵进行了初始化赋值;其次,将增量式非负矩阵分解算法的目标函数改进为批量式的增量学习算法,并在此基础上施加了类间散度最大和类内散度最小的约束;最后,采用乘性迭代的方法计算出分解后的因子矩阵。通过在ORL、Yale B和PIE三个不同规模人脸数据库上的实验证明了该算法在同类算法中具有较高的识别率及较低的时间开销。