论文部分内容阅读
人工神经网络系统(Artificial Neural Network, ANN)是通过仿真和模拟生物的神经系统而获得非线性处理能力的一种模型。它是由大量的神经元模型按照一定的拓扑结构连接而成。它能通过神经元模型的简单计算复合映射获得复杂的非线性映射能力,因此被广泛的应用在模式识别、图像处理、数据挖掘、信号处理、自动控制等多个领域。人工神经网络系统模型中最常用的一种模型是多层感知器网络模型(Multi-Layer Perceptrons, MLP)。它是由多层神经元模型构成,每个神经元模型采用Sigmoid激励函数MLP网络模型最常使用的学习算法是误差反向传播算法(Back-Propagation, BP),因此又称BP神经网络。神经网络传统的BP学习算法是梯度下降法,学习因子是实验者根据经验设定的固定值,但由于误差函数的高维复杂性和学习因子大小设定不当,梯度下降算法在学习过程中存在误差收敛速度过慢甚至不收敛、误差出现震荡、容易陷入局部极小点等问题。本文在三层全互联MLP网络模型的基础上,针对传统BP梯度下降算法存在的不足,介绍了几种改进算法,主要包括加速梯度下降法、共轭梯度法、输出权值优化算法、学习因子优化算法,多重学习因子优化算法等。其中加速梯度法将学习因子修改为根据误差函数对学习因子的梯度为零计算得到;共轭梯度法是将数学中共轭优化的原理应用到计算学习因子的过程中,它首先计算误差函数对学习因子的梯度的共轭梯度,然后用共轭梯度代替原来的梯度计算学习因子;输出权值优化算法通过构造线性方程组计算得到输出层的权值,因为它只对输出层做优化,所以可以和加速梯度法或共轭梯度法结合使用;学习因子优化算法是利用了误差函数与学习因子之间的高阶导数信息来计算学习因子;多重学习因子优化算法是在学习因子优化算法的基础上,将学习因子扩展为一个向量,向量的中每一项对应一个隐含层节点的学习因子。在公共数据集上的实验结果表明,改进后的算法能够有效的解决神经网络传统BP梯度下降法存在的不足。神经网络模型被广泛的应用在人脸识别领域。本文设计一个基于MLP神经网络模型的分类器,该分类器使用的BP学习算法,并应用在复杂光照条件下的人脸识别系统中。本文提出了一种人脸图像特征提取的方法,该方法首先使用Gabor小波滤波器对人脸图像进行多方向、多尺度的滤波,然后将滤波后的图像进行自适应阈值二值化,最后分块提取每个图像的特征组成特征向量。为了降低神经网络分类器的计算复杂度,首先使用主成分分析(PCA)对特征向量降维,然后使用神经网络分类器进行学习和分类识别。该方法结合了Gabor小波滤波器、自适应阈值二值化和神经网络分类器在处理不均匀光照方面的优势,在Yale extend B人脸数据库上的实验结果表明该方法能够取得很好的分类识别结果。