特征提取是模式识别和机器学习研究领域的核心研究内容，其目的是为了克服分类器所面临的维数灾难和过拟合等难题。平均近邻最大间隔(Average NeighborhoodMargin Maximization, ANMM)是近期提出的一种特征提取方法，它能够有效地克服制约线性判别分析(Linear DiscriminantAnalysis, LDA)的小样本问题。ANMM能够使同类数据尽量集中，同时使异类数据尽量分散。为了提高ANMM的抗噪声能力和泛化能力，本文完成了以下两方面的研究工作：1.在ANMM基础之上，提出了基于相关熵的平均近邻最大间隔(Correntropy basedANMM, CANMM)，即利用相关熵代替传统方法中的欧氏距离，提高了ANMM的抗噪声能力，同时利用半二次优化技术CANMM的优化问题，提高了求解效率。2.提出了两种基于正则化相关熵的平均近邻最大间隔特征提取方法。正则化方法通过约束参数的范数对其起到限制作用，提高了CANMM的泛化性能。其中，增加L2范数的正则化项，有助于提高CANMM的抗过拟合能力，在一定程度上减少了过拟合情况的出现。此外，增加L1范数的正则化项并通过替代函数方法求解，同时采用贝叶斯方法实现正则化参数的自动选择。在AR、YALE-B和ORL标准人脸数据库上的实验结果表明，所提改进方法均能提高ANMM的泛化能力和抗噪声能力。