最小二乘支持向量机是一种基于支持向量机的改进算法,针对小样本建模问题,具有结构简单、全局最优、直观的几何可解释性和较强的泛化能力等优点。然而,如何提高最小二乘支持向量机算法解的稀疏性以及算法的泛化性,需要进一步的研究。本文重点从增强稀疏性和提高泛化性这两个角度对最小二乘支持向量机进行研究。论文的主要研究工作如下：1.针对最小二乘支持向量机的解缺乏稀疏性的问题,提出了l0-范数稀疏最小二乘支持向量机。该算法首先在最小二乘支持向量机的结构风险最小化的优化目标函数中加入l0-范数调整项,然后在原空间进行求解,使用迭代的方法进行稀疏化。人工数据、标称数据集和工业数据的实验表明该算法具有很强的稀疏性,且能保持很好的泛化性能。2.针对最小二乘支持向量机的泛化性能提高问题,提出了一种选择性集成最小二乘支持向量机。选择性集成算法由个体生成和结论合成两方面组成,对于个体生成部分使用噪声注入的方法生成子模型的新的训练样本,对于结论合成方面使用压缩感知中的贪婪算法OMP算法来进行集成。航空煤油干点软测量实验表明该选择性集成算法能够提高最小二乘支持向量机的泛化精度。3.考虑核函数对最小二乘支持向量机泛化性的影响,提出了基于lp-范数约束的多核学习最小二乘支持向量机。本文提供了两种求解方法,均使用两重循环来求解,外循环用于更新核函数的权值,内循环用于求解最小二乘支持向量机的拉格朗日乘数a。单变量和多变量函数的实验结果表明,该算法能够提高泛化性能,且对惩罚参数的选择具有比较强的鲁棒性。